Meta's AI-moddering verbant accounts op Facebook en Instagram

Meta, het moederbedrijf van Facebook en Instagram, vertrouwt steeds meer op kunstmatige intelligentie om zijn communityrichtlijnen te handhaven, wat heeft geleid tot een golf van accountverboden en verwijderingen van inhoud. Het geautomatiseerde systeem, ontworpen om overtredende berichten snel te identificeren en te verwijderen, heeft kritiek gekregen vanwege het gebrek aan nuance en frequente fouten, die een breed scala aan gebruikers treffen, van gewone individuen tot nieuwsorganisaties. Deze verschuiving is belangrijk omdat het vragen oproept over vrije meningsuiting en de verantwoordelijkheid van geautomatiseerde moderatie, vooral wanneer fouten legitieme stemmen kunnen doen zwijgen zonder menselijk toezicht.

Volgens een rapport van The New York Times is Meta's AI-modderingssysteem verantwoordelijk voor het verwijderen van miljoenen berichten en het verbannen van talloze accounts, vaak zonder duidelijke rechtvaardiging. Het artikel belicht specifieke gevallen waarin inhoud ten onrechte werd gemarkeerd, waaronder berichten van Garowe Online, een Somalische nieuwsuitzending, die te maken kreeg met beperkingen op Facebook. Het rapport geeft geen exacte aantallen verboden of data, maar merkt op dat de beslissingen van de AI vaak ondoorzichtig zijn, waardoor gebruikers beperkte mogelijkheden hebben om in beroep te gaan.

Achtergrond uit de bron geeft aan dat Meta de afgelopen jaren het gebruik van AI voor moderatie heeft uitgebreid, om de enorme hoeveelheid dagelijks geüploade inhoud aan te kunnen. Deze aanpak is echter eerder bekritiseerd vanwege onevenredige gevolgen voor gemarginaliseerde groepen en niet-Engelstaligen. Het laatste onderzoek volgt op eerdere controverses waarin Meta's algoritmen er niet in slaagden haatzaaiende uitlatingen of desinformatie op te sporen, terwijl ze onschuldige inhoud overmatig controleerden.

Vooruitkijkend suggereert de bron dat Meta zijn AI-systemen mogelijk moet verfijnen om een betere balans te vinden tussen handhaving en nauwkeurigheid. Het bedrijf kan te maken krijgen met toenemende druk van toezichthouders en het publiek om meer transparantie en menselijk toezicht te bieden bij moderatiebeslissingen. Zonder veranderingen blijft het risico groot dat gebruikers verder worden vervreemd en het vertrouwen in de platforms wordt ondermijnd.