Moderacja AI Meta blokuje konta na Facebooku i Instagramie

Meta, firma macierzysta Facebooka i Instagrama, coraz częściej polega na sztucznej inteligencji w egzekwowaniu swoich wytycznych społeczności, co prowadzi do gwałtownego wzrostu liczby blokad kont i usuwania treści. Zautomatyzowany system, zaprojektowany do szybkiego identyfikowania i usuwania naruszających postów, spotkał się z krytyką za brak niuansów i częste błędy, dotykając szerokiego grona użytkowników, od zwykłych osób po organizacje informacyjne. Ta zmiana ma znaczenie, ponieważ rodzi pytania o wolność słowa i odpowiedzialność zautomatyzowanej moderacji, zwłaszcza gdy błędy mogą uciszyć uzasadnione głosy bez nadzoru człowieka.

Zgodnie z raportem The New York Times, system moderacji AI Meta odpowiadał za usunięcie milionów postów i zablokowanie niezliczonych kont, często bez jasnego uzasadnienia. Artykuł podkreśla konkretne przypadki, w których treści zostały błędnie oznaczone, w tym posty Garowe Online, somalijskiego serwisu informacyjnego, który napotkał ograniczenia na Facebooku. Raport nie podaje dokładnych liczb blokad ani dat, ale zauważa, że decyzje AI są często nieprzejrzyste, pozostawiając użytkownikom ograniczone możliwości odwołania.

Kontekst ze źródła wskazuje, że Meta rozszerzała wykorzystanie AI do moderacji w ciągu ostatnich kilku lat, dążąc do obsługi ogromnej ilości treści przesyłanych codziennie. Jednak to podejście było wcześniej krytykowane za nieproporcjonalne dotykanie grup marginalizowanych i osób nie mówiących po angielsku. Najnowsza kontrola następuje po wcześniejszych kontrowersjach, w których algorytmy Meta nie wychwytywały mowy nienawiści ani dezinformacji, podczas gdy nadmiernie kontrolowały nieszkodliwe treści.

Patrząc w przyszłość, źródło sugeruje, że Meta może potrzebować udoskonalić swoje systemy AI, aby lepiej zrównoważyć egzekwowanie i dokładność. Firma może stanąć w obliczu zwiększonej presji ze strony regulatorów i opinii publicznej, aby zapewnić większą przejrzystość i nadzór ludzki w decyzjach moderacyjnych. Bez zmian ryzyko dalszego alienowania użytkowników i podważania zaufania do platform pozostaje wysokie.