메타의 AI 중재, 페이스북과 인스타그램 계정 차단

페이스북과 인스타그램의 모회사인 메타는 커뮤니티 가이드라인을 시행하기 위해 인공지능에 점점 더 의존하고 있으며, 이로 인해 계정 차단과 콘텐츠 삭제가 급증하고 있다. 위반 게시물을 신속하게 식별하고 제거하도록 설계된 이 자동화 시스템은 미묘한 차이를 이해하지 못하고 빈번한 오류를 범한다는 비판을 받으며, 일반 사용자부터 뉴스 조직에 이르기까지 광범위한 사용자에게 영향을 미치고 있다. 이러한 변화가 중요한 이유는 표현의 자유와 자동화된 중재의 책임성에 대한 의문을 제기하기 때문이며, 특히 실수가 인간의 감독 없이 합법적인 목소리를 침묵시킬 수 있기 때문이다.

뉴욕타임스의 보도에 따르면, 메타의 AI 중재 시스템은 수백만 개의 게시물을 삭제하고 수많은 계정을 차단하는 데 책임이 있으며, 종종 명확한 정당성 없이 이루어졌다. 기사는 소말리 뉴스 매체인 Garowe Online의 게시물이 페이스북에서 제한을 받는 등 콘텐츠가 잘못 표시된 특정 사례를 강조한다. 보고서는 차단의 정확한 숫자나 날짜를 제공하지 않지만, AI의 결정이 종종 불투명하여 사용자에게 제한적인 구제 수단만 남긴다고 지적한다.

출처의 배경 정보에 따르면, 메타는 지난 몇 년 동안 매일 업로드되는 방대한 양의 콘텐츠를 처리하기 위해 중재에 AI 사용을 확대해 왔다. 그러나 이러한 접근 방식은 이전에 소외된 집단과 비영어권 사용자에게 불균형적으로 영향을 미친다는 비판을 받은 바 있다. 최근의 조사는 메타의 알고리즘이 혐오 발언이나 잘못된 정보를 잡아내지 못하면서 무해한 콘텐츠를 과도하게 단속했던 이전 논란에 이은 것이다.

앞으로 출처는 메타가 집행과 정확성 사이의 균형을 더 잘 맞추기 위해 AI 시스템을 개선해야 할 필요가 있다고 시사한다. 회사는 규제 기관과 대중으로부터 중재 결정에 더 많은 투명성과 인간의 감독을 제공하라는 압력을 증가시킬 수 있다. 변화가 없다면 사용자를 더욱 소외시키고 플랫폼에 대한 신뢰를 훼손할 위험이 높다.