Модерация Meta с помощью ИИ блокирует аккаунты в Facebook и Instagram

Meta, материнская компания Facebook и Instagram, все чаще полагается на искусственный интеллект для обеспечения соблюдения своих правил сообщества, что приводит к резкому росту блокировок аккаунтов и удалению контента. Автоматизированная система, предназначенная для быстрого выявления и удаления нарушающих публикаций, подверглась критике за отсутствие нюансов и частые ошибки, затрагивающие широкий круг пользователей — от обычных людей до новостных организаций. Этот сдвиг важен, поскольку он поднимает вопросы о свободе выражения мнений и ответственности автоматизированной модерации, особенно когда ошибки могут заглушить законные голоса без участия человека.

Согласно отчету The New York Times, система модерации ИИ Meta отвечает за удаление миллионов публикаций и блокировку бесчисленных аккаунтов, часто без четкого обоснования. В статье упоминаются конкретные случаи, когда контент был ошибочно помечен, включая публикации Garowe Online, сомалийского новостного издания, которое столкнулось с ограничениями в Facebook. В отчете не приводятся точные цифры блокировок или даты, но отмечается, что решения ИИ часто непрозрачны, оставляя пользователям ограниченные возможности для обжалования.

Предыстория из источника указывает на то, что Meta расширяет использование ИИ для модерации в течение последних нескольких лет, стремясь справиться с огромным объемом контента, загружаемого ежедневно. Однако этот подход ранее подвергался критике за непропорциональное воздействие на маргинализированные группы и неанглоязычных пользователей. Последняя критика последовала за предыдущими скандалами, когда алгоритмы Meta не смогли выявить разжигание ненависти или дезинформацию, при этом чрезмерно модерируя безобидный контент.

Заглядывая вперед, источник предполагает, что Meta, возможно, потребуется доработать свои системы ИИ, чтобы лучше сбалансировать правоприменение и точность. Компания может столкнуться с усилением давления со стороны регуляторов и общественности, требующих большей прозрачности и участия человека в решениях о модерации. Без изменений сохраняется высокий риск дальнейшего отчуждения пользователей и подрыва доверия к платформам.