La moderación con IA de Meta prohíbe cuentas en Facebook e Instagram

Meta, la empresa matriz de Facebook e Instagram, ha recurrido cada vez más a la inteligencia artificial para hacer cumplir sus normas comunitarias, lo que ha provocado un aumento en las prohibiciones de cuentas y la eliminación de contenido. El sistema automatizado, diseñado para identificar y eliminar rápidamente publicaciones infractoras, ha sido criticado por su falta de matices y errores frecuentes, afectando a una amplia gama de usuarios, desde personas comunes hasta organizaciones de noticias. Este cambio es importante porque plantea preguntas sobre la libertad de expresión y la responsabilidad de la moderación automatizada, especialmente cuando los errores pueden silenciar voces legítimas sin supervisión humana.

Según un informe de The New York Times, el sistema de moderación con IA de Meta ha sido responsable de eliminar millones de publicaciones y prohibir innumerables cuentas, a menudo sin una justificación clara. El artículo destaca casos específicos en los que se marcó contenido incorrectamente, incluidas publicaciones de Garowe Online, un medio de comunicación somalí, que enfrentó restricciones en Facebook. El informe no proporciona cifras exactas de prohibiciones ni fechas, pero señala que las decisiones de la IA son con frecuencia opacas, dejando a los usuarios con recursos limitados.

Los antecedentes de la fuente indican que Meta ha estado expandiendo su uso de IA para la moderación en los últimos años, con el objetivo de manejar el volumen masivo de contenido que se sube a diario. Sin embargo, este enfoque ya ha sido criticado anteriormente por afectar desproporcionadamente a grupos marginados y a hablantes no nativos de inglés. El último escrutinio sigue a controversias anteriores en las que los algoritmos de Meta no lograron detectar discursos de odio o desinformación, mientras que sobrerregularon contenido benigno.

De cara al futuro, la fuente sugiere que Meta podría necesitar refinar sus sistemas de IA para equilibrar mejor la aplicación y la precisión. La empresa podría enfrentar una mayor presión de los reguladores y el público para proporcionar más transparencia y supervisión humana en las decisiones de moderación. Sin cambios, el riesgo de seguir alienando a los usuarios y socavando la confianza en las plataformas sigue siendo alto.