La modération IA de Meta bannit des comptes sur Facebook et Instagram

Meta, la société mère de Facebook et Instagram, s'est de plus en plus appuyée sur l'intelligence artificielle pour faire respecter ses directives communautaires, entraînant une augmentation des bannissements de comptes et des suppressions de contenu. Le système automatisé, conçu pour identifier et supprimer rapidement les publications violant les règles, a été critiqué pour son manque de nuance et ses erreurs fréquentes, affectant un large éventail d'utilisateurs, des particuliers aux organisations de presse. Ce changement est important car il soulève des questions sur la liberté d'expression et la responsabilité de la modération automatisée, surtout lorsque des erreurs peuvent faire taire des voix légitimes sans supervision humaine.

Selon un rapport du New York Times, le système de modération IA de Meta a été responsable de la suppression de millions de publications et du bannissement d'innombrables comptes, souvent sans justification claire. L'article met en lumière des cas spécifiques où du contenu a été signalé à tort, y compris des publications de Garowe Online, un média somalien, qui a été confronté à des restrictions sur Facebook. Le rapport ne fournit pas de chiffres exacts sur les bannissements ou les dates, mais il note que les décisions de l'IA sont souvent opaques, laissant aux utilisateurs des recours limités.

Le contexte de la source indique que Meta a étendu son utilisation de l'IA pour la modération au cours des dernières années, visant à gérer le volume massif de contenu téléchargé quotidiennement. Cependant, cette approche a déjà été critiquée pour avoir affecté de manière disproportionnée les groupes marginalisés et les non-anglophones. Ce dernier examen fait suite à des controverses antérieures où les algorithmes de Meta n'ont pas réussi à détecter les discours de haine ou la désinformation tout en surveillant excessivement le contenu bénin.

Pour l'avenir, la source suggère que Meta pourrait avoir besoin d'affiner ses systèmes d'IA pour mieux équilibrer l'application des règles et la précision. L'entreprise pourrait faire face à une pression accrue de la part des régulateurs et du public pour offrir plus de transparence et de supervision humaine dans les décisions de modération. Sans changements, le risque d'aliéner davantage les utilisateurs et de saper la confiance dans les plateformes reste élevé.