MetaのAIモデレーションがFacebookとInstagramでアカウントを禁止

FacebookとInstagramの親会社であるMetaは、コミュニティガイドラインを施行するために人工知能への依存を強めており、アカウント禁止とコンテンツ削除の急増を招いている。違反投稿を迅速に識別して削除するように設計された自動システムは、そのニュアンスの欠如と頻繁なエラーにより批判を浴びており、一般ユーザーから報道機関まで幅広いユーザーに影響を与えている。この変化が重要なのは、自動モデレーションが人間の監視なしに正当な声を沈黙させる可能性がある場合に、表現の自由と説明責任について疑問を投げかけるからである。

ニューヨーク・タイムズの報道によると、MetaのAIモデレーションシステムは、明確な正当化なしに何百万もの投稿を削除し、無数のアカウントを禁止してきた。記事では、ソマリアのニュースサイトGarowe Onlineの投稿がFacebookで制限された事例など、誤ってフラグ付けされたコンテンツの具体的なケースを強調している。報告書は禁止の正確な数や日付を提供していないが、AIの決定はしばしば不透明であり、ユーザーに限られた救済手段しか残されていないと指摘している。

情報源からの背景によると、Metaは過去数年にわたり、毎日アップロードされる膨大な量のコンテンツを処理するために、モデレーションへのAIの使用を拡大してきた。しかし、このアプローチは以前から、疎外されたグループや非英語話者に不均衡に影響を与えるとして批判されてきた。最新の監視は、Metaのアルゴリズムがヘイトスピーチや誤情報を捕捉できなかったり、無害なコンテンツを過剰に取り締まったりした以前の論争に続くものである。

今後、情報源はMetaが執行と正確性のバランスを改善するためにAIシステムを洗練する必要があるかもしれないと示唆している。同社は、規制当局や一般市民から、モデレーションの決定における透明性と人間の監視を強化するよう圧力を受ける可能性がある。変更がなければ、ユーザーをさらに疎外し、プラットフォームへの信頼を損なうリスクが高い。