Meta вводит значок Verified в Facebook для борьбы с мошенниками на основе ИИ

Meta объявила о новой системе верификации для Facebook, которая требует от пользователей отправки видео-селфи, чтобы доказать, что они реальные люди, с целью сдерживания роста мошеннических аккаунтов, созданных с помощью ИИ. Новый значок, названный «Facebook Verified», будет доступен пользователям, прошедшим проверку личности, которая использует технологию распознавания лиц для сопоставления селфи с фото профиля пользователя. Этот шаг предпринимается на фоне того, что инструменты генеративного ИИ упростили создание убедительных поддельных профилей, что привело к всплеску выдачи себя за других и мошенничества на платформе.

Процесс верификации затронет всех пользователей Facebook, желающих получить верифицированный значок, хотя Meta не указала дату запуска или будет ли он бесплатным или платным. Компания заявила, что видео-селфи не будет храниться после завершения верификации, что решает проблемы конфиденциальности. Эта инициатива важна, поскольку она напрямую направлена на растущую проблему мошенничества на основе ИИ, которое подорвало доверие к социальным платформам и привело к финансовым потерям для жертв.

Meta не опубликовала конкретные цифры масштаба мошенничества на основе ИИ, но ранее компания сообщала об удалении миллиардов поддельных аккаунтов ежегодно. Новая система верификации основана на предыдущих усилиях, таких как требование удостоверения личности для определенных аккаунтов, но теперь добавляет биометрический уровень для предотвращения обхода проверок ботами. Следующие шаги, вероятно, включают глобальное внедрение функции и мониторинг ее эффективности, а также возможное расширение на другие платформы Meta, такие как Instagram.