Meta wprowadza odznakę Facebook Verified do walki z oszustami AI

Meta ogłosiła nowy system weryfikacji dla Facebooka, który wymaga od użytkowników przesłania wideo selfie, aby udowodnić, że są prawdziwymi ludźmi, co ma na celu ograniczenie wzrostu liczby kont oszustów generowanych przez AI. Nowa odznaka, nazwana „Facebook Verified”, będzie dostępna dla użytkowników, którzy przejdą kontrolę tożsamości, wykorzystującą technologię rozpoznawania twarzy do dopasowania selfie do zdjęcia profilowego użytkownika. Ten krok następuje w momencie, gdy narzędzia generatywnej AI ułatwiły oszustom tworzenie przekonujących fałszywych profili, prowadząc do wzrostu podszywania się i oszustw na platformie.

Proces weryfikacji obejmie wszystkich użytkowników Facebooka, którzy chcą uzyskać odznakę weryfikacyjną, choć Meta nie określiła daty uruchomienia ani tego, czy będzie bezpłatna czy płatna. Firma oświadczyła, że wideo selfie nie będzie przechowywane po zakończeniu weryfikacji, co odpowiada na obawy dotyczące prywatności. Ta inicjatywa ma znaczenie, ponieważ bezpośrednio celuje w rosnący problem oszustw napędzanych przez AI, które nadszarpnęły zaufanie do platform społecznościowych i spowodowały straty finansowe dla ofiar.

Meta nie podała konkretnych liczb dotyczących skali oszustw generowanych przez AI, ale firma wcześniej informowała o usuwaniu miliardów fałszywych kont rocznie. Nowy system weryfikacji opiera się na wcześniejszych działaniach, takich jak wymaganie dowodu tożsamości dla niektórych kont, ale teraz dodaje warstwę biometryczną, aby uniemożliwić botom ominięcie kontroli. Kolejne kroki prawdopodobnie obejmują globalne wdrożenie funkcji i monitorowanie jej skuteczności, a także potencjalne rozszerzenie na inne platformy Meta, takie jak Instagram.