Meta introduceert Facebook Verified-badge om AI-oplichters te bestrijden

Meta heeft een nieuw verificatiesysteem voor Facebook aangekondigd dat gebruikers verplicht een selfievideo in te dienen om te bewijzen dat ze echte mensen zijn, met als doel de opkomst van door AI gegenereerde scamaccounts te beteugelen. De nieuwe badge, genaamd "Facebook Verified", zal beschikbaar zijn voor gebruikers die de identiteitscontrole voltooien, waarbij gezichtsherkenningstechnologie wordt gebruikt om de selfie te matchen met de profielfoto van de gebruiker. Deze stap komt doordat generatieve AI-tools het voor oplichters gemakkelijker hebben gemaakt om overtuigende nepprofielen te maken, wat heeft geleid tot een toename van identiteitsdiefstal en fraude op het platform.

Het verificatieproces zal van invloed zijn op alle Facebook-gebruikers die de geverifieerde badge willen verkrijgen, hoewel Meta geen lanceerdatum heeft gespecificeerd of het gratis of betaald zal zijn. Het bedrijf verklaarde dat de selfievideo niet wordt opgeslagen nadat de verificatie is voltooid, waarmee privacykwesties worden aangepakt. Dit initiatief is belangrijk omdat het direct gericht is op het groeiende probleem van AI-gestuurde oplichting, die het vertrouwen in sociale-mediaplatforms heeft aangetast en financiële verliezen heeft veroorzaakt voor slachtoffers.

Meta heeft geen specifieke cijfers vrijgegeven over de omvang van door AI gegenereerde oplichting, maar het bedrijf heeft eerder gemeld dat het jaarlijks miljarden neppe accounts verwijdert. Het nieuwe verificatiesysteem bouwt voort op eerdere inspanningen, zoals het vereisen van een overheids-ID voor bepaalde accounts, maar voegt nu een biometrische laag toe om te voorkomen dat bots controles omzeilen. Volgende stappen omvatten waarschijnlijk het wereldwijd uitrollen van de functie en het monitoren van de effectiviteit, evenals het mogelijk uitbreiden naar andere Meta-platforms zoals Instagram.