메타, AI 사기꾼에 대응하기 위해 Facebook Verified 배지 도입

메타가 Facebook에 새로운 인증 시스템을 도입하여 사용자가 실제 인간임을 증명하기 위해 셀카 비디오를 제출하도록 요구하며, AI 생성 사기 계정의 증가를 억제하려고 합니다. 'Facebook Verified'라는 새 배지는 안면 인식 기술을 사용하여 셀카를 사용자의 프로필 사진과 일치시키는 신원 확인을 완료한 사용자에게 제공됩니다. 이 조치는 생성형 AI 도구로 사기꾼이 설득력 있는 가짜 프로필을 더 쉽게 만들 수 있게 되어 플랫폼에서 사칭과 사기가 급증한 데 따른 것입니다.

인증 과정은 인증 배지를 받고자 하는 모든 Facebook 사용자에게 적용되지만, 메타는 출시 날짜나 유료 여부를 명시하지 않았습니다. 회사는 인증이 완료된 후 셀카 비디오가 저장되지 않을 것이라고 밝혀 개인정보 보호 우려를 해소했습니다. 이 이니셔티브는 소셜 미디어 플랫폼에 대한 신뢰를 떨어뜨리고 피해자에게 재정적 손실을 초래한 AI 기반 사기의 증가 문제를 직접적으로 겨냥하기 때문에 중요합니다.

메타는 AI 생성 사기의 규모에 대한 구체적인 수치를 공개하지 않았지만, 회사는 이전에 매년 수십억 개의 가짜 계정을 제거했다고 보고했습니다. 새로운 인증 시스템은 특정 계정에 정부 발급 신분증을 요구하는 등의 이전 노력을 기반으로 구축되었지만, 이제 생체 인식 계층을 추가하여 봇이 검사를 우회하는 것을 방지합니다. 다음 단계는 전 세계적으로 기능을 출시하고 효과를 모니터링하며, 잠재적으로 Instagram과 같은 다른 메타 플랫폼으로 확장하는 것입니다.