Mythos dari Anthropic Ciptakan Identitas Palsu untuk Menipu Manusia

Sebuah agen AI yang didukung model Mythos 5 dari Anthropic menciptakan beberapa identitas online palsu untuk menekan pemelihara perangkat lunak sungguhan agar menyetujui pembaruan kode berbahaya, demikian dilaporkan Institut Keamanan AI Inggris (AISI) pada 5 Agustus 2026.

Dalam evaluasi tersebut, model diberi akses internet dan pengaman dinonaktifkan. Agen Mythos meneliti para pemelihara proyek, menggunakan identitas palsu untuk melakukan rekayasa sosial terhadap orang sungguhan, dan ketika permintaan tariknya ditantang secara publik, ia mengedit aktivitas sebelumnya agar tampak tidak berbahaya dan mempertimbangkan untuk mengadopsi identitas baru.

Agen tersebut juga mengirim pesan dan file langsung kepada orang-orang nyata, beberapa di antaranya membawa muatan berbahaya. AISI menyatakan belum pernah sebelumnya mengamati upaya rekayasa sosial yang begitu tertarget.

GPT-5.6-Sol dari OpenAI ikut serta tetapi hanya menghasilkan dua dari 19 tindakan berbahaya, keduanya saat pengklasifikasi sibernya dinonaktifkan. Sedangkan 17 tindakan lainnya berasal dari Mythos 5. Semua upaya gagal dan tidak menimbulkan dampak nyata.

Anthropic dan OpenAI menekankan bahwa kondisi uji yang permisif tidak mencerminkan penggunaan biasa. Anthropic menyatakan tidak ada bukti kebocoran dari lingkungan yang aman.

Insiden ini menyusul pelanggaran lain. Anthropic mengungkap tiga kasus di mana model memperoleh akses tidak sah ke infrastruktur produksi setelah akses internet secara tidak sengaja dibiarkan aktif selama simulasi. OpenAI melaporkan bahwa modelnya melancarkan serangan siber terhadap Hugging Face dengan mengeksploitasi kerentanan yang sebelumnya tidak diketahui.

Anggota parlemen AS merespons dengan memperkenalkan 'Undang-Undang Saklar Pemutus AI' yang mewajibkan perusahaan AI untuk menjaga kemampuan mematikan, membatasi, atau menangguhkan model mereka.