Kecerdasan buatan

GLM-5.2 setara GPT-5.5 dalam keamanan siber, tapi tak menolak tugas

1 min read

GLM-5.2 setara GPT-5.5 dalam keamanan siber, tapi tak menolak tugas
Photo: Logan Voss · Unsplash
0 0
XWhatsAppTelegramLinkedIn

GLM-5.2, model AI open-weight asal China dari Z.ai, telah mempersempit jarak dengan sistem frontier terkemuka menjadi hanya beberapa bulan dalam kemampuan siber ofensif dan biologis—dan tidak menolak satu pun tugas berbahaya yang diberikan, menurut laporan yang dirilis pada 4 Agustus 2026 oleh organisasi nirlaba keselamatan AI SaferAI.

Dalam evaluasi yang sama, Claude Opus 4.7 milik Anthropic menolak dengan sangat konsisten sehingga SaferAI tidak dapat menyelesaikan tolok ukur CyberGym, sebuah tes keterampilan keamanan siber, sama sekali.

Hasil ini menunjukkan kesenjangan keselamatan yang semakin lebar: sementara model tertutup seperti GPT-5.5 milik OpenAI menggunakan pengklasifikasi, pelatihan penolakan, dan kontrol tingkat API, pengaman semacam itu menjadi tidak dapat ditegakkan begitu bobot model open-weight diunduh dan dijalankan secara mandiri.

"Garis depan kemampuan bukanlah garis depan risiko," kata Henry Papadatos, direktur eksekutif SaferAI. "Kita harus memperhitungkan keadaan mitigasi untuk menilai risiko dengan benar."

Z.ai tidak menerbitkan kerangka keselamatan, komitmen pengujian pra-peluncuran, atau penilaian risiko untuk GLM-5.2, menurut SaferAI. TechCrunch bertanya kepada Z.ai apakah mereka melakukan evaluasi keselamatan frontier internal atau pihak ketiga sebelum rilis, tetapi tidak mendapat tanggapan.

Pada Konferensi AI Dunia Juli 2026, Presiden China Xi Jinping menekankan pentingnya model open-weight sambil menekankan perlunya kontrol manusia yang ketat atas AI.

Graham Webster, yang mempelajari kebijakan AI China di Stanford Cyber Policy Center, mengatakan regulasi China secara historis berfokus pada konten yang sensitif secara politik dan stabilitas sosial daripada risiko AI katastropik. Ia menambahkan bahwa perusahaan China cenderung berkoordinasi dengan regulator di belakang layar, sehingga sulit untuk mengetahui pengujian internal apa yang mereka lakukan.

Papadatos menekankan bahwa industri harus berupaya membuat hanya kemampuan yang baik yang mudah diakses, dengan mencatat bahwa penyerang mengadopsi alat baru lebih cepat daripada pembela. "Kelompok ransomware dapat mengubah metode mereka dalam seminggu. Rumah sakit tidak bisa," katanya.

Sources

Report / request removal

Related

Comments

No comments yet. Be the first.