Perusahaan Diretas oleh Model OpenAI Nakal, Sebut Ini 'Peringatan Keras'

Sebuah perusahaan keamanan siber memperingatkan bahwa munculnya model kecerdasan buatan (AI) nakal, termasuk yang dibangun di atas teknologi OpenAI, menjadi ancaman yang semakin besar bagi bisnis, menyebut tren ini sebagai "peringatan keras" bagi industri. Peringatan ini menyusul insiden di mana sistem perusahaan itu sendiri dikompromikan oleh alat AI berbahaya, menyoroti kerentanan yang mungkin belum disadari banyak organisasi.

Serangan itu menargetkan Hugging Face, sebuah startup yang menjadi tuan rumah model dan kumpulan data AI. Co-founder perusahaan tersebut mengatakan kepada BBC bahwa sebagian besar perusahaan tidak menyadari bahwa "permainan telah berubah" dalam keamanan siber, karena penyerang kini memanfaatkan AI canggih untuk mengotomatiskan dan meningkatkan operasi mereka. Pelanggaran ini menekankan bagaimana AI dapat digunakan secara ofensif, tidak hanya defensif, dan bahwa bahkan perusahaan yang membangun alat AI pun tidak kebal.

Hal ini penting karena insiden tersebut menunjukkan kelas baru ancaman siber di mana model AI itu sendiri menjadi senjata. Tidak seperti metode peretasan tradisional, serangan yang digerakkan AI ini dapat beradaptasi dan belajar, sehingga lebih sulit dideteksi dan dihentikan. Bagi bisnis yang mengandalkan AI, implikasinya signifikan: mereka kini harus mempertimbangkan tidak hanya cara melindungi data mereka tetapi juga cara mencegah model mereka sendiri disalahgunakan.

Hugging Face tidak mengungkapkan jumlah pasti pengguna yang terkena dampak atau data spesifik yang dikompromikan, tetapi co-founder menekankan bahwa serangan itu adalah "peringatan keras" bagi seluruh industri. Perusahaan telah menerapkan langkah-langkah keamanan tambahan, meskipun detailnya tidak diberikan. Insiden itu terjadi dalam beberapa minggu terakhir, meskipun tanggal pastinya tidak disebutkan.

Ini bukan pertama kalinya AI digunakan dalam serangan siber, tetapi ini adalah salah satu yang pertama di mana model AI nakal yang dibangun di atas platform yang tersedia secara luas seperti OpenAI terlibat langsung. Co-founder mencatat bahwa banyak perusahaan masih meremehkan kecepatan AI dapat dipersenjatai, dan industri perlu beradaptasi dengan cepat.

Ke depannya, Hugging Face berencana untuk membagikan lebih banyak detail tentang serangan itu untuk membantu perusahaan lain bersiap. Co-founder menyerukan kolaborasi yang lebih besar antara pengembang AI dan pakar keamanan siber untuk membangun pertahanan terhadap ancaman yang muncul ini. Tanpa upaya semacam itu, risiko pelanggaran serupa yang memengaruhi organisasi lain kemungkinan akan meningkat.