Malware menargetkan infrastruktur AI, mencuri data dan login, serta dapat menghancurkan file

Alat peretasan yang baru ditemukan menargetkan infrastruktur kecerdasan buatan, mengeksploitasi titik buta dalam sistem korban untuk mencuri data sensitif dan kredensial. Malware ini, yang ditemukan bersembunyi di lingkungan pengembangan AI, juga dapat mengaktifkan 'saklar kematian' untuk menghancurkan file dan mengunci pengguna yang sah, menurut laporan terbaru.

Alat ini memengaruhi organisasi yang membangun atau menggunakan model AI, terutama yang menggunakan kerangka kerja pembelajaran mesin dan layanan AI berbasis cloud. Alat ini mengompromikan sistem yang menangani data pelatihan, kode model, dan jalur penerapan, sehingga menempatkan kekayaan intelektual dan algoritma kepemilikan dalam risiko. Serangan ini signifikan karena infrastruktur AI seringkali kurang dipantau dibandingkan sistem TI tradisional, memberikan pijakan tersembunyi bagi penyerang.

Laporan tersebut, yang diterbitkan pada 12 Maret 2025 oleh perusahaan keamanan siber SentinelOne, merinci bagaimana malware—yang dijuluki 'ShadowAI'—telah aktif setidaknya sejak akhir tahun 2024. Malware ini telah terdeteksi di setidaknya 15 organisasi di Amerika Utara dan Eropa, termasuk sebuah perusahaan teknologi besar dan laboratorium riset pemerintah. Malware menyebar melalui pustaka AI sumber terbuka yang dikompromikan dan email phishing yang menargetkan insinyur AI.

Perkembangan sebelumnya menunjukkan bahwa serangan serupa pada rantai pasokan AI telah meningkat sebesar 300% selama dua tahun terakhir, seperti yang dicatat oleh perusahaan yang sama. Alat baru ini lebih canggih, menggunakan AI itu sendiri untuk menghindari deteksi dengan meniru perilaku sistem normal. Alat ini dapat mencuri kunci API, bobot model, dan kumpulan data pelatihan, lalu mengeksfiltrasinya melalui saluran terenkripsi.

Langkah selanjutnya termasuk mendesak pengembang AI untuk mengaudit dependensi mereka dan menerapkan kontrol akses yang lebih ketat. SentinelOne merekomendasikan penggunaan pemantauan runtime untuk beban kerja AI dan mengisolasi lingkungan pengembangan dari sistem produksi. Perusahaan juga memperingatkan bahwa 'saklar kematian' malware dapat dipicu dari jarak jauh, menyebabkan kehilangan data yang tidak dapat dipulihkan, sehingga penambalan segera terhadap kerentanan yang diketahui sangat penting.