Kötü amaçlı yazılım, AI altyapısını hedef alıyor, veri ve giriş bilgilerini çalıyor ve dosyaları yok edebiliyor

Yeni keşfedilen bir hack aracı, yapay zeka altyapısını hedef alarak kurbanların sistemlerindeki kör noktalardan yararlanıp hassas verileri ve kimlik bilgilerini çalıyor. AI geliştirme ortamlarında gizlenen kötü amaçlı yazılım, yakın tarihli bir rapora göre dosyaları yok etmek ve meşru kullanıcıları kilitlemek için bir 'ölüm anahtarı'nı da etkinleştirebiliyor.

Araç, özellikle makine öğrenimi çerçeveleri ve bulut tabanlı AI hizmetleri kullananlar olmak üzere AI modelleri oluşturan veya dağıtan kuruluşları etkiliyor. Eğitim verilerini, model kodunu ve dağıtım boru hatlarını işleyen sistemleri tehlikeye atarak fikri mülkiyeti ve tescilli algoritmaları riske atıyor. Saldırı önemli çünkü AI altyapısı genellikle geleneksel BT sistemlerinden daha az izleniyor ve saldırganlara gizli bir dayanak noktası sağlıyor.

Siber güvenlik firması SentinelOne tarafından 12 Mart 2025'te yayınlanan rapor, 'ShadowAI' olarak adlandırılan kötü amaçlı yazılımın en az 2024'ün sonlarından beri aktif olduğunu detaylandırıyor. Kuzey Amerika ve Avrupa'da büyük bir teknoloji şirketi ve bir devlet araştırma laboratuvarı da dahil olmak üzere en az 15 kuruluşta tespit edildi. Kötü amaçlı yazılım, güvenliği ihlal edilmiş açık kaynaklı AI kütüphaneleri ve AI mühendislerini hedef alan kimlik avı e-postaları aracılığıyla yayılıyor.

Daha önceki gelişmeler, aynı firmanın belirttiğine göre AI tedarik zincirlerine yönelik benzer saldırıların son iki yılda %300 arttığını gösteriyor. Yeni araç daha sofistike olup, normal sistem davranışını taklit ederek tespit edilmekten kaçınmak için AI'nın kendisini kullanıyor. API anahtarlarını, model ağırlıklarını ve eğitim veri kümelerini çalıp bunları şifreli kanallar aracılığıyla sızdırabiliyor.

Sonraki adımlar, AI geliştiricilerini bağımlılıklarını denetlemeye ve daha sıkı erişim kontrolleri uygulamaya teşvik etmeyi içeriyor. SentinelOne, AI iş yükleri için çalışma zamanı izleme kullanılmasını ve geliştirme ortamlarının üretim sistemlerinden ayrılmasını öneriyor. Firma ayrıca, kötü amaçlı yazılımın 'ölüm anahtarının' uzaktan tetiklenerek geri dönüşü olmayan veri kaybına neden olabileceği konusunda uyarıyor, bu nedenle bilinen güvenlik açıklarının hemen yamalanması kritik önem taşıyor.