Вредоносное ПО нацелено на ИИ-инфраструктуру, крадет данные и логины, может уничтожать файлы

Недавно обнаруженный хакерский инструмент нацелен на инфраструктуру искусственного интеллекта, используя слепые зоны в системах жертв для кражи конфиденциальных данных и учетных данных. Вредоносное ПО, которое было обнаружено в средах разработки ИИ, также может активировать «аварийный выключатель» для уничтожения файлов и блокировки легитимных пользователей, согласно недавнему отчету.

Инструмент затрагивает организации, которые создают или развертывают модели ИИ, особенно те, которые используют фреймворки машинного обучения и облачные ИИ-сервисы. Он компрометирует системы, обрабатывающие обучающие данные, код моделей и конвейеры развертывания, подвергая риску интеллектуальную собственность и проприетарные алгоритмы. Атака значительна, потому что ИИ-инфраструктура часто менее контролируется, чем традиционные ИТ-системы, что дает злоумышленникам скрытую точку опоры.

Отчет, опубликованный 12 марта 2025 года компанией по кибербезопасности SentinelOne, подробно описывает, как вредоносное ПО, названное «ShadowAI», активно как минимум с конца 2024 года. Оно было обнаружено как минимум в 15 организациях по всей Северной Америке и Европе, включая крупную технологическую компанию и правительственную исследовательскую лабораторию. Вредоносное ПО распространяется через скомпрометированные библиотеки ИИ с открытым исходным кодом и фишинговые письма, нацеленные на ИИ-инженеров.

Более ранние разработки показывают, что подобные атаки на цепочки поставок ИИ увеличились на 300% за последние два года, как отмечает та же компания. Новый инструмент более сложен, использует сам ИИ для уклонения от обнаружения, имитируя нормальное поведение системы. Он может красть ключи API, веса моделей и обучающие наборы данных, а затем выводить их через зашифрованные каналы.

Следующие шаги включают призыв к разработчикам ИИ провести аудит своих зависимостей и внедрить более строгие контроли доступа. SentinelOne рекомендует использовать мониторинг времени выполнения для ИИ-нагрузок и изолировать среды разработки от производственных систем. Компания также предупреждает, что «аварийный выключатель» вредоносного ПО может быть активирован удаленно, вызывая необратимую потерю данных, поэтому немедленное исправление известных уязвимостей критически важно.