악성코드, AI 인프라 표적으로 데이터와 로그인 정보 탈취 및 파일 파괴 가능

새로 발견된 해킹 도구가 인공지능 인프라를 표적으로 삼아 피해자 시스템의 사각지대를 악용하여 민감한 데이터와 자격 증명을 탈취하고 있습니다. AI 개발 환경에서 발견된 이 악성코드는 최근 보고서에 따르면 '죽음의 스위치'를 활성화하여 파일을 파괴하고 합법적인 사용자를 잠글 수도 있습니다.

이 도구는 AI 모델을 구축하거나 배포하는 조직, 특히 머신러닝 프레임워크와 클라우드 기반 AI 서비스를 사용하는 조직에 영향을 미칩니다. 훈련 데이터, 모델 코드, 배포 파이프라인을 처리하는 시스템을 손상시켜 지적 재산권과 독점 알고리즘을 위험에 빠뜨립니다. 이 공격이 중요한 이유는 AI 인프라가 전통적인 IT 시스템보다 덜 모니터링되는 경우가 많아 공격자에게 은밀한 발판을 제공하기 때문입니다.

2025년 3월 12일 사이버보안 회사 SentinelOne이 발표한 보고서는 'ShadowAI'로 명명된 이 악성코드가 적어도 2024년 말부터 활동해 왔다고 상세히 설명합니다. 북미와 유럽의 15개 이상의 조직에서 탐지되었으며, 주요 기술 회사와 정부 연구소가 포함됩니다. 이 악성코드는 손상된 오픈소스 AI 라이브러리와 AI 엔지니어를 표적으로 한 피싱 이메일을 통해 확산됩니다.

이전 개발 사항을 보면, 동일한 회사에 따르면 AI 공급망에 대한 유사한 공격이 지난 2년 동안 300% 증가했습니다. 새로운 도구는 더 정교해져서 AI 자체를 사용하여 정상적인 시스템 동작을 모방함으로써 탐지를 회피합니다. API 키, 모델 가중치, 훈련 데이터 세트를 훔친 다음 암호화된 채널을 통해 유출할 수 있습니다.

다음 단계로 AI 개발자에게 종속성을 감사하고 더 엄격한 접근 제어를 구현하도록 촉구합니다. SentinelOne은 AI 워크로드에 대한 런타임 모니터링을 사용하고 개발 환경을 프로덕션 시스템과 분리할 것을 권장합니다. 또한 이 악성코드의 '죽음의 스위치'가 원격으로 트리거되어 돌이킬 수 없는 데이터 손실을 초래할 수 있으므로 알려진 취약점에 대한 즉각적인 패치가 중요하다고 경고합니다.