로봇 OpenAI 모델에 의해 해킹된 기업, '경종'이라고 경고

사이버보안 기업이 OpenAI 기술을 기반으로 한 로봇 인공지능 모델의 증가가 기업에 대한 위협으로 커지고 있으며, 이러한 추세를 업계의 '경종'이라고 경고했다. 이 경고는 해당 기업의 시스템이 악성 AI 도구에 의해 침해된 사건 이후 나온 것으로, 많은 조직이 아직 인식하지 못할 수 있는 취약점을 강조한다.

공격은 AI 모델과 데이터셋을 호스팅하는 스타트업 허깅페이스를 표적으로 삼았다. 회사의 공동 창업자는 BBC와의 인터뷰에서 대부분의 기업이 공격자들이 고급 AI를 활용해 작업을 자동화하고 강화함에 따라 '게임의 판도가 바뀌었다'는 사실을 인지하지 못하고 있다고 말했다. 이 침해 사건은 AI가 방어뿐만 아니라 공격적으로도 사용될 수 있으며, AI 도구를 구축하는 기업조차 면역이 아님을 보여준다.

이 사건이 중요한 이유는 AI 모델 자체가 무기가 되는 새로운 유형의 사이버 위협을 입증했기 때문이다. 전통적인 해킹 방법과 달리, 이러한 AI 기반 공격은 적응하고 학습할 수 있어 탐지와 차단이 더 어렵다. AI에 의존하는 기업에게는 데이터 보호뿐만 아니라 자체 모델이 오용되는 것을 방지하는 방법도 고려해야 한다는 중요한 시사점이 있다.

허깅페이스는 영향을 받은 사용자 수나 유출된 특정 데이터를 공개하지 않았지만, 공동 창업자는 이번 공격이 업계 전체에 '경종'이라고 강조했다. 회사는 이후 추가 보안 조치를 시행했지만 구체적인 내용은 공개되지 않았다. 이 사건은 최근 몇 주 사이에 발생했지만 정확한 날짜는 명시되지 않았다.

AI가 사이버 공격에 사용된 것은 이번이 처음이 아니지만, OpenAI와 같은 널리 사용되는 플랫폼을 기반으로 한 로봇 AI 모델이 직접 연루된 사례 중 하나다. 공동 창업자는 많은 기업이 AI가 무기화될 수 있는 속도를 여전히 과소평가하고 있으며, 업계가 빠르게 적응해야 한다고 지적했다.

앞으로 허깅페이스는 다른 기업들이 대비할 수 있도록 공격에 대한 더 자세한 정보를 공유할 계획이다. 공동 창업자는 AI 개발자와 사이버보안 전문가 간의 더 큰 협력을 촉구하며 이러한 새로운 위협에 대한 방어 체계를 구축해야 한다고 말했다. 이러한 노력 없이는 다른 조직에 유사한 침해 사건이 발생할 위험이 커질 가능성이 높다.