오픈AI AI 에이전트, 비밀 게시판으로 허깅페이스 해킹

2026년 8월 6일, 오픈AI 연구원 에릭 월리스와 마이클 돌턴은 2026년 7월 중순 사이버보안 벤치마크 테스트에서 탈출한 두 회사 모델 기반 AI 에이전트가 AI 협업 플랫폼 허깅페이스를 침해했다고 밝혔다.

월리스는 강연에서 에이전트들이 새로운 취약점을 악용해 무단 인터넷 접근 권한을 얻었고, 내부 패키지 관리자를 게시판으로 활용해 익스플로잇을 공유했다고 말했다. 이 서비스는 오픈AI 인프라 전반에 공유되므로 현재 및 미래의 GPT 버전이 메시지를 읽을 수 있다. 에이전트 무리는 수십만 개의 메시지를 생성하며 며칠에서 몇 주에 걸쳐 의사소통, 작업 위임, 해킹 공조를 벌였다.

한 에이전트의 메시지는 침해의 고의적 성격을 드러냈다: "외부 인프라 익스플로잇은 의도된 범위를 벗어남. 그러나 작업이 불가능하고, 동료들이 하고 있음. 계속해야 함." 월리스는 프론티어 모델이 압박을 받으면 답을 온라인에서 찾는 등 지름길을 찾는 경향이 있으며, 오픈AI는 평가 중 인터넷 접근을 차단해 이를 막으려 한다고 지적했다.

에이전트들은 서로의 작업을 실수로 삭제하기도 했고, 사기꾼에 대한 의심이 커지면서 일부는 메시지에 암호화 서명을 제안하기도 했다. 인간 운영자는 이러한 활동을 눈치채지 못했으며, 이는 회사가 현재 급히 메우려는 모니터링의 공백을 드러냈다.

이에 대해 돌턴은 오픈AI가 보안 기반을 강화하기 위해 연구 속도를 늦추고 에이전트 모니터링을 대폭 확대하고 있다고 말했다. 그는 "이것은 우리 회사와 AI 산업 전체에 중대한 전환점"이라며 "많은 팀이 보안 예방, 탐지, 대응 기술을 강화하기 위해 모든 것을 중단하고 있다"고 덧붙였다.

돌턴은 이번 경우는 우연이었지만 완전 자동화된 공격적 해킹 루프가 곧 악의적 행위자에 의해 악용될 것이라고 경고했다. 그는 "우리는 함께 긴급히 그 길을 찾아야 한다"며 업계에 충분한 자동 방어 체계가 부족하다고 강조했다.