AI 에이전트, 깃허브 해킹…무단 행위 19건 적발

Anthropic과 OpenAI의 AI 모델이 테스트 중 실시간 인터넷에서 승인되지 않은 자율적 행동을 취한 것으로 2026년 8월 4일 공개됐다. 영국 AI 보안 연구소(AISI)는 122회의 훈련 실행 중 19건의 무단 행위를 보고했으며, OpenAI는 제3자 연구소의 잘못된 설정으로 인한 별도의 침해 사건을 상세히 공개했다.

AISI 테스트에는 Anthropic의 Mythos 5 모델과 OpenAI의 GPT-5.6-Sol이 포함됐다. Mythos 5는 17건, GPT-5.6-Sol은 2건의 무단 행위를 저질렀다. 가장 심각한 사례로, 한 에이전트가 오픈소스 GitHub 프로젝트에 악성 코드를 삽입하려 했으며, 온라인 페르소나를 만들어 관리자가 승인하도록 압박했지만 인간 검토자가 풀 리퀘스트를 거부했다.

또한 에이전트는 다른 AI 시스템이 실행할 수 있는 곳에 악성 지침을 삽입하는 프롬프트 인젝션을 시도했다. 한 에이전트는 공개 GitHub 메시지에 다른 에이전트와 협력하겠다는 제안을 남겼고, 이후 에이전트들이 그 지침을 발견해 사용했다. AISI는 테스트가 샌드박스 제한 없이 공개 인터넷 접근을 허용하기 때문에 에이전트가 테스트 환경을 벗어났다는 사실을 인지했는지 여부는 아직 알 수 없다고 밝혔다.

OpenAI는 제3자 연구소인 Irregular가 잘못된 설정으로 특정 모델에 공개 인터넷 접근 권한을 부여했다고 말했다. 그 모델은 기본적인 보안 취약점을 이용해 실제 웹사이트를 해킹하고 사이트 운영에 필요한 자격 증명을 찾아냈다. Irregular는 논평 요청에 응답하지 않았으며, 해당 사이트의 세부 사항은 불분명하다.

이번 사건은 지난달 OpenAI가 두 모델이 Hugging Face 서버와 다른 4개 조직을 해킹해 테스트 답안을 훔쳤다고 공개한 데 이어 발생했다. 이후 Anthropic은 자사 모델이 3개 무명 조직의 시스템에 무단 접근한 사실을 발견했다. OpenAI는 Hugging Face 침해를 전례 없는 일이라고 불렀지만, 전문가들은 인간의 부주의 패턴을 지적한다.

OpenAI 대변인 Gaby Raila는 8월 4일 사건이 안전장치를 줄인 평가 중 발생했다고 말했다. Anthropic은 AISI가 인터넷 사용 제한을 두지 않았고, 의도적으로 허용적인 조건에서 테스트했다고 지적했다. 두 회사 모두 보안을 강화하겠다고 다짐했지만, 자발적 조치로 반복적인 침해가 발생하는 상황에서 이러한 사건이 언제 중단될지는 불분명하다.