포스트퀀텀 알고리즘 HAWK, Mythos 공격에 키 절반 약화로 철회

HAWK 디지털 서명 방식이 2026년 7월 28일 NIST 포스트퀀텀 암호 표준화 과정에서 철회됐다. 하루 전 Anthropic은 자사의 Mythos AI 모델이 이 알고리즘의 유효 키 강도를 절반으로 줄였다고 밝혔다.

HAWK는 양자 컴퓨터 공격을 견딜 수 있는 알고리즘을 선정하는 3차 평가를 받고 있었다. 포스트퀀텀 암호는 오늘날 컴퓨터보다 훨씬 강력한 기계로부터 통신을 보호하는 것을 목표로 한다.

Anthropic에 따르면 암호학 전문 지식이 없는 연구자가 Mythos를 반자율적으로 약 60시간 동안 사용해 약 10만 달러의 비용으로 최고의 알려진 공격을 개선했다. 모델은 문헌 검토, 수학적 추론, 계산 실험을 통해 작업했으며, 두 개의 독립 에이전트를 배치해 결국 협력했다.

이 공격은 격자 동형 문제(Lattice Isomorphism Problem)를 대상으로 하며, 자기동형 대칭을 더 효율적으로 찾아낸다. Google의 포스트퀀텀 암호 전문가 Sophie Schmieg는 이 발견으로 HAWK가 ML-DSA나 FN-DSA 같은 대안보다 경쟁력이 떨어졌다고 말했다. 그녀는 "이 논문으로 HAWK는 죽었다"고 적었다.

Mythos는 또한 약화된 7라운드 AES 암호에 대해 약간의 개선을 이루었다. 이 기술은 필요한 평문 입력을 2^105에서 2^89로 줄여 키 복구 속도를 200~800배 높일 수 있지만, 실제로는 여전히 실행 불가능하다.

존스홉킨스 대학의 Matthew Green 교수는 HAWK 공격이 기존 도구를 새로운 방식으로 결합한 것으로, AI에 적합한 작업이라고 지적했다. Anthropic은 두 공격 모두 도전 과제 인스턴스를 사용했으며 실제 환경에서는 실행 불가능하다고 강조했다.

회사는 현재 소수 그룹만 사용할 수 있는 Mythos를 계속 개선할 계획이다. 언어 모델이 점점 더 새로운 암호해독 결과를 생산해 인간 연구자를 압도할 수 있다고 예측한다.