Anthropic의 Mythos가 암호학을 무너뜨렸을까? HAWK, AES, 그리고 실제 결과
Mythos는 HAWK 서명 후보에 대한 결정적인 공격과 훨씬 적은 라운드의 AES 결과를 도출하는 데 기여했습니다. 무엇이 변했고 무엇이 변하지 않았는지 확인해 보세요.

핵심 정리
- Mythos helped produce a key-recovery attack that led the HAWK team to request withdrawal.
- Green: HAWK matters; the AES result is a small lab increment—not a panic headline.
- The AES attack still needs about 2^89 operations and 2^105 chosen-plaintext encryptions.
- AI synthesized known cryptanalysis tools; verifying plausible-looking results is the bottleneck.
Anthropic의 미출시 모델인 Mythos는 NIST 평가 과정에 있는 양자 내성 서명 후보인 HAWK에 대한 키 복구 공격을 개발하는 데 기여했습니다. 이후 HAWK 팀은 NIST에 해당 방식의 철회를 요청했습니다. 이와 별개로, Mythos는 라운드 수가 줄어든 AES에 대한 공격을 소폭 개선하는 성과를 냈습니다.
이 결과들은 같은 발표에 포함될 수는 있지만, 같은 헤드라인을 차지해서는 안 됩니다. HAWK 공격은 표준 결정에 실질적인 변화를 주었지만, AES 결과는 실용적이지 않은 연구 수준의 진전일 뿐입니다. 두 결과 모두 사람들이 매일 사용하는 암호화를 깨뜨리는 것은 아닙니다.
이 이야기가 중요한 이유
표준 검토 프로세스는 여전히 작동합니다. HAWK는 대규모 배포 이후가 아니라 평가 단계에서 폐기되었습니다.
암호학은 적대적 검토에 의존합니다. 연구자들은 우리가 알고리즘을 신뢰하기 전에 이를 깨뜨리려 시도합니다. Anthropic의 연구 계정에 따르면, Mythos는 문헌을 검토하고, 접근 방식을 제안하고, 실험을 수행하며 연구자들과 반복적으로 협력했습니다. 이는 미출시 모델에 대한 기업 자체의 기록이므로, 마케팅적 프레임보다는 기술 논문과 독립적인 전문가 분석이 더 중요합니다.
Bart Preneel은 KU Leuven의 교수이자 유럽에서 가장 잘 알려진 암호학자 중 한 명으로, 대규모 언어 모델을 여전히 단순히 "정교하게 다듬어진 문장을 생성하는 통계적 기계"로 취급하는 이들에게 다음과 같이 직설적으로 변화를 언급했습니다. 새로운 연구에 따르면, 모델이 "초지능"이 아니더라도 암호 해독(cryptanalysis) 분야에서 상당한 진전을 이룰 수 있으며, 이는 유능한 연구자가 몇 달간 고군분투해야 얻을 수 있는 결과입니다.
Johns Hopkins의 암호학자 Matthew Green은 더 날카로운 경로를 통해 유사한 결론에 도달합니다. 두 가지 Mythos 연구 결과는 그 품질이 매우 다릅니다. HAWK는 의미 있는 결과인 반면, AES 관련 작업은 실제 과학적 성과이지만, "AES 공격"이라는 말을 듣고 당황한 사람들에게는 훨씬 덜 자극적입니다.
비밀을 공유하거나 암호화된 앱에 의존하는 모든 이들을 위한 실질적인 교훈은 다음과 같습니다: 표준화 프로세스와 피어 리뷰(peer review)는 여전히 작동하고 있습니다. HAWK는 대규모 배포 이후가 아니라 평가 과정에서 발견되었습니다. 이는 AI를 강력한 새로운 연구 팀원으로 활용하여 시스템이 제 역할을 다하고 있음을 보여줍니다.
Mythos가 HAWK에서 발견한 것
이 공격은 HAWK의 추정 보안성을 급격히 낮추었으며, 해당 팀은 철회를 요청했습니다.
HAWK는 모듈 격자 동형 문제(module Lattice Isomorphism Problem)를 기반으로 제안된 양자 내성 서명 스킴입니다. 이는 배포되었거나 표준으로 채택된 알고리즘이 아닙니다. Green은 자신의 글에서 HAWK가 표준화 진행 중인 Falcon과 관련이 있다고 언급했지만, Mythos 공격은 다른 난제에 기반한 Falcon에는 전이되지 않습니다. HAWK는 NIST 평가에서 효과적인 공격이 중요할 만큼 충분히 진척된 상태였습니다.
공격은 여전히 지수 시간(exponential-time)이 소요되지만, HAWK 논문은 HAWK-512의 추정 키 복구 비용을 약 2^150에서 2^108 게이트로, HAWK-1024의 경우 2^288에서 2^182 게이트로 낮추었습니다. 이를 "보안성을 절반으로 줄였다"고 말하는 것은 모든 파라미터 세트에 대한 문자 그대로의 설명이라기보다 유용한 직관입니다. 더 큰 파라미터를 사용하면 목표 보안 수준을 회복할 수 있지만, HAWK를 매력적으로 만들었던 효율성을 희생해야 합니다. HAWK 팀은 이후 NIST의 추가 서명 경연에서 철회를 요청했습니다.
가장 설득력 있는 검증은 실행 가능합니다. 저자들은 단 한 대의 서버에서 몇 시간 만에 HAWK-256 챌린지 키를 복구했습니다. 해당 챌린지는 제안된 어떤 배포 모델보다 약한 파라미터를 사용하므로, 이는 공격이 작동한다는 증거이지 배포된 키를 몇 시간 만에 복구할 수 있다는 증거는 아닙니다. Anthropic의 보고에 따르면, 암호학 전문가가 아닌 한 연구자가 이 작업을 수행하는 데 약 60 시간과 약 $100,000의 API 사용 비용을 지출했습니다. 이 수치는 이번 캠페인을 설명하는 것이지, AI 암호 해독의 일반적인 비용을 의미하는 것은 아닙니다.
AES, LEA, Serpent: 소동은 적지만, 여전히 주목할 만함
7 라운드 AES에 대한 완만한 실험실 수준의 속도 향상일 뿐, 실제 사용되는 AES를 깨뜨린 것은 아닙니다.
Green의 직설적인 프레임워크가 여기서 유용합니다. 대부분의 사람들은 "AES 공격"이라는 말을 들으면 당황하지만, Mythos의 결과 중 이 부분은 훨씬, 훨씬 덜 흥미로운 내용입니다. 완전한 AES(10, 12, 또는 키 크기에 따라 14 라운드)는 상당한 비공개 테스트를 포함하여 2001 이후로 공개 암호 해독을 견뎌왔습니다. 연구자들은 보통 라운드 수가 줄어든(reduced-round) 변형 모델을 공격하며, Mythos는 7 라운드 인스턴스를 개선했습니다. 7 라운드 AES에 대한 공격은 새로운 것이 아닙니다. Green은 Mythos의 작업을 2013의 이전 결과에 대한 완만한 상수 배수(constant-factor) 개선이라고 설명합니다. 이는 기술적으로는 흥미롭지만 실질적인 파괴는 아닙니다.
AES 논문은 Möbius Bridge라고 불리는 meet-in-the-middle 기술을 보고합니다. Green의 현실적인 점검은 결정적입니다. 이 공격은 여전히 대상 키에 대해 약 2^89 번의 암호 연산과 약 2^105 번의 선택 평문 암호화가 필요합니다. 이는 연산량과 데이터량이라는 두 가지 서로 다른 비용이지, 전후 비교가 아닙니다. 둘 다 실용성과는 거리가 멉니다. 주장된 이득은 이미 비실용적인 라운드 축소 공격에 대한 완만한 상수 배수 속도 향상이며, 전체 계산을 실행할 수 없기 때문에 그 이득의 일부는 엔드 투 엔드 시연이라기보다 이론적인 분석으로 남아 있습니다.
Real AES는 온전하게 유지됩니다. Preneel은 LEA와 Serpent에서도 라운드 수가 상당히 줄어든 개선 사항을 언급했습니다. Anthropic 연구원들과 협력자들은 이 작업을 더 체계적으로 측정하기 위해 CryptanalysisBench: Can LLMs do Cryptanalysis?를 공개했습니다 (project site).
Bart Preneel: 돌파구이지, 공황 상태가 아니다
연구 관행은 변할 것이나, 널리 사용되는 암호 체계가 하룻밤 사이에 붕괴할 가능성은 여전히 낮아 보입니다.
Preneel의 LinkedIn 분석은 Ars의 헤드라인이 가진 주의를 따르면서도, 무엇이 변했는지를 더 명확히 짚어냅니다:
- LLM은 단순히 유창한 문장을 쓰는 것을 넘어, 전문가의 수개월 치 노력을 압축할 수 있는 수준에서 실제 암호 해독 작업을 수행할 수 있습니다.
- 이러한 공격을 실행하는 비용은 $100,000 수준으로, 대략 박사후 연구원 1년 치 인건비에 해당하며 대부분의 대학 예산을 벗어나는 규모입니다.
- 암호학 및 암호 해독이 수행되는 방식은 변할 것입니다. 이러한 도구들로부터 수백 개의 가치 있는 연구 결과가 나올 것을 기대하십시오.
- 공황에 빠질 이유는 없습니다. 널리 사용되는 모든 암호 체계가 하룻밤 사이에 깨질 가능성은 여전히 낮아 보입니다.
- 보안 마진은 예상보다 빠르게 줄어들 것입니다. 대칭 암호의 경우 라운드 수를 늘리는 것이 자연스러운 대응책이 될 것이며, 비대칭 암호의 경우 보편적인 격자 기반 해독기(lattice breaker)를 예측하지 않더라도 더 많은 놀라운 일이 앞두고 있을 수 있습니다.
- 동일한 도구들이 더 강력한 설계를 구축하는 데에도 도움을 줄 것입니다.
- 열린 질문: 누가 이러한 결과를 찾아내고 검증할 수 있는 접근 권한과 예산을 갖게 될 것인가?
Matthew Green: 재결합, 검증, 그리고 타이밍
알려진 도구들을 철저히 적용하는 것; 이제는 유사한
Anthropic의 새로운 암호 해독 결과에 대한 고찰에서, Green은 Mythos 논문 두 편과 그것들이 시사하는 바(및 시사하지 않는 바)를 살펴봅니다. HAWK에 대한 그의 주요 우려는 생소한 새로운 수학이 아닙니다:
를 검증하는 것이 병목 구간입니다.
HAWK 공격의 중요성은 생소한 새로운 수학에 있는 것이 아닙니다. 그것은 기존 도구들을 철저히 합성하고 확장하여 검증 가능한 결과로 만들어낸 모델의 능력에 있습니다.
Matthew Green
HAWK 공격의 중요성은 생소한 새로운 수학에 있는 것이 아닙니다. 그것은 모델이 알려진 도구들을 철저히 합성하고 확장하여 검증 가능한 결과로 만들어냈다는 점에 있습니다.
그는 Claude 자체의 요약이 훨씬 더 날카로웠다고 덧붙입니다. 구성 요소 중 어느 것도 생소하지 않습니다. 누군가(또는 무언가)가 단순히 알려진 도구들을 훨씬 더 철저하게 적용했을 뿐입니다. 그것이 바로 공격용 AI가 탁월한 능력을 발휘하는 작업입니다. Green은 또한 Anthropic의 프로세스가 정교하게 조정된 전문가 실험실이라기보다는, 무언가를 찾아낼 때까지 놀라울 정도로 평범한 프롬프트를 사용하여 모델의 코를 연마석에 대고 강제로 일하게 만드는 것에 더 가까워 보였다고 언급했습니다.
그의 관점에서 더 어려운 문제는 모델이 답변을 내놓은 이후의 문제입니다. 검증 가능성이 이제 병목 구간입니다. 실제 결과를 만들어낼 수 있는 시스템은 실제처럼 보이지만 틀린 결과를 만들어내는 데에도 훨씬 능숙합니다. 챌린지 인스턴스에서 몇 시간 만에 키를 복구하는 HAWK 스타일의 공격은 코드를 실행해 볼 수 있으므로 확인하기 쉽습니다. 미묘한 AES 스타일의 속도 향상은 그렇지 않습니다. 간결한 증명이 도움이 되긴 하지만, 인간이 여전히 정리가 올바르게 되었는지 확인해야 합니다. 이러한 검토 단계는 AI가 생성한 암호 해독 결과가 학계에 흡수되는 속도를 늦출 것입니다.
일상적인 사용자들을 위해, Green은 체크리스트로 만들지 않으면서도 유용한 구분을 제시합니다. 대칭 암호는 의도적으로 복잡하게 설계되었습니다. 그는 그 설계 스타일을 트랙터를 늪에 끌고 들어가 시멘트 아래에 묻어버리는 것에 비유합니다. 따라서 순수한 지능적 시간 투입만으로는 AES를 마법처럼 풀어내기는 어려울 것입니다. 공개키 암호학은 범위가 더 좁습니다. 오직 몇 가지 어려운 문제들(RSA, 이산 로그 / ECC, 격자, 부호 이론)뿐이며, 오래된 문제들조차 우리가 아무것도 남아 있지 않다고 확신할 만큼 인간의 주의를 충분히 받지 못했습니다. 격자 및 부호 기반 암호는 특히 AI에게 비옥한 토양을 제공합니다.
Google의 양자 내성 암호 전문가인 Sophie Schmieg는 HAWK가 이미 발견되기를 기다리는 약점을 가지고 있을 것으로 의심받고 있었다고 언급했습니다. Mythos를 활용한 공격으로 인해 해당 후보는 ML-DSA 및 FN-DSA보다 경쟁력이 떨어지게 되었습니다. Ars Technica가 보도한 그녀의 판결은 다음과 같습니다:
“기본적으로 이 논문으로 인해 HAWK는 끝났습니다.”
반드시 유념해야 할 주의사항
실험실 수준의 점진적인 진전이 사용 중인 모든 앱의 긴급한 키 교체 사유가 되지는 않습니다.
Bruce Schneier의 말은 여전히 유효합니다: 공격은 점점 더 정교해질 뿐, 결코 나빠지지 않습니다. 안전 마진(Safety margins)이 존재하는 이유가 바로 이것이며, Preneel의 조언은 이러한 마진이 커뮤니티의 예상보다 더 빠르게 커져야 할 수도 있다는 것입니다.
일상적인 사용자가 의존하는 그 어떤 것도 실제 운영 환경에서 깨진 적은 없습니다. HAWK는 Falcon과 관련이 있지만 다른 난제에 기반한 평가 대상 후보였으므로, Mythos 공격이 그대로 전이되지는 않습니다. AES 관련 연구는 전체 라운드 AES가 아닌, 라운드 수가 줄어든 챌린지 인스턴스에 대한 작은 실험실 수준의 진전일 뿐이며, 테스트 환경 밖에서는 여전히 실행 불가능한 수준의 선택 평문(chosen plaintexts)을 필요로 합니다. 스펙 논문 저자들은 바로 이러한 적대적 검토가 가능하도록 의도적으로 약화된 버전을 발표합니다.
더 희소해지는 자원은 바로 검증(verification)입니다. 유사한 “결과”들은 인간의 검토가 필요하며, 특히 주장된 속도 향상이 엔드 투 엔드로 실행될 수 없을 때 더욱 그렇습니다. 이번 캠페인에 사용된 약 $100,000의 API 비용 또한 자금력이 부족한 연구자들의 접근성에 의문을 제기합니다. 이와 별개로, Anthropic은 RSA나 타원 곡선 암호와 같이 깊이 연구된 시스템에 대해 이와 대등한 승리를 보고하지 않았습니다. 이는 해당 문제들이 영원히 안전하다는 안심이 아니라, 여전히 해결해야 할 과제입니다.
이것이 프라이빗 공유에 의미하는 바
충분히 검토된 프리미티브를 계속 신뢰하십시오. “AI가 암호를 깨뜨렸다”는 헤드라인은 연구 뉴스 정도로 취급하십시오.
충분히 검토된 프리미티브—전체 라운드 AES 및 공개 검토 후에도 경쟁력을 유지하는 NIST 표준 PQC 스킴—를 계속 신뢰하십시오. 자극적인 헤드라인은 연구 뉴스로 취급하되, 모든 앱의 긴급 교체 사유로 받아들이지는 마십시오. 단, 발표 내용이 귀하의 알고리즘과 귀하의 파라미터를 명시하는 경우는 예외입니다.
안전 마진과 피어 리뷰가 확보된 설계를 선호하십시오: client-side encryption, 수명이 짧은 공유 링크, 그리고 공개 암호 해독 분석을 견뎌내는 알고리즘 등이 이에 해당합니다. AI가 공격과 방어 모두를 가속화할 것으로 예상되는데, 이는 사용자에게 대체로 좋은 소식입니다. 취약한 후보들이 인프라가 되기 전에 더 일찍 도태될 것이기 때문입니다.
PrivateNote의 모델—브라우저에서 암호화, 서버에 평문 저장 금지, 링크 만료 또는 폐기—은 HAWK에 의존하지 않습니다. 교훈은 상류(upstream)에 있습니다: 오랫동안 공개적으로 혹독한 공격을 받아온 암호를 선택하십시오. 프라이빗 AI 도구에 대한 자세한 내용은 introduction to private AI를 참조하십시오.
주요 출처
공격 논문들을 개별적으로 읽으십시오. 각 논문의 증거와 실질적 중요성은 다릅니다.
- HAWK-n Key Recovery Reduces to SVP in Dimension n/2 + 1 — 실행 가능한 HAWK 키 복구 결과.
- New Meet-in-the-Middle Attacks on Reduced-Round AES — Möbius Bridge 분석.
- Discovering cryptographic weaknesses with Claude — Anthropic의 연구 과정 기록.
- Matthew Green’s independent analysis — 두 결과와 검증 문제에 대한 명확한 비교.
- Dan Goodin, Ars Technica — Sophie Schmieg의 논평을 포함한 Mythos 발견에 대한 주요 보도.
자주 묻는 질문
AI가 사람들이 매일 사용하는 암호를 깨뜨렸나요?
아니요. HAWK는 평가 중이던 NIST 후보였으며 철회되었습니다. AES 연구는 실제 운영 환경의 전체 라운드 AES가 아닌, 라운드 수가 줄어든 챌린지 인스턴스를 대상으로 했습니다. Green은 AES 결과를 작은 과학적 진전이라 부르며, Preneel은 이번 사건을 널리 사용되는 암호의 하룻밤 사이의 붕괴가 아닌 연구를 위한 돌파구로 규정합니다.
양자 내성 암호(PQC) 자체가 끝난 건가요?
아니요. Schmieg를 비롯한 전문가들은 ML-DSA 및 FN-DSA와 같이 더 강력하고 검토가 잘 된 PQC 서명 스킴을 지목합니다. Green은 지금이 오히려 AI 암호 해독 분석에 좋은 시기라고 주장합니다. 우리는 이미 공개 키 프리미티브를 전환하고 있으므로, 취약한 후보들이 인프라로 자리 잡기 전에 실패할 수 있기 때문입니다.
헤드라인이 놓치고 있는 Matthew Green의 강조 사항은 무엇인가요?
HAWK와 AES는 서로 다른 이야기입니다. HAWK 공격이 중요했던 이유는 생소한 수학적 이론을 발명한 것이 아니라 기존의 도구들을 재조합했기 때문이며, 실행 가능한 챌린지 인스턴스 코드가 제공되어 주장을 검증하기 쉬웠기 때문입니다. AES 방식의 속도 향상은 서류상만으로는 신뢰하기 어렵습니다. 따라서 모델의 원시적인 유창함이 아닌, 검증 여부가 병목 현상이 되고 있습니다.
Preneel이 가장 우려하는 점은 무엇인가요?
AES가 내일 당장 무너지는 것이 아닙니다. 보안 마진이 더 빠르게 축소되고, 검증 비용은 여전히 높게 유지되며(~$100K 규모의 캠페인), 최고의 도구에 대한 접근권이 자금력이 풍부한 소수에게 집중되는 반면 다른 이들은 뒤처지게 되는 상황을 우려합니다.
비밀을 공유하는 방식을 바꿔야 할까요?
검증된 강력한 암호화 기술과 일회성 전달(ephemeral handoffs) 방식을 계속 사용하세요. AES나 표준 E2EE 도구에서 패닉에 빠져 급하게 전환할 필요는 없습니다.
연구는 더 빠르게 진행됩니다. 당신의 공유 습관은 여전히 단순해도 괜찮습니다.
공개 검증을 거친 암호화 기술과 작업이 끝나면 만료되는 전달 방식을 선호하세요. PrivateNote는 브라우저에서 노트와 파일을 수명이 짧은 일회용 링크로 암호화합니다.
비공개 메모 만들기