생성형 AI 모델이 인간 암호학 전문가들이 수년간 찾아내지 못한 주요 암호화 알고리즘의 치명적인 수학적 취약점을 밝혀내며 차세대 보안 연구의 새로운 지평을 열었다. AI 기업 앤트로픽(Anthropic) 연구진은 아직 미공개된 고성능 AI 모델인 ‘클로드 미소스 프리뷰(Claude Mythos Preview)’를 활용해, 그동안 인간 연구자들이 놓쳤던 클로드 암호학 허점을 성공적으로 포착하고 분석한 두 편의 연구 논문을 공개했다. 웹 트래픽, 이메일, 금융 데이터 등 글로벌 정보 보안의 핵심 축을 담당하는 암호학 분야에서 AI의 자율적 탐구 능력이 정점에 달했음을 입증한 성과다.
차세대 양자 암호 규격 HAWK의 숨겨진 지름길 해독
첫 번째 논문에서 연구팀은 초강력 양자 컴퓨터 시대를 대비해 미래 글로벌 표준 후보로 거론되던 프로토타입 보안 방식인 ‘하크(HAWK)’ 알고리즘을 분석했다. 지난 2년 이상 세계적인 암호학 전문가들이 해당 알고리즘을 검증하며 안전하다고 신뢰해 왔으나, 클로드 AI는 시스템을 기존 예상보다 훨씬 쉽게 해독할 수 있는 숨겨진 수학적 지름길을 찾아냈다. 인공지능이 취약점 발견의 핵심적이고 과중한 기계적 연산을 수행했으며, 앤트로픽 연구진은 AI의 탐구 방향을 제시하고 결과를 검증·조직화하는 감독 역할을 담당했다.
메비우스 브리지 자율 발명과 AES 검증 속도 800배 단축
두 번째 논문에서는 현재 전 세계 인터넷 통신 표준으로 사용되는 고급 암호화 표준(AES)의 축소 버전에 대한 연구 결과가 발표됐다. AI 모델은 인간의 개입 없이 완전히 자율적으로 ‘메비우스 브리지(Möbius Bridge)’라는 새로운 수학적 지름길을 발명했다. 이는 기존에 인간 연구자들이 필수적으로 거쳐야 했던 시행착오 단계를 완벽히 제거하여, 2013년 이후 정체되어 있던 기존 테스트 방식 대비 검증 속도를 약 200배에서 최대 800배까지 획기적으로 끌어올렸다. 연구진은 해당 메비우스 변환 방식이 감사 및 검증 과정 역시 매우 간결하고 명확하다고 강조했다.
미래 사이버 보안 방어선 구축과 AI 보조 연구의 가능성
앤트로픽 연구진은 이번에 발견된 취약점으로 인해 현재 실생활에서 사용 중인 암호화 표준이나 개인·정부 데이터가 즉시 위험해지는 것은 아니라고 선을 그었다. 오히려 사이버 공격자가 이를 악용하기 전에, AI를 활용해 암호화 시스템의 잠재적 취약점을 선제적으로 도출하고 방어선을 한층 더 강화할 수 있음을 증명한 사례라고 평가했다. AI가 단순히 기존 지식을 처리하는 수준을 넘어 스스로 수학적 원리를 탐구하고 검증할 수 있음을 보여줌으로써, 향후 보안 및 사이버 방어 분야에서 AI 보조 연구의 비중이 더욱 확대될 전망이다.
[알아두면 좋은 용어]
- 클로드 암호학 허점(Claude Cryptography Weakness): 앤트로픽의 최첨단 AI 모델 클로드가 기존 암호화 알고리즘(HAWK, AES 등)에 존재하는 수학적 취약점 및 해독 지름길을 자율적으로 분석해낸 현상이다.
- 메비우스 브리지(Möbius Bridge): 앤트로픽 AI가 AES 암호화 검증 과정을 효율화하기 위해 자율 발명한 수학적 계산 방식으로, 기존의 반복적인 시행착오 과정을 없애 검증 속도를 최대 800배 향상시켰다.
손동민 에디터 / hello@sciencewave.kr
자료: techxplore.com
제공: 사이언스웨이브 (https://sciencewave.kr)
Science Wave에서 더 알아보기
구독을 신청하면 최신 게시물을 이메일로 받아볼 수 있습니다.