Anthropic이 자사 최신 플래그십 모델 'Claude Mythos'의 일반 공개를 무기한 보류하고, AWS·애플·구글·마이크로소프트 등 소수 파트너 기업에만 제한 배포하는 이례적 조치를 취했다. 훈련 과정에서 의도하지 않게 발현된 공격적 사이버보안 능력이 주요 운영체제와 웹 브라우저에서 수천 건의 제로데이 취약점을 자율적으로 발견하는 수준에 이르자, 회사가 최고 안전 등급인 ASL-4를 발동한 것이다.

Anthropic 내부 테스트에 따르면 Claude Mythos는 인간 보안 연구원이 기존에 탐지하지 못했던 주요 소프트웨어의 치명적 결함을 독자적으로 식별하고, 이를 악용할 수 있는 익스플로잇 코드까지 자동으로 조립하는 능력을 보였다. 특히 이 능력은 Anthropic이 의도적으로 설계한 것이 아니라 대규모 훈련 과정에서 '창발(emergent)'한 것으로 알려져 업계에 더 큰 충격을 주고 있다. 은행, 소매, 항공, 병원, 전력 등 사회 핵심 인프라를 지탱하는 시스템의 취약점까지 탐지 범위에 포함된 것으로 확인됐다.

Anthropic은 이 모델을 일반에 공개하는 대신 'Project Glasswing'이라는 이름의 제한적 파트너십 프로그램을 2026년 4월 가동했다. AWS, 애플, 시스코, 크라우드스트라이크, 구글, JP모건체이스, 리눅스재단, 마이크로소프트, 엔비디아, 팔로알토 네트웍스 등 사이버보안 및 핵심 인프라 기업만이 접근 권한을 부여받았다. 이들 기업은 Claude Mythos가 발견한 취약점을 사전에 패치하는 방어적 목적으로만 모델을 활용하게 된다.

사안의 심각성은 금융 규제 당국의 움직임에서도 드러난다. 제이 파월 미 연방준비제도(Fed) 의장과 스콧 베선트 재무장관은 주요 은행 CEO들을 소집해 Claude Mythos가 발견한 취약점이 패치되기 전에 '시스템적으로 중요한' 금융기관이 침해될 수 있다고 경고한 것으로 전해졌다. AI가 발견한 취약점 정보가 악의적 행위자의 손에 넘어갈 경우, 금융 시스템 전체가 동시다발적 공격에 노출될 수 있다는 우려가 반영된 조치다.

이번 사태는 AI 모델의 능력이 개발사의 의도와 통제를 벗어나 예측 불가능하게 확장될 수 있음을 실증한 첫 번째 대형 사례로 기록될 전망이다. 업계 전문가들은 앞으로 AI가 발견하는 소프트웨어 취약점이 대량으로 쏟아질 것에 대비해야 하며, 동시에 AI 기반의 자동 패치 기술 역시 빠르게 발전시켜야 한다고 지적한다. Anthropic의 이번 결정은 '능력이 있어도 공개하지 않는다'는 자율적 안전 규범의 선례를 만들었다는 평가와 함께, AI 안전 등급 체계(ASL)의 실효성을 처음으로 시험대에 올린 사건이라는 점에서 향후 글로벌 AI 거버넌스 논의에도 큰 영향을 미칠 것으로 보인다.

Economist Writing Every Day