미국 상무부 산하 AI 표준혁신센터(CAISI)가 구글 딥마인드, 마이크로소프트, xAI와 AI 모델 출시 전 사전 평가 협약을 체결했다. 이로써 이미 협약을 맺은 OpenAI, Anthropic을 포함해 미국 프런티어 AI 5개사 전부가 정부의 사전 심사망 안으로 들어왔다. 정부가 일반에 공개되기 전 단계의 최첨단 모델을 직접 들여다보는 체계가 사실상 업계 표준으로 자리 잡는 모양새다.

이번 평가의 초점은 안전(safety)보다 국가안보(security)에 맞춰져 있다. CAISI는 기업이 제공한 정보를 바탕으로 분류된(classified) 보안 환경에서 모델을 시험하며, 사이버보안과 국가안보 관련 위험·역량을 집중적으로 들여다본다. 특히 안전장치를 제거한 모델까지 검토해 '제약 없는 상태의 본래 역량(unmitigated capabilities)'을 파악하는 방식이 핵심이다. CAISI는 지금까지 아직 공개되지 않은 최신 모델을 포함해 40건이 넘는 평가를 완료했고, 중국 DeepSeek 모델을 들여다본 뒤 정확성·보안·비용 효율 측면의 결함과 위험을 지적한 바 있다.

이 협약들은 모두 강제가 아닌 자발적 합의다. OpenAI와 Anthropic은 약 2년 전 바이든 행정부 시절, 당시 미국 AI 안전연구소(US AI Safety Institute)로 불리던 이 기관과 유사한 협약을 먼저 맺었다. 이번에 추가된 3개사 협약은 그 초기 합의를 토대로 하되, 상무부 장관 지침과 트럼프 행정부의 '미국 AI 행동계획(America's AI Action Plan)' 방향에 맞춰 재협상됐다. 기관 명칭이 '안전연구소'에서 '표준혁신센터'로 바뀐 것 자체가 안전 규제에서 국가안보·산업경쟁력 쪽으로 무게중심이 옮겨간 흐름을 상징한다. 업계 단체인 BSA(소프트웨어연합)는 CAISI를 두고 '정부 내 적절한 제도적 보금자리'라고 평가했다.

주목할 지점은 이 검토가 독립적 제3자 인증이나 시장 출시 승인이 아니라는 사실이다. 어디까지나 국가안보 목적의 정부 사전 검토일 뿐, 합격·불합격을 가르는 관문은 아니다. 다만 5개 빅랩이 모두 참여하면서 '예외적 협력'이던 것이 '미국 프런티어 시장에서 사업하려면 으레 거치는 기본 전제'로 굳어지는 신호로 읽힌다. 백악관이 검토를 의무화하는 입법을 추진할 경우 자발적 협약은 법적 요건으로 전환될 수 있고, 이미 절차에 익숙해진 5개사가 규제 대응 면에서 유리한 고지를 점하게 된다. 정부 조달과 평판이라는 비공식 압력까지 더해지면, 후발 주자들에게는 사실상의 진입 장벽으로 작용할 가능성이 크다.

결국 이번 확대는 미국 AI 거버넌스가 자율 규범에서 제도화된 관행으로 넘어가는 변곡점에 가깝다. 정부는 최첨단 모델을 출시 전에 들여다볼 권한을 사실상 확보했고, 기업들은 모델 문서화와 안전 평가 절차, 사이버보안 검토 체계를 정부 심사 수준에 맞춰 갖춰야 하는 부담을 안게 됐다. 한국을 비롯한 다른 국가의 AI 기업과 정책 당국 입장에서도, 미국 시장 진출이 곧 미국식 사전 심사 체계와의 호환을 요구받는 시대가 다가오고 있음을 시사하는 대목이다.

CNBC / Nextgov·FCW

'AI Native 백과사전' 구독하기

사이트를 구독하면 새 포스트 등 최신 업데이트를 알림과 메일로 가장 먼저 받아보실 수 있습니다.
Slashpage에 가입하고 'AI Native 백과사전'을 구독하세요!