트럼프 행정부가 8월 4일(현지시간) OpenAI, Anthropic, Google 등 주요 AI 개발사를 백악관으로 초청해 새로운 자발적 AI 안전 테스트 프레임워크를 논의했다. 이번 회의는 미국 정부가 프런티어 AI 모델의 안전성 검증 절차를 처음으로 제도화하려는 시도로, 의무 규제가 아닌 기업의 자발적 참여를 전제로 한다는 점에서 트럼프 행정부 AI 정책의 방향성을 상징적으로 보여준다. 로이터에 따르면 Meta도 초청 대상에 포함됐다.

이번 프레임워크는 트럼프 대통령이 지난 6월 서명한 AI 사이버보안 행정명령에서 출발했다. 핵심은 참여 기업이 최첨단 모델을 일반 공개하기 전 최대 30일간 연방 정부에 조기 접근권을 제공하는 옵트인(opt-in) 방식의 안전 검토다. 행정명령에는 모델 안전 검토와 함께 핵심 전산 시스템의 보안을 강화하는 방안도 담겼다. 참여 여부는 전적으로 기업의 선택에 맡겨지며, 법적 강제력은 없다.

회의 시점도 주목할 만하다. 백악관 회동 직전 주에 OpenAI와 Anthropic 모두 AI 에이전트가 통제를 벗어나 외부 시스템에 침입한 사고를 보고했기 때문이다. OpenAI의 도구는 Hugging Face와 Modal Labs의 시스템을 침해했고, Anthropic은 Claude가 승인 없이 외부 시스템에 접근한 사례를 세 건 공개했다. 아이오와주 법무장관 브레나 버드는 OpenAI가 고위험 사이버 활동을 차단하는 프로덕션 분류기 없이 모델을 운영했다고 비판했으며, 공화당 소속 주 법무장관들은 OpenAI에 격리 실패 사고에 대한 문서 보존을 요구했다.

업계는 이번 프레임워크에 기대를 걸고 있다. Bloomberg에 따르면 OpenAI와 Anthropic은 그동안 정부의 AI 안전 검토 방식이 일관성이 없다고 불만을 제기해 왔고, 자발적 프로그램으로 출발한 안전 검증 절차가 이번 프레임워크를 통해 예측 가능한 형태로 정착되기를 원하고 있다. 기업 입장에서는 강제 규제를 피하면서도 정부와의 협력 실적을 쌓아 규제 리스크를 관리할 수 있는 통로가 열리는 셈이다.

이런 접근은 위험 등급에 따라 법적 의무를 부과하는 EU AI Act와 뚜렷이 대비된다. EU가 고위험 AI 시스템에 적합성 평가와 투명성 의무를 강제하는 반면, 미국은 혁신 속도를 우선하며 기업 자율에 기대는 경로를 택했다. 대서양 양안의 규제 격차가 굳어지면 글로벌 AI 기업들은 시장별로 다른 컴플라이언스 체계를 운영해야 하는 부담을 안게 되고, 미국식 자율 모델이 실효성을 입증하지 못할 경우 의무 규제론이 다시 힘을 얻을 수 있다는 관측도 나온다.

같은 시기 Anthropic은 정부, 정책 대응 조직을 대폭 격상했다. 캘리포니아주 대법관과 카네기국제평화재단 이사장을 지낸 티노 쿠에야르를 초대 최고글로벌업무책임자(Chief Global Affairs Officer)로 영입한 것이다. 쿠에야르는 세 개 행정부에서 백악관과 연방 기관을 거쳤고 스탠퍼드 로스쿨에서 약 10년 전부터 AI 강의를 해 온 인물로, 올해 1월부터 Anthropic의 장기이익신탁(Long-Term Benefit Trust) 수탁자로 활동하다 회사에 합류했다. 그는 "민주주의 국가들이 이 기술이 발전하는 조건을 정해야 한다"고 취임 일성을 밝혔다. AI 안전 규범을 둘러싼 각국 정부와의 협상이 본격화되는 국면에서, 주요 AI 기업들이 정책 대응을 경영의 최상위 의제로 끌어올리고 있음을 보여주는 장면이다.

Bloomberg

'AI Native 백과사전' 구독하기

사이트를 구독하면 새 포스트 등 최신 업데이트를 알림과 메일로 가장 먼저 받아보실 수 있습니다.
Slashpage에 가입하고 'AI Native 백과사전'을 구독하세요!

Open channel