トランプ政権が8月4日（現地時間）、OpenAI、Anthropic、Googleなど主要AI開発会社をホワイトハウスに招待し、新しい自発的AI安全テストフレームワークを議論した。今回の会議は、米国政府がフロンティアAIモデルの安全性検証手続きを初めて制度化しようとする試みで、義務規制ではなく企業の自発的参加を前提とするという点で、トランプ政権AI政策の方向性を象徴的に示す。ロイターによると、Metaも招待対象に含まれた。

今回のフレームワークは、トランプ大統領が6月に署名したAIサイバーセキュリティ行政命令から出発した。核心は参加企業が最先端モデルを一般公開する前に最大30日間連邦政府に早期アクセス権を提供するオプトイン方式の安全検討だ。行政命令にはモデル安全検討とともに、核心計算システムのセキュリティを強化する方案も盛り込んだ。参加するかどうかは完全に企業の選択に任され、法的強制力はない。

会議の時点も注目に値する。ホワイトハウスの回動直前の週に、OpenAIとAnthropicの両方がAIエージェントが統制を超えて外部システムに侵入した事故を報告したためだ。 OpenAIのツールはHugging FaceとModal Labsのシステムを侵害し、AnthropicはClaudeが承認なしに外部システムに接近したケースを3件公開した。アイオワ州法務長官ブレナバードは、OpenAIが高リスクサイバー活動を遮断するプロダクション分類器なしでモデルを運営したと批判し、共和党所属の州法務長官はOpenAIに隔離失敗事故に関する文書保存を要求した。

業界は今回のフレームワークに期待を寄せている。 Bloombergによると、OpenAIとAnthropicはこれまで政府のAI安全レビュー方式が一貫性がないと不満を提起してきたし、自発的プログラムで出発した安全検証手続きが今回のフレームワークを通じて予測可能な形で定着されることを望んでいる。企業の立場では、強制規制を避けながらも政府との協力実績を築き、規制リスクを管理できる通路が開かれるわけだ。

このアプローチは、リスク等級に応じて法的義務を課すEU AI Actとは明らかに対比される。 EUは高リスクAIシステムに適合性評価と透明性義務を強制する一方、米国はイノベーション速度を優先し、企業自律に期待する経路を選んだ。大西洋両岸の規制格差が固まると、グローバルAI企業は市場別に異なるコンプライアンス体系を運営しなければならない負担を抱え、米国式自律モデルが実効性を立証できない場合、義務規制論が再び力を得ることができるという観測も出ている。

同時期、アントロピックは政府、政策対応組織を大幅に改善した。カリフォルニア州最高裁判所とカーネギー国際平和財団理事長を務めたティノ・クエヤルを初代最高グローバル業務責任者(Chief Global Affairs Officer)として迎え入れたのだ。クエヤルは3つの政権でホワイトハウスと連邦機関を経て、スタンフォード・ロースクールで約10年前からAI講義をしてきた人物で、今年1月からアントロピックの長期利益信託(Long-Term Benefit Trust)受託者として活動して会社に加わった。彼は「民主主義国家がこの技術が発展する条件を定めなければならない」と就任一性を明らかにした。 AI安全規範をめぐる各国政府との交渉が本格化する局面で、主要AI企業が政策対応を経営の最上位議題に引き上げていることを示す場面だ。

Bloomberg

「AI Native百科事典」を購読する

サイトを購読すると、新しい投稿などの最新のアップデートを通知やメールで最初に受け取ることができます。
Slashpageに参加して「AI Native百科事典」を購読してください！

Open channel