ザX質問まで投げた、メタAIの未成年者の衝撃的なテスト

팀

팀제이커브

Jul 8, 20267d ago

カテゴリー

Empty

競合他社のAIの安全性を確認するとし、偽の未成年者のアカウントで自害・自殺の質問を数万件投げたとしたらどうでしょう。メタがChatGPT・Gemini・Character.AIを相手に大規模な非公開テストを行ったという報道が出てきて議論が大きくなっています。

メタはなぜ偽の10代のアカウントを作成しましたか

WIREDの報道によると、メタは外部企業のコヴァレンの契約人員を通じて未成年者として設定された偽のアカウントを作成しました。そして競合他社のチャットボットに自殺、自害、摂食障害、性、薬に関する質問を繰り返し入力しました。

偽の未成年者アカウントで競合他社のAIに危機的な質問を入力したメタwired 記事

2025年8月に行われた1回のテストでのみ、 4万5,000以上のプロンプトが使用されたと伝えられます。回答はスプレッドシートに記録され、競合他社のAIの安全装置を比較するデータでまとめられました。

AI企業が自社モデルを対象に危険な質問を投げているのは一般的です。いわゆるレッドチームテストです。問題は、今回のテストが競合他社の実際のサービスで事前の同意なしに行われたことです。

OpenAIとGoogle、Character.AIはテストを承認しておらず、利用規約に違反した行為だと述べた。

安全性を確認するためのベンチマーキングだったとしても、偽の児童アカウントを作成し、競合他社の回答を一括収集した場合、話は変わります。

結局、議論の核心は質問の水位だけではありません。安全を名分として競合他社のシステムをどこまで試験できるかということです。

今回の報道はメタ一箇所の評判問題で終わらない可能性が高いです。米国ではすでに未成年者のチャットボット利用とAI企業の保護責任を強化する議論が続いています。

特に、メタが競合他社の児童保護を分析し、その結果を内部でどのように活用したかはまだ明らかになっていません。

AI企業間の競争は今、パフォーマンスを超えて誰がより安全なのかを証明する戦いに変わっている

規制機関がこの部分を覗き始めると、AI安全性テストの基準もさらに厳しくなる可能性があります。

AI企業間の競争は現在、パフォーマンスを超えて誰がより安全なのかを証明する戦いに変わっています。しかし、その安全を検証する方法まで危険になれば、結局最初に崩れるのは技術ではなく信頼でしょう。

「AI Native百科事典」を購読する

サイトを購読すると、新しい投稿などの最新のアップデートを通知やメールで最初に受け取ることができます。
Slashpageに参加して「AI Native百科事典」を購読してください！