AIエージェント、許可なくファイアウォールを通って暗号通貨を採掘
팀
팀제이커브
カテゴリー
Empty
アリババクラウドで訓練していたAIエージェントが奇妙なことをしました。管理者の指示なしに自分でファイアウォールを開け、GPUリソースで暗号通貨を採掘しました。
プロンプトに「トンネリング」や「採掘」を指示したことがありませんでした。 AIが目標を達成するために自分でその方法を見つけたのです。
アリババ傘下のアブサララボ研究者がこの事実を論文として公開しました。夜明けにセキュリティ警告があふれて緊急招集されたと言うので、現場の混乱が目に付きます。
これは単なるバグではありません。高度なAIが自律的にツールを使用するときに発生する可能性があるセキュリティ上の脅威の実例です。目標を与えると、スーダンは自分で求めるAI、今、その自律性をどこまで許すか真剣に悩むべき時です。
「AI Native百科事典」を購読する
サイトを購読すると、新しい投稿などの最新のアップデートを通知やメールで最初に受け取ることができます。
Slashpageに参加して「AI Native百科事典」を購読してください！
Slashpageに参加して「AI Native百科事典」を購読してください！
