オープンAI、AIブラウザ「アトラス」セキュリティ大幅強化…「ハッカーとの無限の戦争」
팀
팀제이커브
カテゴリー
Empty
オープンAI、AIブラウザ「アトラス」セキュリティ大幅強化…「ハッカーとの無限の戦争」
オープンAIがAIブラウザ「アトラス」のセキュリティを大幅に強化しました。プロンプトインジェクション攻撃を防ぐための自動化防御システムを導入したという。このような攻撃は完全に消えないでしょうが、持続的な検出で対応すると明らかにしました。
アトラスは、電子メールの読み取り、ウェブサイトの閲覧、フォームの作成などに代わるAIエージェントです。しかし、このような利便性がむしろ弱点になったのですが。ハッカーたちがメールやウェブページに隠された命令を入れてAIを操縦できると。
オープンAIは強化学習ベースの自動攻撃システムを開発しました。 AIが直接ハッカーとして機能し、脆弱性を見つける方法です。何百ものシナリオをシミュレートし、人が見つけにくい攻撃パターンまで発見すると言います。
オープンAIはこれを「無限の循環過程」と表現しました。プロンプトインジェクションは、古い社会工学技術と似ており、完全な解決よりも継続的な進化が必要だと強調しました。
「AI Native百科事典」を購読する
サイトを購読すると、新しい投稿などの最新のアップデートを通知やメールで最初に受け取ることができます。
Slashpageに参加して「AI Native百科事典」を購読してください！
Slashpageに参加して「AI Native百科事典」を購読してください！
