アンスロピック、クロードAIの新しい「憲法」公開…「より安全で倫理的なAIを作る」
팀
팀제이커브
カテゴリー
Empty
アンスロピックは同社のAIクロードの新しい「憲法」を発表しました。この文書は、大規模な言語モデルがユーザーの要求をどのように処理するかを指定したガイドラインです。 2023年5月に公開された初期バージョンの限界を補完したものだそうです。
既存の憲法の最大の問題は、新しい状況への適用が難しかったことです。今回のアップデートでは、単なるガイダンスだけでなく、「なぜそのように行動するのか」の説明も追加しました。おかげでAIが見知らぬ作業にも原則をよりよく適用できるようになったと。
新しい憲法には4つの重要な原則が含まれています。本当に役に立ち、広く安全で倫理的でなければならないという内容です。また、脱獄の試みを守り、サードパーティのアプリと対話する方法も指定しました。
アンスロピックはこの憲法を無料ライセンスで公開しました。競合他社であるオープンAIも、GPT-5トレーニングに使用する類似文書を同じ方法で公開したことがあります。 AI業界がより安全なAI開発のために協力する姿ですね。
「AI Native百科事典」を購読する
サイトを購読すると、新しい投稿などの最新のアップデートを通知やメールで最初に受け取ることができます。
Slashpageに参加して「AI Native百科事典」を購読してください！
Slashpageに参加して「AI Native百科事典」を購読してください！
