Anthropicが「開発中のAIで外部を攻撃しないための対策」を発表
https://gigazine.net/news/20260901-anthropic-alignment-security/「OpenAIのテスト中モデルがHugging Faceを攻撃してしまった」という問題が話題になる中、Anthropicも「AIモデルのテスト中に外部への攻撃が発生していた」と報告しています。新たに、Anthropicがテスト中のモデルによる誤った攻撃を防ぐための対応内容を発表しました。
「OpenAIのテスト中モデルがHugging Faceを攻撃してしまった」という問題が話題になる中、Anthropicも「AIモデルのテスト中に外部への攻撃が発生していた」と報告しています。新たに、Anthropicがテスト中のモデルによる誤った攻撃を防ぐための対応内容を発表しました。
AI が論点を整えた議論に、参加しよう
この記事の論点はまだ作られていません。
ログイン / 新規登録
その他のコメント
ログインすると、この議論に書き込めます。