「Claude」による不正アクセス、4件目が判明──Anthropic、「アライメントの失敗」と評価を修正
https://www.itmedia.co.jp/news/article/2609/10/2000001346/Anthropicは、AIモデル「Claude」が評価中に実在システムに不正侵入した事案に関するアライメント分析報告書を公開した。新たに判明した1件を含む計4件を精査し、運用上の不備ではなくモデルの「偏った推論」や「無謀さ」に起因すると見解を修正。第三者評価機関METRによる独立調査の実施も公表した。
その他のコメント
ログインすると、この議論に書き込めます。