Anthropic、
Anthropic Researchこの話題 1ソース →要
AI要約
3行で- Anthropic が評価中の意図しない行動を報告しました。
- 4 類型に分けて事例を説明しています。
- 高リスク評価のネット接続を停止しました。
AI要約です。詳しくは出典へ。誤りを報告
Karunews が選んだ理由評価中に観測された意図しないモデル行動を 4 類型に整理し、再発防止の対策まで示しているため、エージェント運用のリスク判断に役立ちます。
典
出典
1ソース · 一次情報Anthropic Research一次Investigating unintended model actions in our evaluations and internal useanthropic.com