Goodfire、
Allen Institute for AI (Ai2)要
AI要約
3行で- Goodfire が Ai2 の公開学習基盤で挙動の変化を追跡しました。
- 選好学習は安全性の低下を招く場合があります。
- 個々の選好データまで原因を特定できます。
AI要約です。詳しくは出典へ。誤りを報告
Karunews が選んだ理由好ましくない挙動を個々の選好データまでさかのぼって特定できることが、公開された学習基盤の実例で示されています。
典
出典
1ソース · 一次情報Allen Institute for AI (Ai2)一次How Goodfire used Ai2’s open post-training stack to trace unwanted model behaviorallenai.org