Ai2、
Allen Institute for AI (Ai2)この話題 2ソース →要
AI要約
3行で- Ai2 が MoE 学習基盤 Olmo-core 3 を公開しました。
- 専門家を GPU に常駐させ、データを振り分けます。
- 47B モデルで処理量が約 2.7 倍になりました。
AI要約です。詳しくは出典へ。誤りを報告
Karunews が選んだ理由MoE 学習基盤の設計変更とベンチマーク結果が示され、大規模モデル学習の効率をどう高めるかを判断する材料になります。
典
出典
2ソース · 一次情報Allen Institute for AI (Ai2)一次Introducing Olmo-core 3: Open, scalable training infrastructure for large MoEsallenai.orgこの話題を見る