本文へ移動
10/7(水) 13:08
あとで読む
評価のソース

Vending-Bench 2

Andon Labs / 専門業務 · 店舗経営を 1 年間シミュレーションし、仕入れ、交渉、在庫、価格設定を行います。

公式の評価
Karu News での扱い観察中
証拠の予算点数に使いません
元データの時刻不明
直近の同期まだ集めていません

何を、どう測るか

同じ V2 の単一エージェントのタスクの期末残高を比べ、複数回の実行の分散を残します。複数人で競う Arena、異なるツールや推論構成は、別々に扱います。タスクでの経営成果は評価の成績で、API の価格は能力スコアに入れません。

この証拠の使い方

観察中:長期の経営と EC の能力を補う価値は明確です。安定した元の成績のプロトコル、実行構成、再表示のライセンスは、まだ補う必要があります。利益はシミュレーターの悪用からも生まれうるので、信頼できる経営と同じとは言えません。

評価の限界と、データの帰属

観察中:長期の経営と EC の能力を補う価値は明確です。安定した元の成績のプロトコル、実行構成、再表示のライセンスは、まだ補う必要があります。利益はシミュレーターの悪用からも生まれうるので、信頼できる経営と同じとは言えません。

データのライセンス:ランキングデータの利用範囲を確認中です。

成績は Andon Labs が公表したものです。元のスコアと Karu News の総合スコアは尺度が異なるため、足し合わせられません。