日
← すべての記事

GPT-6.2 の振り分けは、検収済み成果の費用で決める

Astra と Sol のトークン単価は出発点にすぎない。再試行、人の確認、納期を含めて、安い処理経路を見極める。

コラムAI最前線著者Open Market Notes種類記事
生成りの背景に黒線で描くAIタスクの分岐経路。終点に人による承認を示す赤い印。

OpenAIは11月17日、難しいプロジェクト向けのGPT-6.2 Astraと日常業務向けのSolを発表した。公式発表を受け、企業にはどの仕事をどちらに任せるかという問題が生じる。百万トークン当たりの価格だけでも、強いモデルを一律に選ぶ方針でも、十分な答えにはならない。

比較したいのは、同じ品質要件と納期の下で、検収済みの成果一件を得るための総費用だ。安い初稿でも修正が多ければ、確認者に費用を移しただけかもしれない。高い呼び出しが利用可能な成果を改善しなければ、追加支出は不要かもしれない。

呼び出し単価と納品費用は違う

短いコンテキストのStandardテキスト処理では、Solのモデルページに百万入力トークン2ドル、出力10ドル、Astraのページには8ドルと40ドルとある。これは課金単位であり、タスクの固定価格ではない。入力、出力の長さや再試行で請求額は変わる。

課金条件をそろえて実使用量を測る必要がある。API料金表はキャッシュ、処理階層、コンテキスト条件を区別する。一方の割引バックグラウンド処理と他方の即時処理を混ぜてはいけない。以下はStandard、キャッシュなし、短いコンテキストのテキスト料金だけを使い、定額契約の利用枠には換算しない。

社内指標には、同じタスク群のモデル・ツール料金と、人による確認・手直し費用を合計し、合意した条件で検収された成果数で割る方法がある。失敗、期限超過、中断、別モデルへの引き継ぎ費用も分子に残す。検収件数がゼロなら、その経路はまだ使えないと判断し、見栄えのよい平均を作らない。

あくまで仮定の計算例

以下はAstraやSolの実測性能ではない。同じ低リスク業務100件に同じ検収条件を適用し、各件の納期は30分と仮定する。両経路とも95件を検収済みとして納品し、事前設定した同じ許容誤り基準を満たす。失敗した5件の費用も計上する。確認、修正、失敗処理を含む人の時間は毎分1ドルと評価する。

計算を簡単にするため、毎回の呼び出しは入力1万トークン、課金対象の出力2000トークンとする。出力には該当する推論トークンを含め、キャッシュやツール料金はない。Solは一回0.04ドル、Astraは0.16ドルになる。実際の再試行では履歴が長くなる場合があるが、ここでは意図的に簡略化した。

  • Sol経路:初回100回と再試行20回で4.80ドル。人の作業は300分、300ドル。合計304.80ドルを95件で割ると、検収済み成果一件当たり約3.21ドル。
  • Astra経路:初回100回と再試行5回で16.80ドル。人の作業は190分、190ドル。合計206.80ドルで、一件当たり約2.18ドル。

この仮定ではAstraの推論費用は12ドル多いが、人の作業を110分減らせるため総費用が低い。ただし、Astraが常に安いという結論ではない。人の時間が同じならSolの方が安くなる。本例の時間評価なら、Astraが12分を超えて節約すれば追加モデル料金を相殺できる。例を購買の証拠とせず、自社の観測値で仮定を置き換えるべきだ。

労働時間の評価額と現金節約も別物だ。確認時間の削減は処理能力を増やしても、給与支出を減らすとは限らない。財務報告では回復した作業余力と実際に回避した支払いを分けたい。

ベンチマークは検収を代替しない

CognitionのFrontierCode 2.0の方法説明は加重スコアを使い、必須の阻害条件に抵触する成果をゼロ点とし、API価格による一実行当たり平均費用を示す。スコアは費用式にそのまま入れられる検収率ではなく、実行費用も人件費込みの納品費用ではない。

公式ランキングは保守担当者がコードをマージできるかを評価対象にする。有用な視点だが、コードの評価で報告書、営業メール、企業固有のリポジトリでも同じ順位になるとは言えない。本稿はベンダー公表の点差を企業の利益に外挿せず、両モデルの品質が同等だとも仮定しない。

明確な書式調整、出典確認が必要な情報整理、複数モジュールの変更など、仕事の種類別に小さな標本を作るとよい。確認者にはモデル名を隠し、検収規則を固定する。初回合格率、再試行数、人の修正時間、納品後の不具合を記録し、複数のバッチで小標本の偶然の優位を検証する。

引き継ぎ費用と停止条件を含める

試す価値のある方針の一つは、範囲が明確で元に戻せる作業をSolで始め、検査の失敗、必須出典の欠落、事前設定した手直し回数の上限など、確認可能な兆候でだけ切り替えることだ。Astraには元の依頼、確認済みの事実、失敗理由を渡し、背景のない未完成稿だけを送らない。

ただし「安い方から始め、必要なら切り替える」が必ず安いわけではない。初回費用、引き継ぎ準備、二度目のコンテキスト読み込みも同じ仕事の費用だ。切り替えの多い種類なら、最初からAstraに送る方が合理的な場合がある。振り分け処理自身の分類費用と誤配分も含めたい。

直接Sol、直接Astra、Solから規則に従って切り替える経路の三つを、同じ納期、ツール権限、品質条件で比較する。平均応答時間だけでなく納品遅延の分布を見る。期限後の良い回答は定時完了ではない。後から重大な誤りが見つかれば検収を取り消し、修復費用を追加する。

対象は低リスクで人が確認できる仕事であり、医療・法律判断、資金取引、不可逆な業務操作、セキュリティテストは含まない。モデルの振り分けは必要な人の承認を代替しない。どの仕事がどの条件で安く信頼できるかを説明できる規則を残し、モデル、料金、仕事の構成が変われば再検証したい。

情報提供を目的とした内容です。投資・法律・税務・財務上の助言には該当しません。