意思決定モデルと小型LLMを比較：コスト・速度・精度

👁 119閲覧数

Decision Indexでは、意思決定モデルは小型言語モデルより3倍から20倍以上速く回答します。一方、Claude Haiku 5.5（low）は、どの意思決定モデルよりも総合スコアが高くなっています。費用には単純な法則がなく、モデルの種類と、LLMで出力トークンにいくら支払うかによって変わります。以下ではArtificial Analysisの測定値、API料金、トークン数に基づく明示的な試算を比較します。

データ確認日：2026年10月13日。ここでいう「小型言語モデル」は、提供元の製品ラインにある比較的安価なモデル（Haiku、Luna、Flash、Gemma）を指し、パラメーター数が確認されたモデルという意味ではありません。意思決定モデルとは何か、ランキングの結果はどうだったかについては、AI意思決定モデルのガイドで説明しています。100万件の分類にかかる費用の試算とカスケード計算機は、別の記事LLMの代わりに意思決定モデルを使うをご覧ください。この記事では、小型LLMと意思決定モデルそのものを比較します。

まず同じタスク同士を比べる

意思決定モデルは、選択肢と各選択肢の確率を返します。Decision Indexでは、通常の言語モデルにも同じタスクを与えますが、回答形式はJSONに固定されています。これにより、回答の生成方法は異なるものの、両タイプのモデルが同じ質問に取り組みます（AAの評価方法）。

そのため、一方のモデルのDecision Indexと、別のモデルのIntelligence Indexを並べてはいけません。どちらもArtificial Analysisのサイトに掲載されていますが、尺度は異なります。LLM名の横にある設定にも注意してください。AAではHaiku 5.5のlow、medium、high、xhigh、maxは、スコア、費用、時間がそれぞれ異なる5つの行として扱われます。

もう一点、分類が正しいことと、顧客向けの回答を返すことは同じではありません。業務プロセスで意思決定のあとに説明やメッセージを書く必要があるなら、文章生成の工程も費用に加える必要があります。分類器だけと、文章による完全な回答を比較すると、測定対象が変わってしまいます。

AAによるスコア・費用・時間の比較

出典：AAのDecision Indexランキング（随時更新）、2026年10月13日確認。言語モデルとの比較を有効にした状態で、ランキング掲載の意思決定モデル11種と選定した小型LLMを掲載しています。各列の最良値を太字で示しました。Geminiの行はデータの欠落を示すもので、スコアがゼロという意味ではありません。

AAはトークン使用量と現行料金から費用を算出し、タスク1件あたりの平均費用を100万件分に換算しています。意思決定モデルでは入力分のみが課金対象ですが、LLMでは入力と出力の両方が対象です。時間はインデックスのタスクにかかった時間の中央値です。したがって、この費用は「任意の100万件の意思決定」に対する料金表ではなく、特定の質問セットに基づく計算です。

この表から読み取れること：

• スコアではHaiku 5.5（low）が首位：Jevを3.1ポイント上回りますが、AAによると約11倍遅く、費用は4.4倍です。
• モデルの種類だけでは安さは決まらない：ClefはHaiku 5.5（low）やGPT-6 Luna（low）より高価ですが、回答は速くなっています。Clef-Omniは、non-reasoningのLunaより高価です。
• LLMが大きいほど意思決定に強いとは限らない：推論ありのGemma 4 31Bは比較対象の中で最も高価かつ遅く、スコアはLuna（low）をわずかに上回るにとどまります。
• 費用対効果の高い候補：AAによれば、Decider v1.1 27B、Microsoft-Decision-1、Jev 1.13は、価格に対するスコアが優れています。

精度は意思決定の種類によって異なる

インデックスの総合スコアが最も高いモデルが、すべての評価項目で優れているとは限りません。AAの分析によると、LLMは知識を問う課題で優位に立ち、上位の意思決定モデルは安全性分類やツールを使うかどうかの判断でLLMと同等か、それ以上の結果を出しています。

数値の出典、2026年10月13日確認：AAのAA-Omniscience-Decision、HLE-MultiChoice、When2Call、WildGuardTestのグラフ。最後の列は異なるモデルの最高スコアをまとめたもので、単一のシステムを表すものではありません。インデックスの構成と各テストの測定内容については、Decision Indexランキングの記事で説明しています。

実用面では、明確に定義されたカテゴリにメッセージを振り分ける仕事や、エージェントの次の行動を選ぶ仕事なら、意思決定モデルは有力な候補です。質問文に含まれていない知識が判断に必要なら、小型LLMが明確に優位です。これはテストデータを選ぶ際の指針であり、特定の企業で同じ成果が出るという保証ではありません。

API料金は単位を分けて比較する

料金の出典、2026年10月13日確認：Anthropic、OpenAI、Google、Cloudflare。意思決定モデルの料金は各提供元の情報に基づき、ガイドにまとめました。HaikuとLunaの料金は、2026年10月13日のテストでOpenRouterが請求した額とも一致します。この表では、キャッシュ、バッチ割引、EU内での処理にかかる追加料金を考慮していません。

Gemini 3.8 Flashの標準料金は、入力100万トークンあたり0.75 USD、出力100万トークンあたり3.75 USDが2026年12月31日まで適用されます。Googleの料金表では、2027年1月1日からそれぞれ1.50 USD、7.50 USDとされています。すべてのLLMについて、入力が長文コンテキストのしきい値を超えていないかも確認しましょう。しきい値を超えると料金が変わる場合があります。

前提を明示して100万タスクの費用を試算

これはシナリオ試算であり、ベンチマークではありません。課金対象となる入力トークンを1回の呼び出しあたり1000トークン、呼び出し回数を100万回と仮定します。LLMでは、推論にかかる有料分も含め、1タスクあたりの課金対象の出力トークンを50または500として比較します。これは仮定した使用量であり、各モデルの回答がその長さになるという予測ではありません。

100万タスクの費用（USD）=
1タスクあたりの入力トークン数 * 入力100万トークンあたりの料金
+ 1タスクあたりの出力トークン数 * 出力100万トークンあたりの料金

Haiku、出力50トークンの場合：
1000 * 0.10 + 50 * 0.50 = 125 USD

2026年10月13日時点の料金に基づく独自計算です。意思決定モデルは文章を生成しないため、出力トークンの予算によって費用は変わりません。太字は各シナリオで最も安い費用を示し、品質の首位を意味するものではありません。

• 出力が短い場合、HaikuとLunaはWorkers AIのClefより安く、出力が長い場合は関係が逆転します。
• この試算では、Gemini 3.8 Flashは、どちらの出力トークン数でもHaikuとLunaの7.5倍の費用になります。
• 追加の出力トークンが必要な説明文に使われるなら、意思決定モデルでは代替できません。文章を生成する別のモデルを使う場合は、追加の呼び出し分も費用に加える必要があります。

入力を一律1000トークンとするのは単純化です。同じ文章でも、トークナイザーが異なればトークン数も変わります。私のテストでは、質問を含むポーランド語の問い合わせ1件は、Mercury Decideで約205トークン、Jevで約650トークンでした。Haikuには、指示文とJSONスキーマを含めて平均782トークンの入力が渡されました。したがって実際に比較する際は、メッセージの長さから推定するのではなく、APIが報告する使用量を記録してください。

レイテンシー：判断が完了するまでの時間

分類では、アプリケーションが次の処理に移れる時点が重要です。JSONの最初の文字が出始めても、まだ判断が完了したとは限りません。そのため、最初のトークンが出るまでの時間や生成速度を、回答全体の測定の代わりにはできません。

2026年10月13日の私のテスト（ポーランドからOpenRouter経由で送信したため、ネットワーク時間を含みます）でも、AAと同じ傾向が確認できました。

• 意思決定モデル：中央値は310-619 ms（最速はClef-Omni、最遅はMercury Decide）。
• GPT-6 Luna（low）：1371 ms。
• Claude Haiku 5.5（low）：1689 ms。
• Gemini 3.8 Flash：2026年10月5日にAPI経由で行った別のテストでは、ポーランド語の問い合わせ30件で中央値1822 ms（部門分類は30/30、緊急度分類は26/30）でした。対象セットも実施日も異なるため、この数値はAAの表には加えていません。

中央値が示すのは分布の中央であり、ユーザーが待つことになる最も遅い回答ではありません。独自のテストでは、分布の裾、エラー、再試行も記録してください。100万件の判断を順番に処理するのに何時間かかるか、リクエスト上限がどう影響するかについては、費用に関するガイドで試算しています。

ポーランド語での精度：小型LLMがわずかに優位

私が行ったポーランド語のテストでは、明確に分類できる問い合わせ47件のうち、意思決定モデルは41-44件を適切な部門に振り分けました。Claude Haiku 5.5（low）とGPT-6 Luna（low）は45件でした。小さなサンプルで1-3件の差はノイズに近いものの、AAの結果と同じく、単純な分類では小型LLMがわずかに優位で、その代わりに時間と費用がかかることを示しています。11モデルすべての結果はガイドに掲載しています。

どのモデルを選ぶべきか

• 意思決定モデル：処理結果がラベルや行動の選択であり、判断件数が数千件にのぼる場合に適しています。同じ例を使って候補を比較し、確率を活用して不確実なケースを別の処理に回しましょう。
• Claude Haiku 5.5：判断に文章生成や、質問文に含まれない知識が必要な場合に適しています。lowは今回の比較で最高スコアですが、最速の意思決定モデルより10倍以上遅く回答します。
• GPT-6 Luna：比較したモデルのうち、知識を問う質問で最も高い精度（66.0）でした。ただし、このテストではほとんど「わからない」を選びません（0.0）でした。そのため、推測で答える頻度が高くなります。low、non-reasoning、Decisionsの行は別々に確認してください。スコア、費用、時間はそれぞれ異なります。
• Gemini 3.8 Flash：独自に比較可能なテストを行う必要があります。料金を使ったシナリオ試算はできますが、Decision Indexの未掲載スコアを補うことはできません。

複数のモデルを使うなら、私が運営するJantarisでGPT-6 Sol、Claude Opus 5.5、Gemini 3.6 Flash、DeepSeek V4、Veo 3.1、Nano Banana ProをUSD建てのプリペイド残高とAPIキー1つにまとめられます。月額契約は不要で、残高に有効期限はなく、生成に失敗した場合は$0です。詳しくはJantarisガイドへ。

よくある質問

意思決定モデルは常に小型LLMより安いですか？

いいえ。AAの測定では、Clefは100万タスクあたり199.4 USDで、Claude Haiku 5.5（low）やGPT-6 Luna（low）より高価です。モデルの種類、入力の長さ、有料の出力が費用を左右します。

100万トークンは100万タスクという意味ですか？

いいえ。1タスクで数百から数千のトークンを使うことがあります。100万タスクの費用は、トークン単価に、測定値または明示した仮定に基づく使用量を掛けて算出します。

Gemini 3.8 FlashはDecision Indexで負けていますか？

そう結論づける根拠はありません。2026年10月13日時点で、Gemini 3.8 Flashはインデックスにスコアが掲載されていません。測定値がないことは、負けたことを意味しません。

GPT-6 LunaとGPT-6 Luna Decisionsは同じスコアですか？

いいえ。AAでは言語モデル（low：55.2点、non-reasoning：49.6点）とDecisionsのバリエーション（48.5点）を別々に掲載しています。それぞれ費用と時間も異なります。

インデックスのスコアは、判断の正解率をパーセントで示したものですか？

いいえ。4種類の異なる指標を組み合わせたスコアです。用途に合った個別の指標を選び、代表性のあるデータを使ってモデルをテストしてください。

開示：Jevについては、以前に調べたことがあります。9月には自分の編集ツールで使うため、簡単なAPIクライアントを書きました。TypeSafeはこの記事を依頼も支払いもしていません。評価はArtificial Analysisの独立した測定値と、すべてのモデルに同じタスクを与えた私自身のテストに基づいています。

独自テスト：2026年10月13日（ポーランド語の問い合わせ50件、ポーランドからOpenRouter経由で11モデルをテスト）および2026年10月5日（ポーランド語の問い合わせ30件、Gemini 3.8 Flashを含むAPIテスト）。

// 続きを読むGemini Omni 1.2のカメラワーク検証: FPV飛行、人物周囲の回転、ガラス通過ベンチマークGemini Omni 1.2と1.1を徹底比較：同じプロンプトでの動画生成テストベンチマークGPT-6 Cyberの全ベンチマーク結果とシステムカード徹底解説ベンチマーク