ローカルAIモデルおすすめランキングと必要なPCスペック

👁 127閲覧数

ローカルAIは、文章・画像・動画・音声のオープンモデルを自分のPCで動かす使い方です。アカウントも月額料金も不要で、入力したデータがPCの外に出ません。RTX 4090での実測では、まず試すなら文章はGemma 4 12B（VRAM約8 GB）、画像はZ-Image Turbo（1枚4.2秒、商用利用可）、短い動画はWan 2.2 5B（720p・5秒で約4分）がおすすめです。ただし手直しなしで使える文章の質では、Claude Opus 5.5やGPT-6 Lunaなどのクラウドモデルにまだ大きく届きません。このページでは、GPUのメモリー別に動くモデルの表、2026年10月時点のオープンモデルのランキング、10分で始める手順をまとめます。

実測レビューとガイド

01Gemma 4 12BなどローカルAI 7モデルを比較、RTX 4090で検証RTX 4090でローカルAI 7モデルの文章作成、速度、VRAMを比較。クラウドのHaikuとのAPI料金も補足します。読む →02Z-Image TurboとQwen-Image 2.1：RTX 4090実測とVRAM同じ8プロンプトで生成した16枚とRTX 4090の実測値。小容量GPUの未測定条件、ComfyUIの設定、日本語の文字品質を判断できる範囲を整理します。読む →03Wan 2.2をRTX 4090で実測：生成時間・VRAMと4本の作例Wan 2.2 TI2V 5Bで生成した4本の動画とRTX 4090の測定値。初回読み込み、VRAM、電力量、小容量GPUに結果を当てはめる際の限界を整理します。読む →04ローカルAIモデル新作まとめ 2026年10月：動画・画像・音楽Kandinsky 6.0、Qwen-Image 2.1 Turbo、FLUX 3 Klein、YuE2をRTX 4090で検証。生成時間、VRAM使用量、ライセンスを紹介します。読む →05FLUX 3 Image Kleinをローカル実行：RTX 4090での速度とVRAM使用量RTX 4090での生成速度とVRAM使用量を検証。ComfyUIでの使い方と、ボックスによるレイアウト指定も紹介します。読む →06Kandinsky 6.0 VideoをRTX 4090で実行：音声付き動画をローカル生成Kandinsky 6.0 VideoをComfyUIとRTX 4090でテスト。LiteとProの生成時間、VRAM使用量、音声生成とポーランド語音声の結果を紹介します。読む →07Hangar：Windowsで画像・動画・音楽を生成できる無料ローカルAIHangar 0.2は、NVIDIA GPUを検出し、モデルをSHA-256で検証して取得できるWindows向け無料ツールです。対応モデル、必要VRAM、ライセンス、導入手順を紹介します。読む →08ローカルAIとAPIの料金比較：RTX 4090の実測コストRTX 4090でローカルAIの電力コストを測定し、API料金と比較。モデル別の品質スコアや、GPU購入費の損益分岐点も紹介します。読む →

PCのスペック別に動くローカルAIモデル

動くかどうかを決めるのは、何よりGPUのビデオメモリー（VRAM）です。Macではユニファイドメモリがポイントになります。以下では、よくある5種類の環境を紹介します。速度の数値は、自分で測定した値か、日付が明記された情報源の値だけを掲載しています。実機で所有しているGPUはRTX 4090 24 GBのみです。小容量GPUの数値はシミュレーションで確認しました。OllamaでGPUに割り当てるレイヤー数を制限し、8・12・16 GBのGPUで使用可能なメモリ（容量からシステム用の1 GBを差し引いた量）にモデルが収まるようにして、残りの処理をCPUに割り当てています。実際の8 GB・12 GB GPUはRTX 4090よりメモリ帯域幅が狭いため、これらの速度は上限の目安としてご覧ください。測定値も情報源もない場合は「未測定」と記載しています。

RTX 4090 24 GB（RTX 3090、5090も対象）- 実測値

文章生成はllama.cpp CUDA（26.09）とOllama 0.40（Gemma 31B、10月8日）、コンテキストは8,000-32,000トークンです。画像生成はComfyUIで1344×768、初回ロード時間を除いた値です。音声は10月8日にポーランド語の同じ文章で測った結果です。Gemma 4 31BはGPUのほぼ全容量を使うため、同時に画像生成モデルを動かすことはできません。

12 GB GPU（RTX 3060、4070）- シミュレーションと情報源

8 GB GPU（RTX 4060、3070）- シミュレーションと情報源

8 GBのGPUでは、モデル全体がメモリに収まるものを選びましょう。Bielik 11B Q8をGPUとCPUに分けたシミュレーションでは8 tok/sまで低下しました。GPUメモリ全体に収まる環境では70 tok/sでした。

Mシリーズ搭載Mac（16、32、64 GB）- 情報源に基づく参考値、実測なし

テスト用のMacは所有していません。MacのメモリはシステムとGPUで共有するため、macOSやアプリ用の領域が常に必要です。以下に示すファイルサイズは、テストしたモデルそのものを動かすための最低限のメモリの目安です。速度は同じ小型モデル（Llama 2 7B Q4_0）について、llama.cppの公開ベンチマークから引用しています。

GPUなし、CPUのみ

同じモデルを異なる環境で比較

公平に比較するため、同じモデルLlama 2 7B Q4_0で128トークンを生成したllama.cppのベンチマークを使いました。NVIDIA GPUの値はFlash Attentionを使ったディスカッション#15013、Macの値はディスカッション#4167に基づきます。速度はGPUの価格ではなく、メモリ帯域幅に応じて上がります。

もうひとつの実測結果から、モデルがGPUメモリに収まらない場合、速度は数十パーセントではなく一桁以上低下することがわかります。同じQwen 3.8 27Bを小容量GPUのシミュレーションで比較しました。

目安として、量子化した文章モデルはファイルサイズに加えて、コンテキストの長さに応じた数GBの余裕が必要です。モデルがVRAMに収まるかどうかで、速度は桁違いに変わります。

10分でローカルAIを始める方法

10分というのはインストールと初回起動にかかる時間です。モデルのダウンロード時間は通信環境によって変わります。Gemma 4 31B（18 GB）は私の環境で40分、軽量なGemma 4 12B（7 GB）は高速なインターネットで数分かかりました。

Ollama - ターミナルで文章生成

1. ollama.comからインストーラーをダウンロードしてインストールします（Windows、macOS、Linux）。
2. PowerShellまたはターミナルを開き、ollama run gemma4:12bと入力します。モデルがダウンロードされ、そのままチャット画面が開きます。
3. ollama psを実行して、すべての処理がGPU上で行われているか確認します。「PROCESSOR」列が「100% GPU」になっている必要があります。
4. --verboseフラグを追加すると、「eval rate」の行で速度を確認できます。

OllamaをRTX 4090で使った別の検証はbasal-omniをローカルで実行する方法にあります。

LM Studio - ウィンドウで文章生成

1. lmstudio.aiからLM Studioをダウンロードしてインストールします。アカウントは不要です。
2. 検索タブで「gemma 4 12b」などのモデル名を入力し、Q4版を選びます。使っているGPUに収まるモデルをプログラムが提案します。
3. 「Load」をクリックしてチャットで入力します。データはすべてPC内にとどまります。

ComfyUI - 画像と動画の生成

1. instaluj-comfyui.ps1を実行します。GPUに合ったPyTorchを含むComfyUIをインストールし、Z-Image Turboをダウンロードするスクリプトです。
2. ComfyUIが表示するアドレスをブラウザーで開きます。初期設定では127.0.0.1:8188です。
3. Z-Image Turboのテンプレートを選び、指示を入力して「Run」をクリックします。初回はモデルをディスクから読み込むため、画像生成に時間がかかります。

ComfyUIを直接触らずに画像・動画モデルを入れたい場合は、無料ツールのHangarも使えます。

オープンモデルのランキング（2026年10月）

このランキングは、Artificial Analysis（AA）の独立したベンチマークと、私がポーランド語で行ったテストを並べたものです。AAは主に英語で評価しています。日本語での性能は、どちらも測っていません。

文章生成

AA：Intelligence Index v4.3.2、オープンウェイトモデルのランキング。2026年10月9日確認。上位モデルはサーバー向けで、上位6モデルのうち一般向けGPU 1枚で動かせるのはQwen 3.8 27Bのみです。一般的なPCで動くモデルのうち、私のポーランド語テストで最も評価が高かったのはGemma 4（31Bと12B）でした。

画像生成

AAのランキングは2026年10月2日時点。

音声

音声合成は2026年10月8日、同じポーランド語の文章でテストしました。クラウドサービスの最高評価はEleven v4の15/15点でした。音声認識のAAランキングは2026年10月9日確認で、英語の録音における誤りを測定しています。モデルカードによると、Voxtral Smallは対応言語にポーランド語がなく、約55 GBのGPUメモリーが必要です。自宅のPCで動かせる多言語の音声認識なら、Whisper large-v3が現実的な選択肢です。

10月に重みが公開された大型モデル

StepFunは2026年10月15日、Step 5 Previewの重み（BF16とFP8）をHugging Faceで公開しました。総パラメーター6000億（アクティブ270億）、コンテキスト100万トークンのモデルで、一般向けのGPU 1枚には到底収まりません。ほかのオープンウェイトの大型モデルとの比較はオープンウェイトAIモデル比較にまとめています。PCで動かせる10月の新作（Kandinsky 6.0、FLUX 3 Klein、Qwen-Image 2.1 Turbo、YuE2）はローカルAIモデル新作まとめで検証しました。

ローカルAIを動かすソフト

• LM Studio - モデル検索機能付きのGUIアプリ。文章モデルを手軽に始められます。
• Ollama - ターミナルで文章モデルを実行できる、シンプルなAPIサーバー。自動化にもよく使われます。
• llama.cpp - 上記2つの基盤となるエンジン。細かく制御でき、ブラウザー上のチャットも利用できます。NVIDIA GPUではCUDA版がおすすめです。私の環境ではVulkan版は1.9-2.6倍遅くなりました。
• ComfyUI - 画像と動画を生成するソフト。ノードをつないで操作し、新しいモデル向けのテンプレートやスクリプトによる制御も利用できます。

ダウンロードできるスクリプト

各ガイド用に用意したスクリプトは、2026年9月26日にWindows 11とRTX 4090で動作確認しています。コメント付きのコード全文は各記事に掲載しています。ライセンスはMITです。5つのスクリプトをまとめたZIPファイル（15 KB）もダウンロードできます。

• instaluj-llama-cpp.ps1（5 KB）- CUDA版またはVulkan版のllama.cpp、Gemma 4 12B、起動用ファイルをインストールします。
• instaluj-comfyui.ps1（6 KB）- GPUに合ったPyTorchを含むComfyUIと、Z-Image Turbo、Wan 2.2をインストールします。
• generuj-obrazy.py（6 KB）- 指示のリストから画像を連続生成し、処理時間を記録します。解説。
• generuj-wideo.py（6 KB）- Wan 2.2でMP4動画を生成します。解説。
• zmierz-model.py（6 KB）- モデルの速度、GPUメモリ、電力コストを測定します。解説。

ローカルAIは安い？電気代は小さく、GPU代が大きい

Gemma 4 12Bで13件の課題を処理したときのGPUの消費電力量は合計0.004 kWh、Z-Imageの画像1枚は約0.0004 kWhでした。電気代そのものはごくわずかですが、GPUの購入費を回収するには数百時間の利用が必要です。また、最も安いAPIのほうが文章生成の品質は高いという結果でした。ローカルAIの主な利点はプライバシーです。データがPCの外に出ません。詳しい比較はローカルモデルとAPIの比較をご覧ください。

よくある質問

8 GBのGPUで動くAIモデルは？

Gemma 4 E4Bは全体で5.4-6.1 GBのため、メモリに収まります。Gemma 4 12B Q4はほぼ収まり、8 GBのシミュレーションでは48レイヤー中45レイヤーをGPUに配置して48 tok/sでした。より大きなモデルをGPUとCPUに分けると、速度は毎秒数トークンまで落ちます。

ローカルAIはMacで使えますか？

はい。Ollama、LM Studio、ComfyUIにはmacOS版があります。Macでの実測はしていません。llama.cppのベンチマークによると、小型の7BモデルはM4で約24 tok/s、M4 Proで約51 tok/s、M4 Maxで約83 tok/sです。32 GBのMacでは、私の環境で17-19 GBを使うQwen 3.8 27BやGemma 4 31Bなどのモデルが収まります。

GPUなしでローカルAIを動かせますか？

小型の文章モデルと音声合成ソフトPiperは、CPUだけでも動作します。CPUのみの文章生成速度は測定していません。私の環境ではQwenの66レイヤー中18レイヤーだけがCPUに割り当てられた際、速度が46 tok/sから8.4 tok/sに低下しました。GPUなしでの画像や動画生成は、実用上遅すぎます。

ローカルAIはインターネット接続なしで使えますか？

はい。モデルをダウンロードした後は、LM Studio、Ollama、llama.cpp、ComfyUIを完全にオフラインで使えます。入力内容やファイルがPCの外に出ることもありません。

日本語に強いローカルモデルはどれですか？

このページの文章テストはポーランド語で行ったため、日本語の順位は分かりません。日本語で使う場合も、まずGemma 4 12Bのような軽いモデルを入れ、同じ質問を何問か試して比べるのが確実です。

// 続きを読むKimi K3.1 ProのAPI料金と実測コストAIツールJina Readerの使い方：WebページをMarkdown化、実測結果と制限AIツールInfiniteTalkをComfyUIで使う方法：RTX 4090での導入と設定AIツール