VRAMで探す

記事ごとに測り方（中央値・平均・質問数・計測ツール）が違います。速度は、同じ記事の中での比較を優先してください。

VRAM の値も、画面表示の分を含むかどうかが記事ごとに違います。各カードの「測り方」と「記事の注記」をあわせて見てください。

数値は各記事に書いた値をそのまま載せています。「約」や「12.5〜15.8」のような幅のある書き方もそのままで、並べ替えには最初の数値を使います。

VRAM 6GBのGPU 18構成・7記事

MiniCPM5-1B Q4_K_M　0.64 GiB
227.53 tok/s
測り方llama.cpp・中央値
配置
全層GPU 層数：記事に記載なし
VRAM
測定中の最大 2,571 / 6,144 MiB
実行環境
llama.cpp
記事の注記llama.cpp の生成の中央値と、8問×3回を解いている間の VRAM 最大値（GPU 全体）です。
出典MiniCPM5-2BをVRAM 6GBで実測｜約115 tok/s、同じ8問で1Bより正答が増えた 2026年10月21日公開
LFM3-1.7B Q4_K_M　サイズ：記事に記載なし
152.13 tok/s
測り方llama-server・中央値
配置
全層GPU 25/25 単位がGPU
VRAM
測定中の最大 3,045 / 6,144 MiB
実行環境
llama.cpp
記事の注記llama-server の生成の中央値と、回答中の VRAM 最大（GPU 全体の値）です。
出典LFM3-1.7BをVRAM 6GBで実測｜Q4_K_Mで約152 tok/s 2026年11月1日公開
LFM3-1.7B QAD 版 Q4_0　サイズ：記事に記載なし
152.01 tok/s
測り方llama-server・中央値
配置
全層GPU 25/25 単位がGPU
VRAM
測定中の最大 2,991 / 6,144 MiB
実行環境
llama.cpp
記事の注記llama-server の生成の中央値と、回答中の VRAM 最大（GPU 全体の値）です。
出典LFM3-1.7BをVRAM 6GBで実測｜Q4_K_Mで約152 tok/s 2026年11月1日公開
MiniCPM5-2B Q4_K_M　1.45 GiB
114.59 tok/s
測り方llama.cpp・中央値
配置
全層GPU 43/43 単位がGPU
VRAM
測定中の最大 3,459 / 6,144 MiB
実行環境
llama.cpp
記事の注記llama.cpp の生成の中央値と、8問×3回を解いている間の VRAM 最大値（GPU 全体）です。
出典MiniCPM5-2BをVRAM 6GBで実測｜約115 tok/s、同じ8問で1Bより正答が増えた 2026年10月21日公開
LFM3-1.7B Q8_0　サイズ：記事に記載なし
107.08 tok/s
測り方llama-server・中央値
配置
全層GPU 25/25 単位がGPU
VRAM
測定中の最大 3,806 / 6,144 MiB
実行環境
llama.cpp
記事の注記llama-server の生成の中央値と、回答中の VRAM 最大（GPU 全体の値）です。
出典LFM3-1.7BをVRAM 6GBで実測｜Q4_K_Mで約152 tok/s 2026年11月1日公開
MiniCPM5-2B Q8_0　2.50 GiB
81.20 tok/s
測り方llama.cpp・中央値
配置
全層GPU 43/43 単位がGPU
VRAM
測定中の最大 4,395 / 6,144 MiB
実行環境
llama.cpp
記事の注記llama.cpp の生成の中央値と、8問×3回を解いている間の VRAM 最大値（GPU 全体）です。
出典MiniCPM5-2BをVRAM 6GBで実測｜約115 tok/s、同じ8問で1Bより正答が増えた 2026年10月21日公開
Nemotron 3.5 Bolt E4B Q4_K_M（公式）　サイズ：記事に記載なし
58.048 tok/s
測り方llama-server・中央値
配置
全層GPU 43/43 単位がGPU
VRAM
測定中の最大 5,702 / 6,144 MiB
実行環境
llama.cpp
記事の注記llama-server の生成の中央値と、8問×3回の間の VRAM の最大（GPU 全体。画面表示分を含む）です。
出典Nemotron 3.5 Bolt E4BはVRAM 6GBで約58 tok/s 2026年11月3日公開
Nemotron 3.5 Bolt E4B UD-Q3_K_XL（Unsloth）　サイズ：記事に記載なし
55.738 tok/s
測り方llama-server・中央値
配置
全層GPU 43/43 単位がGPU
VRAM
測定中の最大 4,435 / 6,144 MiB
実行環境
llama.cpp
記事の注記llama-server の生成の中央値と、8問×3回の間の VRAM の最大（GPU 全体。画面表示分を含む）です。
出典Nemotron 3.5 Bolt E4BはVRAM 6GBで約58 tok/s 2026年11月3日公開
Nemotron 3.5 Bolt E4B UD-Q4_K_XL（Unsloth）　サイズ：記事に記載なし
55.191 tok/s
測り方llama-server・中央値
配置
全層GPU 43/43 単位がGPU
VRAM
測定中の最大 5,259 / 6,144 MiB
実行環境
llama.cpp
記事の注記llama-server の生成の中央値と、8問×3回の間の VRAM の最大（GPU 全体。画面表示分を含む）です。
出典Nemotron 3.5 Bolt E4BはVRAM 6GBで約58 tok/s 2026年11月3日公開
Recursive Flint UD-Q2_K_XL（Unsloth）　13.56GB
25.272 tok/s
測り方llama-server・中央値
配置
一部CPU 層数：記事に記載なし記事では「専門家の多くをCPU側に」
VRAM
測定中の最大 5,639 / 6,144 MiB
実行環境
llama.cpp
記事の注記llama-server の生成の中央値と、実タスクの区間の VRAM の最大（GPU 全体。画面表示分を含む）です。思考オフ・文脈設定4096。
出典Recursive FlintはVRAM 6GBで約25 tok/s 2026年11月5日公開
LLM-jp-4.1 32B-A3B Q4_K_M　20.04GiB
約17.5〜18.7 tok/s
測り方llama-server・文脈設定3通り×3タスク
配置
一部CPU 層数：記事に記載なし記事では「エキスパートの大半をCPUで」
VRAM
記事に記載なし
実行環境
llama.cpp
記事の注記llama-server の生成の速さ（思考を含む）。文脈設定 4096・8192・16384 で各3タスクを測った範囲です。
出典LLM-jp-4.1をVRAM 6GBで実測｜CPU併用の32B-A3Bが8Bより速く約18 tok/s 2026年10月19日公開
LLM-jp-4.1 8B Q4_K_M　5.12GiB
12.5〜15.8 tok/s
測り方llama-server・文脈設定3通り×3タスク
配置
一部CPU 層数：記事に記載なし記事では「一部だけGPU」
VRAM
記事に記載なし
実行環境
llama.cpp
記事の注記llama-server の生成の速さ（思考を含む）。文脈設定 4096・8192・16384 で各3タスクを測った範囲です。
出典LLM-jp-4.1をVRAM 6GBで実測｜CPU併用の32B-A3Bが8Bより速く約18 tok/s 2026年10月19日公開
Qwythos-9B Q5_K_M　約6.47GB
5.93 tok/s
測り方ブラウザUI・旅行プラン
配置
一部CPU 層数：記事に記載なし記事では「-ngl 8（一部だけGPU）」
VRAM
記事に記載なし
実行環境
llama.cpp
記事の注記llama-server のブラウザUIに表示された速度です。タスクは構成ごとに違います。
出典Qwythos-9BはVRAM 6GBでどこまで動く？Q4/Q5/Q6を比較検証 2026年6月29日公開
Qwythos-9B Q4_K_M・8K context　サイズ：記事に記載なし
5.6 tok/s
測り方llama.cpp CLI
配置
記事に記載なし
VRAM
使用量（観測値） 約4,064 MiB
実行環境
llama.cpp
記事の注記llama.cpp CLI の Generation 速度と、nvidia-smi で観測した VRAM 使用量（厳密な最大ではない）です。
出典Qwythos-9Bは32K contextで読める？VRAM 6GB環境で8K/16K/32K prefillを追加検証 2026年7月1日公開
Qwythos-9B Q4_K_M　約5.63GB
5.59 tok/s
測り方ブラウザUI・コード相談
配置
一部CPU 層数：記事に記載なし記事では「-ngl 8（一部だけGPU）」
VRAM
記事に記載なし
実行環境
llama.cpp
記事の注記llama-server のブラウザUIに表示された速度です。タスクは構成ごとに違います。
出典Qwythos-9BはVRAM 6GBでどこまで動く？Q4/Q5/Q6を比較検証 2026年6月29日公開
Qwythos-9B Q4_K_M・16K context　サイズ：記事に記載なし
4.0 tok/s
測り方llama.cpp CLI
配置
記事に記載なし
VRAM
使用量（観測値） 約4,816 MiB
実行環境
llama.cpp
記事の注記llama.cpp CLI の Generation 速度と、nvidia-smi で観測した VRAM 使用量（厳密な最大ではない）です。
出典Qwythos-9Bは32K contextで読める？VRAM 6GB環境で8K/16K/32K prefillを追加検証 2026年7月1日公開
Qwythos-9B Q4_K_M・32K context　サイズ：記事に記載なし
3.0 tok/s
測り方llama.cpp CLI
配置
記事に記載なし
VRAM
使用量（観測値） 約4,464 MiB
実行環境
llama.cpp
記事の注記llama.cpp CLI の Generation 速度と、nvidia-smi で観測した VRAM 使用量（厳密な最大ではない）です。
出典Qwythos-9Bは32K contextで読める？VRAM 6GB環境で8K/16K/32K prefillを追加検証 2026年7月1日公開
Qwythos-9B Q6_K　約7.36GB
2.98 tok/s
測り方ブラウザUI・コード相談
配置
一部CPU 層数：記事に記載なし記事では「-ngl 8（一部だけGPU）」
VRAM
記事に記載なし
実行環境
llama.cpp
記事の注記llama-server のブラウザUIに表示された速度です。タスクは構成ごとに違います。
出典Qwythos-9BはVRAM 6GBでどこまで動く？Q4/Q5/Q6を比較検証 2026年6月29日公開

VRAM 6GBのGPUで測った構成
モデル	生成速度	測り方	配置	VRAM使用	実行環境	出典
MiniCPM5-1BQ4_K_M　0.64 GiB	227.53 tok/s	llama.cpp・中央値注記：llama.cpp の生成の中央値と、8問×3回を解いている間の VRAM 最大値（GPU 全体）です。	全層GPU 層数：記事に記載なし	測定中の最大 2,571 / 6,144 MiB	llama.cpp	MiniCPM5-2BをVRAM 6GBで実測｜約115 tok/s、同じ8問で1Bより正答が増えた2026年10月21日公開
LFM3-1.7BQ4_K_M　サイズ：記事に記載なし	152.13 tok/s	llama-server・中央値注記：llama-server の生成の中央値と、回答中の VRAM 最大（GPU 全体の値）です。	全層GPU 25/25 単位がGPU	測定中の最大 3,045 / 6,144 MiB	llama.cpp	LFM3-1.7BをVRAM 6GBで実測｜Q4_K_Mで約152 tok/s2026年11月1日公開
LFM3-1.7BQAD 版 Q4_0　サイズ：記事に記載なし	152.01 tok/s	llama-server・中央値注記：llama-server の生成の中央値と、回答中の VRAM 最大（GPU 全体の値）です。	全層GPU 25/25 単位がGPU	測定中の最大 2,991 / 6,144 MiB	llama.cpp	LFM3-1.7BをVRAM 6GBで実測｜Q4_K_Mで約152 tok/s2026年11月1日公開
MiniCPM5-2BQ4_K_M　1.45 GiB	114.59 tok/s	llama.cpp・中央値注記：llama.cpp の生成の中央値と、8問×3回を解いている間の VRAM 最大値（GPU 全体）です。	全層GPU 43/43 単位がGPU	測定中の最大 3,459 / 6,144 MiB	llama.cpp	MiniCPM5-2BをVRAM 6GBで実測｜約115 tok/s、同じ8問で1Bより正答が増えた2026年10月21日公開
LFM3-1.7BQ8_0　サイズ：記事に記載なし	107.08 tok/s	llama-server・中央値注記：llama-server の生成の中央値と、回答中の VRAM 最大（GPU 全体の値）です。	全層GPU 25/25 単位がGPU	測定中の最大 3,806 / 6,144 MiB	llama.cpp	LFM3-1.7BをVRAM 6GBで実測｜Q4_K_Mで約152 tok/s2026年11月1日公開
MiniCPM5-2BQ8_0　2.50 GiB	81.20 tok/s	llama.cpp・中央値注記：llama.cpp の生成の中央値と、8問×3回を解いている間の VRAM 最大値（GPU 全体）です。	全層GPU 43/43 単位がGPU	測定中の最大 4,395 / 6,144 MiB	llama.cpp	MiniCPM5-2BをVRAM 6GBで実測｜約115 tok/s、同じ8問で1Bより正答が増えた2026年10月21日公開
Nemotron 3.5 Bolt E4BQ4_K_M（公式）　サイズ：記事に記載なし	58.048 tok/s	llama-server・中央値注記：llama-server の生成の中央値と、8問×3回の間の VRAM の最大（GPU 全体。画面表示分を含む）です。	全層GPU 43/43 単位がGPU	測定中の最大 5,702 / 6,144 MiB	llama.cpp	Nemotron 3.5 Bolt E4BはVRAM 6GBで約58 tok/s2026年11月3日公開
Nemotron 3.5 Bolt E4BUD-Q3_K_XL（Unsloth）　サイズ：記事に記載なし	55.738 tok/s	llama-server・中央値注記：llama-server の生成の中央値と、8問×3回の間の VRAM の最大（GPU 全体。画面表示分を含む）です。	全層GPU 43/43 単位がGPU	測定中の最大 4,435 / 6,144 MiB	llama.cpp	Nemotron 3.5 Bolt E4BはVRAM 6GBで約58 tok/s2026年11月3日公開
Nemotron 3.5 Bolt E4BUD-Q4_K_XL（Unsloth）　サイズ：記事に記載なし	55.191 tok/s	llama-server・中央値注記：llama-server の生成の中央値と、8問×3回の間の VRAM の最大（GPU 全体。画面表示分を含む）です。	全層GPU 43/43 単位がGPU	測定中の最大 5,259 / 6,144 MiB	llama.cpp	Nemotron 3.5 Bolt E4BはVRAM 6GBで約58 tok/s2026年11月3日公開
Recursive FlintUD-Q2_K_XL（Unsloth）　13.56GB	25.272 tok/s	llama-server・中央値注記：llama-server の生成の中央値と、実タスクの区間の VRAM の最大（GPU 全体。画面表示分を含む）です。思考オフ・文脈設定4096。	一部CPU 層数：記事に記載なし記事では「専門家の多くをCPU側に」	測定中の最大 5,639 / 6,144 MiB	llama.cpp	Recursive FlintはVRAM 6GBで約25 tok/s2026年11月5日公開
LLM-jp-4.1 32B-A3BQ4_K_M　20.04GiB	約17.5〜18.7 tok/s	llama-server・文脈設定3通り×3タスク注記：llama-server の生成の速さ（思考を含む）。文脈設定 4096・8192・16384 で各3タスクを測った範囲です。	一部CPU 層数：記事に記載なし記事では「エキスパートの大半をCPUで」	記事に記載なし	llama.cpp	LLM-jp-4.1をVRAM 6GBで実測｜CPU併用の32B-A3Bが8Bより速く約18 tok/s2026年10月19日公開
LLM-jp-4.1 8BQ4_K_M　5.12GiB	12.5〜15.8 tok/s	llama-server・文脈設定3通り×3タスク注記：llama-server の生成の速さ（思考を含む）。文脈設定 4096・8192・16384 で各3タスクを測った範囲です。	一部CPU 層数：記事に記載なし記事では「一部だけGPU」	記事に記載なし	llama.cpp	LLM-jp-4.1をVRAM 6GBで実測｜CPU併用の32B-A3Bが8Bより速く約18 tok/s2026年10月19日公開
Qwythos-9BQ5_K_M　約6.47GB	5.93 tok/s	ブラウザUI・旅行プラン注記：llama-server のブラウザUIに表示された速度です。タスクは構成ごとに違います。	一部CPU 層数：記事に記載なし記事では「-ngl 8（一部だけGPU）」	記事に記載なし	llama.cpp	Qwythos-9BはVRAM 6GBでどこまで動く？Q4/Q5/Q6を比較検証2026年6月29日公開
Qwythos-9BQ4_K_M・8K context　サイズ：記事に記載なし	5.6 tok/s	llama.cpp CLI注記：llama.cpp CLI の Generation 速度と、nvidia-smi で観測した VRAM 使用量（厳密な最大ではない）です。	記事に記載なし	使用量（観測値）約4,064 MiB	llama.cpp	Qwythos-9Bは32K contextで読める？VRAM 6GB環境で8K/16K/32K prefillを追加検証2026年7月1日公開
Qwythos-9BQ4_K_M　約5.63GB	5.59 tok/s	ブラウザUI・コード相談注記：llama-server のブラウザUIに表示された速度です。タスクは構成ごとに違います。	一部CPU 層数：記事に記載なし記事では「-ngl 8（一部だけGPU）」	記事に記載なし	llama.cpp	Qwythos-9BはVRAM 6GBでどこまで動く？Q4/Q5/Q6を比較検証2026年6月29日公開
Qwythos-9BQ4_K_M・16K context　サイズ：記事に記載なし	4.0 tok/s	llama.cpp CLI注記：llama.cpp CLI の Generation 速度と、nvidia-smi で観測した VRAM 使用量（厳密な最大ではない）です。	記事に記載なし	使用量（観測値）約4,816 MiB	llama.cpp	Qwythos-9Bは32K contextで読める？VRAM 6GB環境で8K/16K/32K prefillを追加検証2026年7月1日公開
Qwythos-9BQ4_K_M・32K context　サイズ：記事に記載なし	3.0 tok/s	llama.cpp CLI注記：llama.cpp CLI の Generation 速度と、nvidia-smi で観測した VRAM 使用量（厳密な最大ではない）です。	記事に記載なし	使用量（観測値）約4,464 MiB	llama.cpp	Qwythos-9Bは32K contextで読める？VRAM 6GB環境で8K/16K/32K prefillを追加検証2026年7月1日公開
Qwythos-9BQ6_K　約7.36GB	2.98 tok/s	ブラウザUI・コード相談注記：llama-server のブラウザUIに表示された速度です。タスクは構成ごとに違います。	一部CPU 層数：記事に記載なし記事では「-ngl 8（一部だけGPU）」	記事に記載なし	llama.cpp	Qwythos-9BはVRAM 6GBでどこまで動く？Q4/Q5/Q6を比較検証2026年6月29日公開

VRAM 8GBのGPU まだ記事なし

このVRAMで測った記事は、まだありません。

VRAM 12GBのGPU 18構成・7記事

MiniCPM5-1B Q4_K_M　656.19 MiB
293.52 tok/s
測り方Ollama・5回の中央値
配置
記事に記載なし
VRAM
GPU総使用量の目安 約2,871 MiB
実行環境
Ollama
記事の注記Ollama の短文 decode 速度（5回の中央値）と、測定中の GPU 総使用量の目安です。
出典MiniCPM5-1Bを本格検証：656 MiBの小型LLMは日本語・コード・ゲーム生成に使える？ 2026年7月17日公開
MiniCPM5-1B Q8_0　1,100.09 MiB
246.30 tok/s
測り方Ollama・5回の中央値
配置
記事に記載なし
VRAM
GPU総使用量の目安 約3,219 MiB
実行環境
Ollama
記事の注記Ollama の短文 decode 速度（5回の中央値）と、測定中の GPU 総使用量の目安です。
出典MiniCPM5-1Bを本格検証：656 MiBの小型LLMは日本語・コード・ゲーム生成に使える？ 2026年7月17日公開
Ternary Bonsai 2 27B PTQ1_0　5.95 GB
56.0 tok/s
測り方llama-server・3タスク平均
配置
全層GPU 層数：記事に記載なし
VRAM
測定中の最大 7,608 / 12,282 MiB
実行環境
llama.cpp
記事の注記llama-server の生成速度と VRAM ピークです（デスクトップが使う約1.2GBを含む）。
出典Ternary Bonsai 2 27BをRTX 4070 12GBで実測｜27Bが毎秒56トークン、24GBは要るか 2026年10月8日公開
Qwythos-9B旧版 Q5_K_M　サイズ：記事に記載なし
53.01 tok/s
測り方ゲーム生成・初回
配置
全層GPU 層数：記事に記載なし
VRAM
測定中の最大 7,682 / 12,282 MiB
実行環境
llama.cpp
記事の注記ゲーム生成（初回）の生成速度と、nvidia-smi で見た生成中の VRAM ピーク（OS・ブラウザ・常駐アプリを含む）です。
出典Qwythos-9B v2でブラウザゲーム生成は改善した？v1 Q5/Q6/Q8・Claude Opus 4.8と比較 2026年7月13日公開
Ternary Bonsai 2 27B PQ2_0　7.21 GB
49.0 tok/s
測り方llama-server・3タスク平均
配置
全層GPU 層数：記事に記載なし
VRAM
測定中の最大 8,760 / 12,282 MiB
実行環境
llama.cpp
記事の注記llama-server の生成速度と VRAM ピークです（デスクトップが使う約1.2GBを含む）。
出典Ternary Bonsai 2 27BをRTX 4070 12GBで実測｜27Bが毎秒56トークン、24GBは要るか 2026年10月8日公開
Gemma 4 12B Q4_K_M　サイズ：記事に記載なし
43 tok/s
測り方Ollama・eval rate
配置
全層GPU 層数：記事に記載なし
VRAM
測定中の最大 10,673 MiB
実行環境
Ollama
記事の注記Ollama の eval rate（生成速度）と、全タスク中の VRAM ピークです。
出典Gemma 4をRTX 4070（12GB）で実測｜12B・E4B・Qwen3 14B・Phi-4-mini・26Bを同じ試験でクラウドと比べた 2026年6月22日公開
Qwen3 14B Q4_K_M　サイズ：記事に記載なし
38 tok/s
測り方Ollama・eval rate
配置
全層GPU 層数：記事に記載なし
VRAM
測定中の最大 11,456 MiB
実行環境
Ollama
記事の注記Ollama の eval rate（生成速度）と、全タスク中の VRAM ピークです。
出典Gemma 4をRTX 4070（12GB）で実測｜12B・E4B・Qwen3 14B・Phi-4-mini・26Bを同じ試験でクラウドと比べた 2026年6月22日公開
Muse Glimmer 30B unsloth の UD-IQ2_XXS（2bit）　10.01GiB
37.9 tok/s
測り方llama-server・3タスク平均
配置
全層GPU 53/53 単位がGPU
VRAM
測定中の最大 10,779 / 12,282 MiB
実行環境
llama.cpp
記事の注記llama-server の生成速度と、GPU 全体の VRAM ピーク（常駐ソフトを含む）です。
出典Muse Glimmer 30BをRTX 4070 12GBで実測｜2bitは全層GPUで38 tok/s、公式4bitの約10倍 2026年10月13日公開
Qwythos-9B v2 Q8_0　サイズ：記事に記載なし
37.88 tok/s
測り方ゲーム生成・初回
配置
全層GPU 層数：記事に記載なし
VRAM
測定中の最大 10,719 / 12,282 MiB
実行環境
llama.cpp
記事の注記ゲーム生成（初回）の生成速度と、nvidia-smi で見た生成中の VRAM ピーク（OS・ブラウザ・常駐アプリを含む）です。
出典Qwythos-9B v2でブラウザゲーム生成は改善した？v1 Q5/Q6/Q8・Claude Opus 4.8と比較 2026年7月13日公開
Qwythos-9B旧版 Q8_0　サイズ：記事に記載なし
34.81 tok/s
測り方ゲーム生成・初回
配置
全層GPU 層数：記事に記載なし
VRAM
測定中の最大 10,374 / 12,282 MiB
実行環境
llama.cpp
記事の注記ゲーム生成（初回）の生成速度と、nvidia-smi で見た生成中の VRAM ピーク（OS・ブラウザ・常駐アプリを含む）です。
出典Qwythos-9B v2でブラウザゲーム生成は改善した？v1 Q5/Q6/Q8・Claude Opus 4.8と比較 2026年7月13日公開
Gemma 4 26B MoE Q4_K_M　18GB
24 tok/s
測り方Ollama・eval rate
配置
一部CPU 層数：記事に記載なし記事では「43%CPU・57%GPU」
VRAM
測定中の最大 11,952 MiB
実行環境
Ollama
記事の注記Ollama の eval rate（生成速度）と、全タスク中の VRAM ピークです。
出典Gemma 4をRTX 4070（12GB）で実測｜12B・E4B・Qwen3 14B・Phi-4-mini・26Bを同じ試験でクラウドと比べた 2026年6月22日公開
Muse Glimmer 30B 公式4bit＋DFlash　15.61GiB＋1.52GiB
7.72 tok/s
測り方llama-server・コード相談1件
配置
一部CPU 32/53 単位がGPU
VRAM
測定中の最大 11,996 / 12,282 MiB
実行環境
llama.cpp
記事の注記llama-server の生成速度と、GPU 全体の VRAM ピーク（常駐ソフトを含む）です。
出典Muse Glimmer 30BをRTX 4070 12GBで実測｜2bitは全層GPUで38 tok/s、公式4bitの約10倍 2026年10月13日公開
Muse Glimmer 30B Meta公式 17GB版 Q4_K_M（4bit）　15.61GiB
3.75 tok/s
測り方llama-server・3タスク平均
配置
一部CPU 38/53 単位がGPU
VRAM
測定中の最大 11,941 / 12,282 MiB
実行環境
llama.cpp
記事の注記llama-server の生成速度と、GPU 全体の VRAM ピーク（常駐ソフトを含む）です。
出典Muse Glimmer 30BをRTX 4070 12GBで実測｜2bitは全層GPUで38 tok/s、公式4bitの約10倍 2026年10月13日公開
Qwen3.8-27B Q4_K_M　17.77 GB
3.55 tok/s
測り方llama-server・-ngl 42
配置
一部CPU 層数：記事に記載なし記事では「一部をCPUで処理」
VRAM
測定中の最大 11,856 / 12,282 MiB
実行環境
llama.cpp
記事の注記llama-server の生成速度と VRAM ピークです（デスクトップが使う約1.2GBを含む）。
出典Ternary Bonsai 2 27BをRTX 4070 12GBで実測｜27Bが毎秒56トークン、24GBは要るか 2026年10月8日公開
Qwen3.8-27B Q4_K_M　16.54 GiB
3.00 tok/s
測り方llama-bench tg128・-ngl 42（プロンプト処理 318.66）
配置
一部CPU 層数：記事に記載なし
VRAM
測定中の最大 11,861 / 12,282 MiB
実行環境
llama.cpp
記事の注記llama-bench の生成（tg128）と VRAM ピークです（デスクトップの約1,219 MiB を含む）。
出典Qwen3.8-27BはRTX 4070 12GBで動くか実測｜GPUに2層多く載せたら19倍遅くなった 2026年9月2日公開
Qwen3.8-27B Q4_K_M　16.54 GiB
1.96 tok/s
測り方llama-bench tg128・-ngl 44（プロンプト処理 16.51）
配置
一部CPU 層数：記事に記載なし
VRAM
測定中の最大 11,828 / 12,282 MiB
実行環境
llama.cpp
記事の注記llama-bench の生成（tg128）と VRAM ピークです（デスクトップの約1,219 MiB を含む）。
出典Qwen3.8-27BはRTX 4070 12GBで動くか実測｜GPUに2層多く載せたら19倍遅くなった 2026年9月2日公開
Qwythos-27B-v1 Q4_K_M　17.31GB
1.75 tok/s
測り方llama-server・自動フィット
配置
一部CPU 層数：記事に記載なし記事では「部分オフロード（自動フィット）」
VRAM
測定中の最大 11,457 / 12,282 MiB
実行環境
llama.cpp
記事の注記llama-server の生成速度と VRAM 最大使用です（追記の -ngl 42 は llama-bench の値）。
出典Qwythos-27BをRTX 4070 12GBで実測｜1.7 tok/s、VRAM 93.3%、24GBが要る理由 2026年8月9日公開
Qwen3.8-27B Q4_K_M　16.54 GiB
1.31 tok/s
測り方llama-bench tg128・-ngl 99（プロンプト処理 27.30）
配置
全層指定層数：記事に記載なし
VRAM
測定中の最大 11,886 / 12,282 MiB
実行環境
llama.cpp
記事の注記llama-bench の生成（tg128）と VRAM ピークです（デスクトップの約1,219 MiB を含む）。
出典Qwen3.8-27BはRTX 4070 12GBで動くか実測｜GPUに2層多く載せたら19倍遅くなった 2026年9月2日公開

VRAM 12GBのGPUで測った構成
モデル	生成速度	測り方	配置	VRAM使用	実行環境	出典
MiniCPM5-1BQ4_K_M　656.19 MiB	293.52 tok/s	Ollama・5回の中央値注記：Ollama の短文 decode 速度（5回の中央値）と、測定中の GPU 総使用量の目安です。	記事に記載なし	GPU総使用量の目安約2,871 MiB	Ollama	MiniCPM5-1Bを本格検証：656 MiBの小型LLMは日本語・コード・ゲーム生成に使える？2026年7月17日公開
MiniCPM5-1BQ8_0　1,100.09 MiB	246.30 tok/s	Ollama・5回の中央値注記：Ollama の短文 decode 速度（5回の中央値）と、測定中の GPU 総使用量の目安です。	記事に記載なし	GPU総使用量の目安約3,219 MiB	Ollama	MiniCPM5-1Bを本格検証：656 MiBの小型LLMは日本語・コード・ゲーム生成に使える？2026年7月17日公開
Ternary Bonsai 2 27BPTQ1_0　5.95 GB	56.0 tok/s	llama-server・3タスク平均注記：llama-server の生成速度と VRAM ピークです（デスクトップが使う約1.2GBを含む）。	全層GPU 層数：記事に記載なし	測定中の最大 7,608 / 12,282 MiB	llama.cpp	Ternary Bonsai 2 27BをRTX 4070 12GBで実測｜27Bが毎秒56トークン、24GBは要るか2026年10月8日公開
Qwythos-9B旧版Q5_K_M　サイズ：記事に記載なし	53.01 tok/s	ゲーム生成・初回注記：ゲーム生成（初回）の生成速度と、nvidia-smi で見た生成中の VRAM ピーク（OS・ブラウザ・常駐アプリを含む）です。	全層GPU 層数：記事に記載なし	測定中の最大 7,682 / 12,282 MiB	llama.cpp	Qwythos-9B v2でブラウザゲーム生成は改善した？v1 Q5/Q6/Q8・Claude Opus 4.8と比較2026年7月13日公開
Ternary Bonsai 2 27BPQ2_0　7.21 GB	49.0 tok/s	llama-server・3タスク平均注記：llama-server の生成速度と VRAM ピークです（デスクトップが使う約1.2GBを含む）。	全層GPU 層数：記事に記載なし	測定中の最大 8,760 / 12,282 MiB	llama.cpp	Ternary Bonsai 2 27BをRTX 4070 12GBで実測｜27Bが毎秒56トークン、24GBは要るか2026年10月8日公開
Gemma 4 12BQ4_K_M　サイズ：記事に記載なし	43 tok/s	Ollama・eval rate注記：Ollama の eval rate（生成速度）と、全タスク中の VRAM ピークです。	全層GPU 層数：記事に記載なし	測定中の最大 10,673 MiB	Ollama	Gemma 4をRTX 4070（12GB）で実測｜12B・E4B・Qwen3 14B・Phi-4-mini・26Bを同じ試験でクラウドと比べた2026年6月22日公開
Qwen3 14BQ4_K_M　サイズ：記事に記載なし	38 tok/s	Ollama・eval rate注記：Ollama の eval rate（生成速度）と、全タスク中の VRAM ピークです。	全層GPU 層数：記事に記載なし	測定中の最大 11,456 MiB	Ollama	Gemma 4をRTX 4070（12GB）で実測｜12B・E4B・Qwen3 14B・Phi-4-mini・26Bを同じ試験でクラウドと比べた2026年6月22日公開
Muse Glimmer 30Bunsloth の UD-IQ2_XXS（2bit）　10.01GiB	37.9 tok/s	llama-server・3タスク平均注記：llama-server の生成速度と、GPU 全体の VRAM ピーク（常駐ソフトを含む）です。	全層GPU 53/53 単位がGPU	測定中の最大 10,779 / 12,282 MiB	llama.cpp	Muse Glimmer 30BをRTX 4070 12GBで実測｜2bitは全層GPUで38 tok/s、公式4bitの約10倍2026年10月13日公開
Qwythos-9B v2Q8_0　サイズ：記事に記載なし	37.88 tok/s	ゲーム生成・初回注記：ゲーム生成（初回）の生成速度と、nvidia-smi で見た生成中の VRAM ピーク（OS・ブラウザ・常駐アプリを含む）です。	全層GPU 層数：記事に記載なし	測定中の最大 10,719 / 12,282 MiB	llama.cpp	Qwythos-9B v2でブラウザゲーム生成は改善した？v1 Q5/Q6/Q8・Claude Opus 4.8と比較2026年7月13日公開
Qwythos-9B旧版Q8_0　サイズ：記事に記載なし	34.81 tok/s	ゲーム生成・初回注記：ゲーム生成（初回）の生成速度と、nvidia-smi で見た生成中の VRAM ピーク（OS・ブラウザ・常駐アプリを含む）です。	全層GPU 層数：記事に記載なし	測定中の最大 10,374 / 12,282 MiB	llama.cpp	Qwythos-9B v2でブラウザゲーム生成は改善した？v1 Q5/Q6/Q8・Claude Opus 4.8と比較2026年7月13日公開
Gemma 4 26B MoEQ4_K_M　18GB	24 tok/s	Ollama・eval rate注記：Ollama の eval rate（生成速度）と、全タスク中の VRAM ピークです。	一部CPU 層数：記事に記載なし記事では「43%CPU・57%GPU」	測定中の最大 11,952 MiB	Ollama	Gemma 4をRTX 4070（12GB）で実測｜12B・E4B・Qwen3 14B・Phi-4-mini・26Bを同じ試験でクラウドと比べた2026年6月22日公開
Muse Glimmer 30B公式4bit＋DFlash　15.61GiB＋1.52GiB	7.72 tok/s	llama-server・コード相談1件注記：llama-server の生成速度と、GPU 全体の VRAM ピーク（常駐ソフトを含む）です。	一部CPU 32/53 単位がGPU	測定中の最大 11,996 / 12,282 MiB	llama.cpp	Muse Glimmer 30BをRTX 4070 12GBで実測｜2bitは全層GPUで38 tok/s、公式4bitの約10倍2026年10月13日公開
Muse Glimmer 30BMeta公式 17GB版 Q4_K_M（4bit）　15.61GiB	3.75 tok/s	llama-server・3タスク平均注記：llama-server の生成速度と、GPU 全体の VRAM ピーク（常駐ソフトを含む）です。	一部CPU 38/53 単位がGPU	測定中の最大 11,941 / 12,282 MiB	llama.cpp	Muse Glimmer 30BをRTX 4070 12GBで実測｜2bitは全層GPUで38 tok/s、公式4bitの約10倍2026年10月13日公開
Qwen3.8-27BQ4_K_M　17.77 GB	3.55 tok/s	llama-server・-ngl 42注記：llama-server の生成速度と VRAM ピークです（デスクトップが使う約1.2GBを含む）。	一部CPU 層数：記事に記載なし記事では「一部をCPUで処理」	測定中の最大 11,856 / 12,282 MiB	llama.cpp	Ternary Bonsai 2 27BをRTX 4070 12GBで実測｜27Bが毎秒56トークン、24GBは要るか2026年10月8日公開
Qwen3.8-27BQ4_K_M　16.54 GiB	3.00 tok/s	llama-bench tg128・-ngl 42（プロンプト処理 318.66）注記：llama-bench の生成（tg128）と VRAM ピークです（デスクトップの約1,219 MiB を含む）。	一部CPU 層数：記事に記載なし	測定中の最大 11,861 / 12,282 MiB	llama.cpp	Qwen3.8-27BはRTX 4070 12GBで動くか実測｜GPUに2層多く載せたら19倍遅くなった2026年9月2日公開
Qwen3.8-27BQ4_K_M　16.54 GiB	1.96 tok/s	llama-bench tg128・-ngl 44（プロンプト処理 16.51）注記：llama-bench の生成（tg128）と VRAM ピークです（デスクトップの約1,219 MiB を含む）。	一部CPU 層数：記事に記載なし	測定中の最大 11,828 / 12,282 MiB	llama.cpp	Qwen3.8-27BはRTX 4070 12GBで動くか実測｜GPUに2層多く載せたら19倍遅くなった2026年9月2日公開
Qwythos-27B-v1Q4_K_M　17.31GB	1.75 tok/s	llama-server・自動フィット注記：llama-server の生成速度と VRAM 最大使用です（追記の -ngl 42 は llama-bench の値）。	一部CPU 層数：記事に記載なし記事では「部分オフロード（自動フィット）」	測定中の最大 11,457 / 12,282 MiB	llama.cpp	Qwythos-27BをRTX 4070 12GBで実測｜1.7 tok/s、VRAM 93.3%、24GBが要る理由2026年8月9日公開
Qwen3.8-27BQ4_K_M　16.54 GiB	1.31 tok/s	llama-bench tg128・-ngl 99（プロンプト処理 27.30）注記：llama-bench の生成（tg128）と VRAM ピークです（デスクトップの約1,219 MiB を含む）。	全層指定層数：記事に記載なし	測定中の最大 11,886 / 12,282 MiB	llama.cpp	Qwen3.8-27BはRTX 4070 12GBで動くか実測｜GPUに2層多く載せたら19倍遅くなった2026年9月2日公開

VRAM 16GB以上のGPU まだ記事なし

このVRAMで測った記事は、まだありません。