モデル
gpt-oss-20bはローカルで動く？ 必要メモリと実行方法
OpenAI · Apache 2.0 · 最終確認
gpt-oss-20bは、21Bの重みを保存しながら1トークンあたり約3.6Bだけを活性化するMoEモデルです。MXFP4なら比較的小さく収まりますが、長いコンテキストには追加のKVキャッシュが必要です。
このモデルについて
ローカルではエージェント、コード補助、ツール呼び出しの実験に向きます。速度はアクティブパラメータだけで決まらず、メモリ帯域とバックエンドの実装にも左右されます。
OpenAI reports 21B total parameters and 3.6B active parameters per token.
公開量子化ファイル
| 推奨量子化 | 重みファイル | 8K | GPU | Mac | 最小GPU／Macでのコンテキスト | 速度推定 | 実行コマンド例 |
|---|---|---|---|---|---|---|---|
| MXFP4 | 12.11 GB | 13.8 GB | NVIDIA GeForce RTX 4090 24GB | Apple Mac mini M4 24GB | 131,072 / 131,072 | 推定 · Fast relative class | ollama run gpt-oss:20blms get "gpt-oss-20b"@mxfp4 |
代表的なマシンでの互換性
NVIDIA GeForce RTX 4090 · 24 GB · 24 GB VRAM · 8,192 トークン
At least 20% memory headroom remains after weights, KV cache, and runtime overhead.
実行コマンド例
ollama run gpt-oss:20blms get "gpt-oss-20b"@mxfp4
lms load <model-key-from-lms-ls> --gpu max --context-length 8192llama-cli -hf openai/gpt-oss-20b -c 8192 -ngl 99 -p "Your prompt"対応ランタイム
- ollama
- llama.cpp
- vllm
FAQ
ダウンロード前に
gpt-oss-20bの最小ファイルサイズは？
公開されている最小の量子化はMXFP4で、約12.11GBです。実行時にはKVキャッシュと約1.5GBのオーバーヘッドも必要です。
MoEはメモリを節約しますか？
MoEは1トークンあたりの計算量を減らせますが、重み全体は保存する必要があります。このモデルはエキスパートをRAMへ逃がせますが、速度は低下します。
購入前に何を確認すべき？
実際に使う量子化、コンテキスト長、バックエンドの対応状況を確認してください。このページの推定はベンチマークではなく、公開データに基づく保守的な計算です。
gpt-oss-20bを8Kで快適に動かせるGPU／Macは？
MXFP4は約13.8GB必要で、最小候補はNVIDIA GeForce RTX 4090 24GB／Apple Mac mini M4 24GBです。
収まらない場合、何を試すべき？
まず最小量子化と短いコンテキストを選びます。それでも不足する場合は、Qwen3.6 35B-A3B、Qwen3.8 27B、Gemma 4 12B Unifiedなど小さいモデルと比較してください。外部SSDは保存には使えますが、推論メモリは増えません。