7B・32B・70Bモデルの必要スペック早見

規模ごとの目安

4bit量子化を前提とした概算です。実際の必要量は量子化方式とコンテキスト長で変わります。

| 規模 | 重みの概算 | 想定環境 | 向く用途 | | --- | --- | --- | --- | | 7〜8B | 約4〜5GB | 16GBのノートPC | 要約、整形、簡単な質問応答 | | 13〜14B | 約7〜9GB | 16〜24GB | 一般的な文章生成、簡単なコード補助 | | 24〜32B | 約14〜20GB | 32GB以上 / 24GB VRAM | 実用的な文章生成、コード生成 | | 70B | 約35〜42GB | 48GB以上 / 複数GPU | 複雑な推論、長い文脈の処理 |

規模を上げるべきか

先に用途を固定するのが近道です。

• 定型作業（要約・整形・分類） → 小型で足りることが多い
• 文章生成の品質が要る → 中型
• 複雑な指示追従・コード生成 → 大型、またはクラウドAPI

規模を上げるほど生成速度は落ちます。「賢いが遅い」構成は、実際には使われなくなりがちです。

クラウドという選択肢

ローカルで足りない場合、選択肢は2つです。

1. APIを使う（入力は事業者へ渡る）
2. GPUを借りて自前でホスティングする（基盤事業者への信頼は残る）

必要メモリの詳しい考え方はローカルLLMに必要なメモリとVRAMをご覧ください。

よくある質問

Q70Bモデルは普通のPCで動きますか？

4bit量子化でも重みだけで35GB以上になるため、一般的な構成では厳しくなります。大容量メモリのMacか、複数GPU、あるいはクラウドGPUが選択肢になります。

Q小さいモデルでも実用になりますか？

用途によります。要約・分類・整形のような定型作業では十分な場面が多くあります。まず小さいモデルで試し、不足したときに上げるのが効率的です。

本記事の掲載内容の最終確認日: 2026-07-27（8日前）