GeForce RTX 3060 12GBを2枚使うと、ローカルLLMの重みを二つのGPUへ分けて配置できます。12GBのGPUが1枚では収まらないモデルを扱う手段です。ただし、2枚のVRAMが一つの連続した24GBメモリになるわけではありません。使用する推論ソフトが複数GPUへ処理を分ける必要があります。

この記事ではllama.cppの公式マルチGPU資料を基準に、層分割の仕組みとPC側の条件を整理します。まず1枚で動く小さなモデルを基準にし、大きなモデルが必要な場合に2枚構成を選ぶと、追加の費用と消費電力に見合うか判断できます。

2枚のVRAMの使われ方

RTX 3060 12GBが2枚なら、各カードに12GBずつのVRAMがあります。llama.cppの標準の –split-mode layer は、モデルの連続した層をGPUごとに割り当てる方式です。各層のKVキャッシュも、その層を持つGPU側に置かれます。大きなモデルを一つのカードへ無理に載せる代わりに、処理を二つのカードへ分担します。

llama.cppの資料は –tensor-split で配分比率を指定できると説明しています。2枚が同じ12GBなら、まず自動配分から始められます。片方にディスプレイ表示やほかのアプリの負荷がある場合、空きVRAMは同じにならないため、配分や実行するアプリを調整します。

データはGPU間やCPUとの間を移動します。層分割では各GPUが自分の層を処理するため、モデルが入ることと、1枚より速くなることは別の話です。公式資料もGPU間接続の速度と分割モードによって性能が変わるとしています。単一GPUに収まるモデルの高速化を狙うなら、まず単体GPUの性能を比較します。

llama.cppでの起動設定

CUDA対応でビルドしたllama.cppで二つのGPUを見える状態にし、最初に –list-devices で認識状況を確認します。両方のカードが表示されれば、layer分割を指定してGGUFモデルを起動します。

llama-cli --list-devices
llama-cli -m model.gguf --split-mode layer --n-gpu-layers all --ctx-size 4096

layerは標準値ですが、設定を明示すると使用する方式が分かりやすくなります。–n-gpu-layers all はGPUに置ける層を使う指定です。–ctx-size は会話履歴の長さを決め、KVキャッシュ量にも関係します。大きなモデルでメモリ不足になれば、コンテキスト長を縮めるか、量子化形式を軽くします。

公式資料にはtensor分割もありますが、実験的な扱いです。RTX 3060を2枚使う最初の構成では、互換性が高いと説明されるlayerを選びます。tensor分割は層内の計算を分けるため、GPU間の通信に対する要求が強くなります。

NVLinkとPCの物理条件

NVIDIAのRTX 3060仕様表では、NVLink欄は非対応です。2枚構成でLLMを動かす場合は、PCIe経由の複数GPU利用になります。マザーボードに物理的な拡張スロットが2本あっても、カードの厚みやスロット間隔が足りなければ同時搭載できません。

カードごとの補助電源コネクターも確認します。NVIDIAの参考仕様はRTX 3060のカード消費電力を170Wと示します。2枚ならGPU部分の参考値だけで340Wです。さらにCPU、マザーボード、ストレージ、冷却ファンの消費電力が加わります。NVIDIAの「推奨システム電源550W」は1枚の参考構成を基にした値であり、2枚のPCへそのまま当てはめられません。

実際のカード長、厚み、補助電源端子は製品ごとに異なります。組み立て前に二つのカードの型番を決め、ケース内部の空間と電源ユニットの端子数まで確認します。発熱も二つのカードから出るため、隣接スロットへ密着させない配置とケースの排気経路が必要です。

費用と1枚構成の比較

2026年11月8日にドスパラで確認したColorful製RTX 3060 12GBの表示価格は1枚69,800円でした。同じ価格のカードを2枚買うと139,600円で、電源やケースの更新費用は含みません。すでに1枚持っているなら追加の1枚を検討できますが、新規に2枚そろえるなら大容量の単一GPUとも総費用を比較したいところです。

Qwen3:8bのように5.2GBで配布されるモデルなら、1枚の12GBでも始められます。2枚の価値が出るのは、1枚に収まらない量子化モデルを使いたいときです。複数の小型モデルを別々のGPUで並行処理したい場合もありますが、その場合は一つの大きなモデルを分割する構成とは設定が違います。

まとめ

RTX 3060 12GBの2枚構成では、llama.cppのlayer分割で大きなGGUFモデルを両GPUへ配分できます。各カードのVRAMは独立しており、NVLinkはありません。マザーボードのスロット、カード寸法、補助電源、PC全体の電力を確認して構成します。1枚での設定を先に固めたい場合はllama.cppのCUDA導入記事から進めてください。