ローカルAI用にGeForce RTX 3060 12GBとGeForce RTX 4060を比べると、選択を分けるのは12GBと8GBのVRAM差です。処理が8GBに収まるなら新しいRTX 4060の性能と省電力性が生きます。8GBを超えるモデルをGPUへ置きたいならRTX 3060 12GBが候補になります。
「AI性能」という一つの数字だけで判断すると、モデルがメモリに載るかという条件が抜けます。ここではNVIDIAの公式仕様と、同じ媒体が両カードを測った画像生成ベンチを分けて見ます。LLMは公開モデルの容量を使い、動作速度の実測と混ぜずに判断します。
主要仕様の比較
NVIDIAのRTX 3060仕様とRTX 4060仕様の該当モデルを並べると次のとおりです。
| 項目 | RTX 3060 12GB | RTX 4060 8GB |
|---|---|---|
| アーキテクチャ | Ampere | Ada Lovelace |
| VRAM | GDDR6 12GB | GDDR6 8GB |
| メモリ接続幅 | 192bit | 128bit |
| CUDAコア | 3,584 | 3,072 |
| 公式のカード電力 | 170W | 115W |
| Compute Capability | 8.6 | 8.9 |
カード電力の差は公称値で55Wです。RTX 4060の115WはPC全体の消費電力ではありません。RTX 3060の170Wも同じくカード側の仕様値です。実際の電力と温度は負荷や製品ごとの冷却設計で変わるため、表はモデル選択の基礎仕様として使います。
メモリ接続幅が192bitのRTX 3060 12GBは、8GB版RTX 3060とは別の構成です。本記事の仕様表と次のベンチは12GB版を対象にしています。
画像生成の実測差
Tom’s Hardwareの同一比較記事は、Stable Diffusionを512×512と768×768で試し、RTX 4060がRTX 3060 12GBより約8〜10%速かったと報告しています。この数値は同記事の二つの解像度における結果です。
このテストでは両カードで処理が成立しているため、演算性能の差を比較できます。モデルや追加ノードが8GBを超える構成では、RTX 4060は一部をシステムメモリへ逃がす必要が生じ、同じ条件のGPU内処理ではなくなります。高解像度、複数枚の同時生成、refinerやControlNetを追加する用途では、VRAMの余裕が作業手順を左右します。
同じSDXL baseを一枚ずつ生成する用途なら、まず必要な解像度とバッチ数を決めます。8GBに収まる設定を優先し、短時間で多くの画像を作りたいならRTX 4060が有利です。大きいワークフローを載せる必要があるなら、RTX 3060の12GBが選択肢になります。
ローカルLLMの容量差
Ollamaが配布するQwen3では、8bのファイル表示容量が5.2GB、14bが9.3GBです。8bなら両カードで候補にできますが、14bの9.3GBはRTX 4060 8GBのVRAMをファイル容量だけで超えます。RTX 3060 12GBでも14bはキャッシュや実行領域の余裕が小さく、コンテキスト設定を抑える必要があります。
Qwen3:4bは2.5GBで、どちらのGPUでも取り組みやすい規模です。モデルが両方に収まる場合には、GPUの世代やソフト側の最適化が速度に影響します。ここで使ったTom’s HardwareのStable Diffusion測定値を、LLMのトークン生成速度へ流用することはできません。
30bの19GBは、RTX 3060 12GBとRTX 4060 8GBのどちらにも単一GPUでは全量を保持できません。大きなモデルを優先するなら、別の大容量GPUか複数GPU構成を検討します。12GBと8GBの比較が効くのは、とくに8GBから12GBの間に必要量が入るモデルです。
購入時の判断
RTX 3060 12GBの新品参考価格として、2026年11月8日のドスパラの掲載はColorful製カードを69,800円と表示していました。GPUの販売価格は変動するため、同じ時点のRTX 4060の価格と比べて総費用を考えます。電源面ではRTX 4060のカード電力115Wが、RTX 3060の170Wより低い公称値です。
主に4B〜8BのLLMや小さめの画像生成ワークフローを使うなら、RTX 4060 8GBの新しい世代と省電力性が魅力です。14B級の量子化モデルや、8GBでは収まらない画像生成の構成を重視するならRTX 3060 12GBの容量が効きます。どちらも満たさないほど大きいモデルなら、比較対象をVRAMの多いカードへ広げます。
まとめ
RTX 4060 8GBは、Tom’s Hardwareが測った512×512・768×768のStable Diffusionで約8〜10%先行しました。RTX 3060 12GBはVRAMが4GB多く、8GBを超えるモデルを扱う余地があります。まず実際に使いたいモデルの容量を確認し、RTX 3060 12GB向けLLMモデルの選び方で候補を絞ってください。