GeForce RTX 3060 12GBでFLUX.1 devを試すなら、最初にモデルのファイル形式を決める必要があります。FLUX.1 devはBlack Forest Labsのモデルカードによると120億パラメータの画像生成モデルです。配布ファイルは形式ごとに大きく、12GBのVRAMへそのまま全構成を収めることは簡単ではありません。

12GBで始める現実的な経路は、ComfyUIのメモリ管理を利用する方法か、量子化されたGGUF版を使う方法です。量子化版でもテキストエンコーダーやVAE、生成時の作業領域が別に必要です。ここでは公開ファイルの容量と必要な配置を分けて確認します。

FLUX.1 devのファイル容量

city96が公開するFLUX.1 devのGGUF版は、量子化ごとの容量を示しています。主な選択肢は次のとおりです。

形式 表示ファイル容量 12GBカードでの位置付け
F16 23.8GB 重みだけで12GBを超える
Q8_0 12.7GB 重みだけで12GBを超える
Q5_K_S 8.29GB 実行用領域の余白が小さい
Q4_K_S 6.81GB 最初に試しやすい量子化版

表は拡散モデルのファイル容量です。画像生成にはテキストエンコーダー、VAE、生成中の計算領域も必要になります。Q4_K_Sを選んでも、生成時のVRAM使用量は6.81GBより増えます。量子化率を上げると重みの容量は減りますが、生成結果にも影響し得ます。

元の開発元が配布するFLUX.1 devには利用条件があります。GGUF版のモデルカードも、元モデルのライセンス条件が量子化後に引き継がれると説明しています。配布ページに表示される「flux-1-dev-non-commercial-license」を確認したうえでモデルを取得します。

ComfyUIでの標準ワークフロー

ComfyUI公式のFLUX例には、通常の分割ファイル構成と、FP8の単一チェックポイント構成が載っています。通常版では拡散モデルを models/diffusion_models、テキストエンコーダーを models/text_encoders、VAEを models/vae に置きます。ファイルごとに配置先が異なるため、同じフォルダーへまとめて入れる形式ではありません。

公式例はメモリ不足時にFP8の単一ファイル版や、読み込みノードでweight_dtypeをfp8にする方法を挙げています。FP8チェックポイント版は models/checkpoints に配置し、通常のLoad Checkpointノードで読み込みます。例に添えられたワークフローではCFGを1.0にする指定もあります。

FP8はメモリ使用量を抑える手段ですが、12GBでの動作時間を一定にするものではありません。モデルの入れ替えが起きればシステムメモリとの転送が増えます。まず一枚、同じ解像度、同じプロンプトで動作を確かめ、ほかのモデル構成と比較します。

GGUF版の導入経路

GGUF版を使う場合は、ComfyUI-GGUFの作者が公開する手順に沿ってカスタムノードを入れます。作者のモデルカードはGGUFファイルを ComfyUI/models/unet に置くよう案内しています。ComfyUI-GGUFのREADMEでは、通常のLoad Diffusion ModelノードをGGUF用のローダーへ置き換える方法を説明しています。

RTX 3060 12GBなら、最初はQ4_K_Sの6.81GB版を候補にできます。Q5_K_Sは8.29GBで、重みに割く容量が増えます。画質を比べる際はプロンプト、解像度、生成設定を揃え、量子化形式だけを変えます。

テキストエンコーダーも容量に関係します。ComfyUIのFLUX例はT5のFP16版と、メモリを抑えるFP8版を案内しています。大きいファイルだけをQ4へ変えても、テキストエンコーダーを高精度のままGPUに置けばメモリが足りなくなることがあります。ワークフロー全体のファイル構成を見て選びます。

SDXLとの使い分け

SDXL baseは単体で画像を生成でき、ComfyUIの標準的なチェックポイント配置から始められます。FLUX.1 devでは、120億パラメータの拡散モデルに加えて、形式ごとに異なる読み込み方法とテキストエンコーダーの管理が必要です。12GBで画像生成の操作を覚えるならSDXLから、FLUX固有の表現を試したいなら量子化版とメモリ管理から始める順番が分かりやすいです。

まとめ

RTX 3060 12GBでは、FLUX.1 devのF16やQ8_0の重みを単一GPUへ全量置けません。GGUFのQ4_K_Sは6.81GBですが、生成時には追加のメモリが必要です。導入前にComfyUIの基本設定を整え、FLUX公式例かGGUF作者の手順を一つ選んで進めてください。