大きな言語モデルを手元で動かすとき、Radeon Pro W7900の48GBは魅力です。ただし、モデルの重みに加え、実行プログラムと会話履歴のメモリも必要です。AMDの公式仕様とROCmの対応情報から、W7900で組む一枚構成の目安を整理します。

48GBに入るモデルの考え方

モデルのパラメータ数に、各重みを保存するビット数を掛け、8で割ると重みの理論上のバイト数が概算できます。30B（300億パラメータ）を8ビットで置くなら、重みだけでおよそ30GB。70Bを4ビットなら約35GBです。実際の配布ファイルには量子化の係数などが入り、実行時にはKVキャッシュや一時領域も使います。数字はモデルの選択肢を絞るための概算で、実際のGPU使用量を表した測定値ではありません。

AMDのW7900向けLLM解説は、48GBのW7900ならLlama 2の30B Q8級を一枚で扱える例を示しています。2026年の別モデルに同じ容量を当てはめる際は、配布元が示す量子化ファイルの実サイズと、使う推論ソフトが要求する追加メモリを合算します。長いコンテキストを取るほどKVキャッシュが増えるため、48GBを重みだけで使い切る構成は余裕がありません。

作業データ 48GBでの見方
30B・8ビットの重み 約30GBを起点に、キャッシュ分を残して検討
70B・4ビットの重み 約35GBを起点に、量子化形式と実ファイルサイズを確認
複数モデルの同時常駐 それぞれの重みと実行領域を合計
長文の対話 重みとは別にKVキャッシュが増える

W7900とROCmの対応範囲

W7900はRDNA 3のgfx1100系GPUです。AMDのROCm Linux要件はW7900とDual Slot版を対応対象に挙げています。2026年10月時点のAMD対応表で、W7900の対応OSはUbuntu 24.04.4・22.04.5、RHEL 10.1・9.7です。これらと対応するROCmの版を組み合わせます。

AMDの製品ページはWindowsにも対応すると記載しますが、それはGPUドライバーとしてのOS対応です。ROCmを使う推論ソフトの対応は別に判断します。LinuxでROCm対応のビルドを使う構成なら、GPUとソフトの対応関係を公式表に沿って整理できます。Windowsでの推論はアプリ側の対応範囲がLinuxのROCm表とは異なります。本稿で確認した公式対応の構成はLinuxです。

独立したW7900実行記録には、gfx1100での実GPUメモリ計測と実行条件が公開されています。これは特定モデル・特定環境の実験記録です。メーカー公称の48GBと、実際に使えるメモリ量を区別して考える材料になります。モデル間の速度を比較するなら、同じ量子化、同じ入力・出力長、同じ推論ソフトで揃えた測定が必要です。

二枚構成との違い

W7900を二枚使えば専用メモリの合計は96GBですが、一つの連続した96GB VRAMにはなりません。複数GPUを使う推論ソフトがモデルを分割し、転送を管理します。PCIeを介した通信やモデルの分け方で速度は変わります。AMDはROCmを使う複数W7900の例を紹介していますが、まず一枚に入るモデルを選ぶほうが構成は単純です。

二枚を想定するならカードの厚みも選択に直結します。標準版は3スロット、Dual Slot版は2スロットで、両方ともボード電力は295Wです。二枚ならGPUだけで公称値の合計590Wとなり、CPU、メモリ、ストレージ、電源の余力とエアフローを別途設計します。モデルの分割に対応していない推論ソフトで、カードを足すだけでは容量は広がりません。

GBとGiB、実ファイルの差

30Bを8ビットで単純計算した30GBは、2進法で表示するツールでは約27.9GiBに相当します。70Bの4ビットを同じように計算した35GBは約32.6GiBです。配布ファイルには量子化ブロックごとの尺度やメタデータが加わり、使用する形式によってサイズが変わります。GPU上のKVキャッシュも別枠です。量子化ファイルの実サイズとKVキャッシュを合わせて、48GBに収まるかを判断します。

一枚構成での事前確認では、実際に使う量子化ファイルの容量、推論ソフトのロード時のGPUメモリ表示、目標とするコンテキスト長をセットで記録します。AMDが示す30B Q8の例は、48GBの使い方を理解する入口です。別の70Bモデルや独自の量子化形式へ広げる際は、実ファイルと実行時のメモリを基準にします。計算式は候補を減らすため、実測は動作を確かめるために使います。

まとめと購入判断

W7900の強みは、48GBを一枚に収め、ECC対応のプロ向けカードとして運用できる点です。よく使うモデルが24GB以内なら、48GBの余裕に対する価格を他の選択肢と比べられます。32GBを少し超えるモデルや長いコンテキストを扱うなら、48GBには明確な意味があります。

モデルの実ファイルサイズと想定する最大コンテキストを決めたら、AMDのROCm対応表からOSを選び、使う推論ソフトのROCm版を合わせます。設置まで含めて検討する場合はW7900の電源構成も参照してください。