RX 9070 XTでローカルLLMをGUIから試したいとき、LM Studioならモデルの検索、取得、読み込み、会話まで一つの画面で進められます。ただしWindows上のAMD GPUで使うランタイムは、Linux版ROCmの対応情報と分けて確認する必要があります。ここではWindowsでの導入と、GPU上で動かすための設定を扱います。

Windowsの動作条件とバックエンド

LM Studioのシステム要件では、Windows x64の場合はAVX2対応CPUを求め、システムRAMは16GB以上、専用GPUメモリは4GB以上を推奨しています。RX 9070 XTのVRAMはAMDの仕様で16GBです。VRAM容量だけなら推奨値を超えますが、CPU、RAM、アプリのランタイムも確認します。

LM Studioは更新履歴でWindowsのVulkanバックエンドにおける内蔵GPU選択の修正などを記しています。一方、AMD 9000シリーズのROCm対応を告知した記事は明確にLinux向けです。したがって、この告知をWindows版ROCm対応の証拠として扱わず、WindowsではLM Studioが表示する利用可能なランタイムと認識GPUを確認します。

モデルの取得から最初の会話まで

LM Studioの初期手順に沿い、アプリを入れて「Discover」でモデルを検索し、GGUF形式の量子化モデルを取得します。最初は容量に余裕のある8B級を選ぶと、RX 9070 XTでGPU利用の可否を見やすくなります。取得後に「Chat」でモデルを選び、読み込み設定を開いてGPUオフロードと文脈長を確認します。

モデルの読み込み後も、プロンプト処理中にKVキャッシュが増えます。初回は長い文脈を指定せず短い質問で応答を確認します。その後にGPU使用量と生成速度を観察します。LM Studioの「モデルをロードした」という表示と、実際にどのGPUへ何層載ったかは分けて見てください。

設定 最初の目安 確認の意味
モデル 小さめのGGUF量子化版 16GBへの収まりを確認
文脈長 控えめな値 KVキャッシュの増加を抑える
GPUオフロード 自動またはGPU利用 CPUだけの実行と区別
ランタイム Windows上で表示されるAMD対応のもの Linux版の告知と混同しない

GPUオフロードを確認する方法

LM StudioのCLI資料では、lms loadに--gpu maxを指定してGPUへのオフロードを試せます。また--estimate-onlyを使うと、モデルを読み込む前にメモリ見積もりを確認できます。GUIを使う場合も同じ考え方で、モデルのロード設定にあるGPUオフロードと必要メモリを見てください。見積もりは実行可能性の目安であり、ほかのアプリがVRAMを使っていると結果は変わります。

RX 9070 XTのほかにCPU内蔵GPUがあるPCでは、GPUの優先順位を確認します。LM Studioの更新履歴にはVulkan時のiGPU選択を修正した記載があり、選択対象は環境次第で変わり得ます。モデルロード時にRX 9070 XTの名前が表示されるか、WindowsのGPUメモリ使用量が増えるかを合わせて確認すると、意図したカードを利用できたか判断しやすくなります。

16GBで迷ったときの選び方

同じ「8Bモデル」でも量子化形式によりファイルサイズが異なります。さらに文脈を長くするとKVキャッシュが増えるため、16GB VRAMの余裕はファイルサイズより小さくなります。モデル一覧で必要メモリの見積もりを見て、最初に十分な余白を確保します。モデルの精度を比較する段階では、同じ質問と文脈条件で量子化版を変え、速度と回答品質を確認すると選択しやすくなります。

LM Studioで実際に使われるのは、アプリが選んだランタイムです。システムへROCm 10.1を別途入れていても、LM Studioが自動的にそのライブラリを利用するとは限りません。性能を記録するなら、アプリの版、ランタイム、モデル、量子化、文脈長を一緒に残します。

同じモデルで設定を変える際は、ロード前の見積もりと実際のGPUメモリ使用量を並べて記録します。文脈長だけを増やした場合とGPUオフロード率だけを増やした場合を分けて試せば、どちらの設定でVRAM使用量が増えるか分かります。LM StudioのCLIでは--estimate-onlyと--context-lengthを組み合わせられるため、ロード前に複数の条件を比べられます。

まとめ

RX 9070 XTでLM Studioを使うときは、Windowsのシステム要件を満たし、モデルのロード設定でGPUオフロードと対象GPUを確認します。AMD 9000シリーズへのROCm対応告知はLinux向けなので、Windowsでは実際に選べるランタイムを基準に判断してください。