GeForce RTX 5080をローカルLLM用に買うなら、16GBのVRAMにどのモデルが載るかが最初の判断材料です。Ollamaで公開されている量子化モデルのサイズを見ると、8B級は余裕を取りやすく、14B級も候補になります。30B級の一般的な配布版は16GBを超えます。モデルの重み以外に必要なメモリも含め、実際の選び方を説明します。

16GBに収まるモデルの目安

NVIDIAの公式仕様ではRTX 5080のVRAMは16GB GDDR7です。OllamaのQwen3一覧とLlama 3.1一覧には、量子化済みモデルの配布サイズが表示されています。代表的なサイズを並べると次の通りです。

Ollamaのモデル 配布サイズ 16GBでの位置付け
Llama 3.1 8B 4.9GB 作業領域を取りやすい
Qwen3 8B 5.2GB 作業領域を取りやすい
Qwen3 14B 9.3GB 文脈長を含めて検討
Qwen3 30B 19GB 配布サイズだけで16GB超
Llama 3.1 70B 43GB 単体GPUのVRAMを大きく超過

表のサイズはOllamaが配布するモデルデータの大きさです。推論時のVRAM使用量そのものではありません。推論にはモデルの重みに加え、入力文と生成中の文脈を保持する領域、実行用の作業領域が要ります。

8B級を中心に使うなら、5GB前後の重みに対して残りのVRAMを文脈やほかの処理に割り当てられます。14B級の9.3GBは候補ですが、長文の入力や複数の同時リクエストでは余裕が減ります。30B級を使いたい場合は、より強い量子化版を探すか、CPUメモリへの分担、複数GPU、容量の大きいカードを考えることになります。

文脈長と処理速度の関係

LLMは会話履歴や資料を長く読み込むほど、文脈用のメモリを消費します。Ollamaの説明でも、大きな文書のために文脈長を増やすとメモリがさらに必要になるとしています。配布ページに表示される最大コンテキスト長は、その長さを16GBのGPUで常に使えるという意味ではありません。

RTX 5080でコード補完や短い質問応答を主に使うなら、まず8B級で必要な文脈長を設定し、応答速度を見ます。長いPDFや多数のコードファイルを一度に処理するなら、同じ8Bでも文脈長によってVRAM負荷が変わります。14B級で回答の質を上げたいときは、使う文書の量と速度をセットで調整する方が判断しやすいです。

Ollamaのモデル配置に関する記事では、起動前に必要なメモリを測り、GPUへの配置を決める仕組みが説明されています。RTX 5080の16GBを超えるモデルもCPU側へ一部を置けば起動できる場合があります。その場合はCPUとGPUの間でデータを移動するため、GPUにすべて載る構成とは生成速度が変わります。起動できるかと、欲しい速度で使えるかは別の判断です。

Ollamaでモデルを切り替えるなら、最初にQwen3 8BやLlama 3.1 8Bを使い、必要な文脈長で動作を見ます。Ollamaはモデル配置の説明で、GPUへの配置と実際の使用メモリを管理すると案内しています。起動中の配置はOllamaのプロセス表示で確認できるため、14Bへ上げた後にGPU内へ収まっているかを見られます。8Bと14Bの回答を同じ質問で比較すれば、速度と回答内容のどちらを重視するか決めやすくなります。

RTX 5080を選ぶ場面

RTX 5080はローカルLLM専用カードというより、ゲームや制作にも使える16GB GPUです。8Bから14B級の量子化モデルを日常的に回し、4Kゲームや画像生成にも一台で対応したい人に向きます。モデル選びで最優先するのが30B以上の大きなモデルや長い文脈なら、GPUの演算能力よりVRAM容量を先に決める方が合理的です。

具体的には、使いたいモデルの配布サイズを決め、そこへ文脈用の余地を加えます。Qwen3 14Bの9.3GBから16GBまでには約6.7GBの差がありますが、その差をすべて文脈に使えるわけではありません。OSの画面表示や別アプリもVRAMを消費します。ゲームを動かしながらLLMを常駐させる使い方では、同じ16GBを両者が分け合います。

日本の販売価格も判断材料です。RTX 5080をLLMだけのために買うなら、モデルが完全にGPUに載る容量を優先します。ゲームも重視するなら、4Kゲームと16GB VRAMの関係を合わせて見てください。画像生成の用途はFLUXと16GB VRAMで扱います。

配布サイズが小さい量子化版を選ぶと、16GBへ収めやすくなります。その代わり、量子化の程度が変われば回答品質も変わります。Qwen3 14Bの9.3GB版と、より小さな量子化版を比べるときは、モデル名だけで同じ品質を期待せず、使う仕事の質問で回答を比べる方法が実用的です。文脈を長く使う人は、モデル本体に加えて会話履歴の容量も予算に入れます。

まとめ

RTX 5080の16GBでは、Ollamaが配布する8B級の量子化モデルが扱いやすく、9.3GBのQwen3 14Bも検討できます。19GBのQwen3 30Bは配布サイズだけでVRAMを超えます。使いたいモデルのサイズ、文脈長、同時に動かすアプリを先に決めると、RTX 5080で十分か判断できます。国内価格の整理も購入前に確認できます。