RTX PRO 6000 Blackwell Max-Qを1枚のまま複数人へ割り当てたい場合、MIGが役立ちます。Multi-Instance GPUの略で、GPUのメモリと演算資源を独立した区画へ分ける機能です。NVIDIAの対応GPU一覧では、Max-Q Workstation Editionは96GBを持ち、最大4インスタンスに対応します。大きなモデル1件を走らせる場合と、小さな仕事を複数件同時に走らせる場合で区画の作り方が変わります。
対応する区画構成
| 構成 | 区画当たりのメモリ | 最大区画数 | 向く仕事 |
|---|---|---|---|
| MIG 1g.24gb | 24GB | 4 | 小規模な推論を分離 |
| MIG 2g.48gb | 48GB | 2 | 中規模ジョブを2件 |
| MIG 4g.96gb | 96GB | 1 | 1件へ資源を集中 |
この3つはNVIDIAのMIGプロファイル表に載る代表例です。1g.24gbではGPUメモリとSMの約4分の1ずつ、2g.48gbでは約半分ずつを割り当てます。4g.96gbは1枚分の資源を使う構成です。データシートも24GB×4、48GB×2、96GB×1を明記しています。
4区画に分けると、各区画に割り当てるメモリと演算資源は4分の1になり、独立した4件を同時に実行できます。チーム内で利用者が互いのGPU負荷に影響を与えにくくするための機能です。96GBのモデルを使うなら1枚の容量を保つ構成が適します。
AI推論サービスへの割り当て
例えば24GB以内に収まるモデルを4種類運用するなら、24GB区画を4つ作って各サービスへ1区画ずつ割り当てられます。1つのサービスが突然大量の要求を受けても、他区画のメモリと計算資源は別枠です。96GBを単一サービスで共用する方式に比べて、部署や利用者ごとの資源配分を説明しやすくなります。
48GB区画を2つ使う場合は、24GBでは収まらないモデルと作業領域を各区画へ配置できます。量子化した大規模言語モデルの推論では、重みだけでなくKVキャッシュの容量も要るため、区画は重みとKVキャッシュを含む実行時のピーク使用量で決めます。必要な容量は96GBでのローカルLLM設計で分けて説明しています。
グラフィックスとメディアのプロファイル
NVIDIAの表には通常の1g.24gbのほか、1g.24gb+gfxや1g.24gb+meのような拡張プロファイルもあります。gfxはグラフィックス向け、meはメディアエンジン向けの機能が加わる名称です。4基ずつあるNVENCとNVDECは、プロファイルごとに割り当て数が異なります。プロファイル表では1g.24gbにNVENCとNVDECを各1基、2g.48gbに各2基、4g.96gbに各4基割り当てています。映像処理や仮想ワークステーションへ使う場合は、必要な機能を持つプロファイルを選びます。
また、区画に分けたメモリは共有の96GB空間として使うためのものではありません。24GB区画4つへ1つの70GBモデルを配置する方式とは別です。そのようなモデル分割には複数GPUやアプリ側の分散処理が必要になります。MIGは1枚の物理GPUを複数の小さなGPUとして隔離する設計だと理解すると、使い道がはっきりします。
24GB区画と48GB区画の使い分け
24GB以内の推論サービスを4つ独立させる場合、1g.24gbを4個作れば各利用者がメモリとSMの4分の1を使います。2件のサービスが40GB前後を必要とするなら、2g.48gbを2個にする方が容量に合います。1件だけが80GBを必要とするなら分割を減らして96GBを使います。4人がそれぞれ40GBを使う構成では、48GB区画2つを交代で使うか、物理GPUを増やします。区画は実行時のピークVRAM量と同時利用者数で選びます。
MIGの分割は管理者が物理GPUの資源配分を固定する仕組みです。利用者が増えたときに区画を細かくすれば同時実行数を増やせますが、1区画の容量と演算資源は減ります。反対に区画を大きくすれば重い仕事を載せられる一方、同時に独立運用できる人数は減ります。24GB×4、48GB×2、96GB×1の三つを、仕事の大きさと利用者数に対応させると設定の意図を説明できます。NVIDIAのプロファイル表では映像エンジンの割当ても区画ごとに示されるため、推論以外のワークロードでは使うプロファイルの機能欄も選定材料です。
運用上の判断
24GB区画を4つ使う構成では、物理カード1枚分の300Wの電力枠と筐体スペースで4件の独立した負荷を収容できます。一方、各区画へ与える資源は4分の1なので、単一リクエストの応答速度を重視する仕事では分割数を減らします。利用者数、モデルの実メモリ使用量、必要なグラフィックス・映像機能を先に整理するのが合理的です。
MIGはGPUを追加購入せずに隔離された複数の実行環境を作る手段です。処理量そのものを台数で増やす場合は、4枚構成の条件を参照してください。