NVIDIAの次世代AI GPU「Rubin」を使うクラウドが一般提供へ進みました。NVIDIAとOracleは10月27日、Oracle Cloud Infrastructure(OCI)でVera Rubin NVL72とVera CPUを一般提供すると発表しました。大規模クラスタの拡張と8 GPU構成の追加は今後の計画です。今回利用可能になった構成と、次に予定されている構成を整理します。
OCIで一般提供されたVera Rubin NVL72
今回の発表で一般提供が明示されたのは、ラック単位のVera Rubin NVL72と、独立した計算資源として利用するVera CPUです。Oracleの製品ブログも両者の提供開始を案内しています。提供形態はOCI上のAI計算基盤です。
NVL72の「72」は、ラック内で接続するGPUの数を表します。NVIDIAのプラットフォーム仕様によると、1ラックにRubin GPUを72基、Vera CPUを36基搭載し、NVLink 6でGPU間を結びます。ConnectX-9 SuperNICやBlueField-4 DPUも組み合わせた構成で、大規模モデルの学習や推論に必要な計算とデータ転送をまとめて扱います。
| 項目 | 10月27日の発表内容 |
|---|---|
| Vera Rubin NVL72 | OCIで一般提供 |
| Vera CPU | OCIで一般提供 |
| OCI Superclustersの複数GW規模への拡張 | 計画を発表 |
| HGX Rubin NVL8 | OCIへの追加を計画 |
複数ギガワット規模のクラスタ拡張計画
NVIDIAとOracleは、OCI SuperclustersをVera Rubin NVL72で複数ギガワット規模へ拡張する計画も示しました。ここでいうギガワットはデータセンター基盤の電力規模で、今後の拡張目標です。発表文には、今回の一般提供分に含まれるラック数やGPUの総数は記載されていません。
Oracleの構想では、ラック内の72 GPUをNVLinkでつなぎ、ラックの外側はOracle AcceleronとNVIDIA Spectrum-X Ethernetで結びます。NVIDIAはSpectrum-6スイッチとBlueField-4 DPUを構成要素として挙げました。大きなAIモデルでは複数ラックに計算を分けるため、ラック内の高速接続だけでなく、ラックをまたぐ通信能力が利用効率を左右します。
OCIはすでにGB200およびGB300 NVL72も提供しています。Rubinの追加は、同じクラウド内で新世代のGPU基盤を選べる範囲を広げる発表です。Data Center Knowledgeの独立報道も、一般提供と複数ギガワット規模への拡張計画を確認しています。
8 GPU構成とVera CPUの位置づけ
OCIは今後、Rubin GPUを8基搭載するHGX Rubin NVL8も追加する計画です。共同発表では、2基の64コアIntel Xeon 6 CPU、4TBのDDR5メモリ、6.4TbpsのRDMAネットワークを予定構成として示しています。NVL72がラック内に72 GPUを集約するのに対し、NVL8は8 GPUのx86サーバーです。既存のx86アプリケーションを使いながらRubin GPUで学習、微調整、推論を行う選択肢になります。NVL8の提供開始日は発表されていません。
一般提供が始まったVera CPUは、GPUとは別にCPU資源を増減させたい用途も想定しています。AIエージェントはモデルの推論の合間にコード実行、ツール呼び出し、検索などを行います。これらの処理をCPU側で進める設計なら、GPUを推論に使う時間を増やせます。Oracleは製品ブログで、Vera CPUを初期段階で15万基導入すると説明しました。
今回の発表から見える利用範囲
Vera Rubin NVL72の一般提供によって、企業や研究機関はOCIを通じて新世代のRubin GPU基盤へアクセスできるようになりました。特に、ラック内の72 GPUをまとめて使う大規模学習・推論が中心用途です。一方、8 GPUで始めたい場合のHGX Rubin NVL8は追加予定の段階にあります。
共同発表は提供開始と構成の選択肢を明らかにしました。顧客ごとの料金、提供リージョン、予約可能なGPU数は記載していません。導入を検討する組織は、一般提供されたNVL72の構成を起点に、対象リージョンと利用枠をOCIの契約画面で照会する段階です。Rubinの推論性能に関心がある方は、以前のMLPerf Inference v6.1の結果も合わせて読むと、今回の提供開始がどの性能世代の基盤に当たるか把握できます。
