NVIDIAは2026年9月16日、次世代AI基盤「Vera Rubin NVL72」の初めてのMLPerf Inference結果を公開しました。画像と言語を扱うQwen3-VLでは、同じ72アクセラレーター構成のGB300 NVL72に対してスループットが最大3.7倍。推論モデルDeepSeek-R1では最大2.5倍に達しています。

今回の数字は、業界標準ベンチマーク「MLPerf Inference v6.1」のClosed Divisionに提出されたものです。Vera Rubin NVL72は、次回の提出までに提供可能となることを前提にしたPreview区分。この記事では、公開結果から確認できる性能差と、比較に使われた条件を整理します。

Vera Rubin NVL72の初回結果

NVIDIAの発表では、Vera Rubin NVL72がQwen3-VLとDeepSeek-R1の2テストへPreview結果を提出したと説明しています。主な内容は次のとおりです。

項目 公開内容
ベンチマーク MLPerf Inference v6.1
区分 Datacenter・Closed Division・Preview
システム Vera Rubin NVL72(VR200×72基)
対象モデル Qwen3-VL 235B、DeepSeek-R1
最大の世代差 Qwen3-VLでGB300 NVL72比約3.7倍
DeepSeek-R1 GB300 NVL72比最大約2.5倍

Closed Divisionは、参照実装と同じモデルを使い、ハードウェアやソフトウェア基盤を比較しやすくする部門です。MLCommonsの説明によると、Previewシステムは次回の提出時にAvailableとして申請できる段階が求められます。研究専用のRDI区分より製品化に近い一方、今回の結果だけで発売時の仕様や提供価格までは決まりません。

Qwen3-VLで最大3.7倍となった条件

最大3.7倍という値は、画像と言語を組み合わせて処理するQwen3-VL 235BのInteractiveシナリオで確認できます。公開表にあるVera Rubin NVL72とGB300 NVL72はどちらも72アクセラレーター構成で、精度目標と遅延条件も共通です。

シナリオ Vera Rubin NVL72 GB300 NVL72 比率
Offline 2,393 samples/s 1,305 samples/s 約1.83倍
Server 2,323 queries/s 1,210 queries/s 約1.92倍
Interactive 1,307 queries/s 349 queries/s 約3.75倍

Offlineは処理待ちの入力をまとめてさばく最大スループット、Serverは継続的に届く要求を所定の遅延内で処理する想定です。Interactiveは応答性をさらに重視し、このテストでは1.5秒の遅延制約が設定されています。最大差がInteractiveで現れたため、NVIDIAの「最大3.7倍」は低遅延条件におけるピークの世代差を指します。

Qwen3-VLの精度条件は、BF16基準の99%を満たすCategory Hierarchical F1 Score 0.7824以上です。単に処理数を増やすだけでなく、同じ品質基準を通過した結果が比較表に並んでいます。

DeepSeek-R1で最大2.5倍となった条件

DeepSeek-R1のInteractiveシナリオでは、Vera Rubin NVL72が毎秒652,750トークン、72基のGB300 NVL72が毎秒260,098トークンを記録しました。比率は約2.51倍です。初回応答まで1,500ms、次のトークンまで15msという共通の制約下で測定されています。

精度目標はFP16基準の99%で、exact matchは81.9132%。Qwen3-VLと同じく、処理速度だけを優先して品質条件を外した結果ではありません。推論時に長い思考過程を生成するモデルでも、Vera Rubin世代が応答性を維持しながら処理量を増やした点が今回の見どころです。

OfflineとServerの公開一覧では、Vera Rubinが72基、比較対象として掲載されたGB300が288基となる行もあります。システム全体の数値だけを割って世代差とするには台数がそろっていません。最大2.5倍を確認する際は、同じ72基で比較できるInteractive結果を見るのが適切です。

スループット向上を支える構成

NVIDIAは性能向上の要因として、強化したTensor CoreとTransformer Engine、NVFP4精度、分離型サービングを挙げています。分離型サービングは、入力を処理するprefillと、回答を順番に生成するdecodeを分けて配置する手法です。処理特性の違う2段階へ計算資源を割り当てやすくなります。

Vera Rubin NVL72は72基のVR200を1つのスケールアップ領域として接続します。第6世代NVLinkとNVLink SwitchがGPU間通信を担い、巨大なMixture of Expertsモデルで使うエキスパート並列化を支える構成です。今回の結果はGPU単体の演算能力だけでなく、ラック内接続と推論ソフトウェアを含むシステム全体の測定値と捉える必要があります。

NVIDIAはQwen3-VLでvLLMとNVIDIA Dynamo、DeepSeek-R1でTensorRT-LLMを使用しました。MLPerfの各行は提出者が最適化したソフトウェアスタックを含むため、チップ仕様だけを切り出した比較ではありません。導入時の性能も、モデル、精度、推論エンジン、要求される遅延によって決まります。

MLPerf Inference v6.1全体の動き

MLCommonsの発表によると、v6.1には過去最多となる30組織が結果を提出しました。新たに結果へ加わったプロセッサー/アクセラレーターは、提供済みのAMD Ryzen AI Max+ 395、AMD Instinct MI350P、Intel Arc Pro B70と、PreviewのNVIDIA Rubin、Vera Rubin NVL72です。

今回から、検索拡張生成の一連の処理を測るEnd-to-End RAGと、端末上の複数ターン処理を対象にしたEdge Agentic Inferenceも加わりました。AI推論の評価軸が単一モデルの一括処理から、検索、再ランキング、生成、エージェント処理を組み合わせる実運用へ広がっています。

MLCommonsはQwen3-VLの最高クラスの1アクセラレーター当たりServer結果が半年前のv6.0比で2.99倍、DeepSeek-R1では1年前のv5.1比で5.7倍になったと報告しました。各社の最良結果を世代間で比べた、業界全体の進展を示す数字です。

AIインフラ選定への意味

Vera Rubin NVL72の初回結果は、応答遅延が厳しいInteractiveシナリオで世代差が大きい点を示しました。同じラック規模で同時利用者を増やしたいサービスや、複雑な推論を短時間で返したい用途に関係する進歩です。

導入判断には、PreviewからAvailableへ移る時期、実際のシステム価格、消費電力、設置条件も必要です。今回公開された比較表は性能を測ったもので、費用対効果や電力当たり性能を直接示していません。MLPerfの結果は、同じモデル・シナリオ・アクセラレーター数をそろえた行を選ぶと、システムの特徴を正確に読み取れます。

まとめ

Vera Rubin NVL72はMLPerf Inference v6.1へ初めて登場し、72基構成のQwen3-VL InteractiveテストでGB300 NVL72比約3.75倍、DeepSeek-R1で約2.51倍を記録しました。Closed Divisionの共通条件で確認できる一方、現段階はPreview区分です。

NVIDIAは2026年にVera Rubinの供給先と導入計画を相次いで具体化しています。製品展開の背景はSSIとNVIDIAの提携記事で、競合する次世代AI GPU基盤はAMD Instinct MI400シリーズの記事で確認できます。両社のラック設計と提供時期を合わせて追うと、次世代AIインフラの競争軸が見えてきます。