什麼是 NVIDIA Quantum 交換器?

NVIDIA Quantum 交換器是 NVIDIA InfiniBand 網路產品組合的一部分,專為高效能運算 (HPC)、人工智慧 (AI) 及超大規模資料中心應用而設計。與使用乙太網路的 Spectrum 系列不同,Quantum 交換器利用 InfiniBand,這是一種針對極致效能與擴充性優化的高速、低延遲互連技術。這些交換器旨在處理海量資料吞吐量,使其成為 AI 訓練、科學模擬和雲端原生超級運算等工作負載的理想選擇。

 

NVIDIA Quantum 交換器的關鍵特性:

 

1. 高頻寬與低延遲

 

  • Quantum 交換器支援從 40Gb/s(舊型號)到最新 Quantum-X800 系列中高達 800Gb/s 的速度。

 

2. 網路內運算 (In-Network Computing)

 

  • 一項傑出特性是 NVIDIA 可擴展分層聚合與歸約協定 (SHARP),它將集體通訊操作(如 MPI 中的資料歸約)卸載到交換器本身。這減少了網路流量並提升了應用程式效能——Quantum-X800 中的 SHARPv4 提供高達 14.4 teraflops 的網路內運算能力。

 

3. 擴充性

 

  • Quantum 交換器支援大規模拓撲結構,例如胖樹 (Fat Tree)、Dragonfly+ 或多維環形 (Torus)。例如,Quantum-2 QM9700 開箱即可擴展至超過 2,000 個節點,而 Quantum-X800 Q3400 在兩層胖樹架構中可支援高達 10,368 個節點。

 

4. 進階功能

 

  • 自適應路由 (Adaptive Routing):動態優化資料路徑以避免擁塞。

 

  • 擁塞控制 (Congestion Control):確保即使在高負載下也能維持一致的效能。

 

  • 自癒互連 (SHIELD):從連結故障中恢復的速度比基於軟體的解決方案快 5,000 倍,增強了可靠性。

 

  • 效能隔離 (Performance Isolation):透過隔離工作負載實現多租戶環境,這對雲端服務供應商至關重要。

 

5. 交換器型號

 

  • Quantum-1:早期世代,速度如 100Gb/s 或 200Gb/s(例如 QM8700)。

 

  • Quantum-2:引入了 400Gb/s 連接埠(例如具有 64 個 400Gb/s 連接埠或 128 個 200Gb/s 連接埠的 QM9700),提供 51.2Tb/s 的雙向吞吐量。

 

  • Quantum-X800:最新型號(截至 2025 年 3 月),配備 800Gb/s 連接埠(例如 4U 外型規格中具有 144 個連接埠的 Q3400,或 2U 中具有 72 個連接埠的 Q3200),頻寬翻倍,瞄準兆級參數 AI 模型。

 

 

應用場景:

 

  • AI 與機器學習:為 GPU 叢集(如 NVIDIA DGX 系統)提供動力,用於訓練兆級參數模型,如 xAI 的 Colossus 超級電腦所示。

 

  • 高效能運算 (HPC):加速物理、氣候建模和基因組學領域的模擬。

 

  • 雲端原生超級運算:支援具備安全性和隔離性的多租戶、裸機效能,供提供 HPC 即服務 (HPC-as-a-service) 的供應商使用。