什麼是 NVIDIA Spectrum 乙太網路平台？
NVIDIA Spectrum 是由 NVIDIA 設計的一系列高效能乙太網路解決方案，旨在滿足現代資料中心、雲端運算、人工智慧 (AI)、高效能運算 (HPC) 以及其他數據密集型應用的需求。它是一個端到端平台，包含交換器、網路介面卡 (NIC)、資料處理單元 (DPU)、線纜及支援軟體，全部經過優化以提供業界領先的效能、低延遲和擴充性。
NVIDIA Spectrum 的關鍵組件
- Spectrum 交換器：
- 這些是採用 NVIDIA 定製特殊應用積體電路 (ASIC) 打造的乙太網路交換器。Spectrum 交換器系列跨越多個世代，包括 Spectrum-1、Spectrum-2、Spectrum-3 以及最新的 Spectrum-4，連接埠速度範圍從 1GbE 到 800GbE。
- 它們專為高頻寬、低延遲的工作負載而打造，例如 AI 訓練、機器學習 (ML) 和雲端級部署。例如，Spectrum-4 SN5000 系列提供高達每秒 51.2 Terabits (Tbps) 的交換容量，並支援每個連接埠高達每秒 800 Gigabits (Gb/s) 的速度。
- Spectrum-X 平台：
- 作為 Spectrum 系列的專門擴展，Spectrum-X 被譽為「全球首款為 AI 打造的乙太網路平台」。它整合了 Spectrum-4 交換器與 NVIDIA BlueField-3 SuperNIC（網路加速器）以及先進軟體，以優化 AI 工作負載。
- 與傳統乙太網路架構相比，Spectrum-X 可提升高達 1.6 倍的效能，提供適應性路由、擁塞控制以及用於 GPU 對 GPU 通訊的高有效頻寬等功能。它特別適合超大規模 AI 雲端和多租戶環境，例如在擁有 10 萬個 NVIDIA Hopper GPU 的 xAI Colossus 超級電腦中的應用。
- 支援硬體：
- NVIDIA ConnectX NIC：智慧型網路配接器，為資料中心工作負載提供高速連接（高達 400Gb/s）和硬體加速。
- BlueField DPU 與 SuperNIC：這些組件透過從 CPU 或 GPU 卸載資料處理和安全等任務來增強網路效能，其中 BlueField-3 SuperNIC 是 Spectrum-X 的關鍵組件。
- LinkX 線纜與收發器：專為最大化網路效能而設計的高頻寬、低延遲互連裝置。
關鍵特性與優勢：
- 效能：Spectrum 交換器與 Spectrum-X 提供極低延遲（連接埠對連接埠低至 300 奈秒）和高吞吐量，使其成為 AI 工廠、雲端資料中心和分散式儲存的理想選擇。
- AI 優化：Spectrum-X 特別針對 AI 工作負載解決了乙太網路的傳統限制（例如負載不平衡和封包遺失），採用了聚合乙太網路遠端直接記憶體存取 (RoCE)、適應性路由和擁塞控制等技術。
- 擴充性：支援大規模部署，例如具有多達 16,000 個連接埠的兩層式 Leaf-Spine 拓撲，甚至是像 xAI Colossus 這樣更大規模的系統。
- 基於標準：完全相容於開放乙太網路標準（包括 SONiC），在提供 NVIDIA 專有優化的同時確保互通性。
- 效率：先進的緩衝管理和節能設計降低了營運成本，優於傳統的深緩衝 (deep-buffer) 交換器。
應用場景：
- AI 與機器學習：Spectrum-X 為 GPU 密集型 AI 訓練和推論提供動力。
- 雲端運算：為具有可預測效能和多租戶隔離的超大規模資料中心提供骨幹。
- 儲存：增強分散式儲存架構，將讀寫頻寬提升至比標準乙太網路（如 RoCE v2）高出 48%。
- HPC：支援科學模擬和研究的高頻寬、低延遲需求。