什麼是 NVIDIA DSX AI 工廠平台?
什麼是 NVIDIA DSX AI 工廠平台?
NVIDIA DSX AI 工廠平台是一個 AI 工廠級平台,整合了設計、模擬、營運及生態系統技術。它定義了如何從晶片與系統到基礎架構軟體、設施及合作夥伴技術,進行全堆疊的 AI 工廠 設計、建置與最佳化。DSX 將開放軟體函式庫、工作流指南和參考設計與 NVIDIA 運算平台及共同設計的基礎架構相結合,以實現廣泛的軟體與硬體解決方案生態系統。透過通用架構對齊每一層,DSX 提高了每瓦詞元數(tokens per watt),加速了部署,並強化了營運的可靠性與韌性。
為什麼您需要它?
企業需要 NVIDIA DSX AI 工廠平台來高效建置與營運專為現代 AI 嚴苛需求而最佳化的 AI 工廠。隨著 AI 模型在複雜性與規模上的增長,以及對快速部署的需求日益迫切,傳統且零散的基礎架構開發方式面臨著重大挑戰:
資源利用率低:難以最大化每單位電力(瓦特)的運算輸出(詞元),導致較高的營運成本與環境影響。
部署週期延長:設計、驗證及讓 AI 基礎架構上線的過程漫長且複雜,延誤了 AI 創新與上市時間。
營運脆弱性:在多樣化的硬體與軟體組件中,難以確保 AI 營運的一致效能、可靠性與擴展性。
缺乏標準化:缺乏統一的架構與參考設計,使整個 AI 基礎架構堆疊的整合與維護變得複雜。
NVIDIA DSX AI 工廠平台透過提供整體的共同設計解決方案來解決這些問題,簡化了整個 AI 工廠生命週期,從根本上確保最佳效能、效率與可靠性。
NVIDIA DSX AI 工廠平台的優勢
NVIDIA DSX AI 工廠平台提供了一系列對於 AI 工廠級營運成功至關重要的優勢:
加速營收變現時間:透過提供特定世代、經 AI 工廠驗證的架構(如 Vera Rubin DSX 參考設計)與數位分身功能(DSX Sim),DSX 顯著縮短了產出首個詞元的時間。這加速了 AI 工廠的部署與營運化,讓企業能更快從 AI 投資中實現價值。
最大化效率(每瓦詞元數):DSX 從根本上旨在最佳化每瓦詞元數。這是透過 DSX MaxLPS(一個在固定電力預算內最大化運算輸出的 AI 工廠效率層)以及 DSX Flex(一個電網感知電力調度層)等組件實現的。這種專注確保了在給定電力預算下獲得最大的運算輸出,從而降低營運成本並減少碳足跡。
增強可靠性與韌性:該平台致力於透過通用架構對齊每一層,以最大化吞吐量與營運。DSX OS 為基礎架構即服務(IaaS)與平台即服務(PaaS)提供了一個開源、模組化的軟體平台,確保穩健且一致的效能。DSX Exchange 作為 AI 工廠 IT/OT 通訊樞紐,促進無縫互動以維持營運穩定性,進一步增強了可靠性。
統一全堆疊最佳化:DSX 整合了整個 AI 堆疊(從晶片與系統到基礎架構軟體與設施)的設計、模擬、營運及生態系統技術。這種全面的方法,包括開放軟體函式庫、工作流指南和共同設計的基礎架構,簡化了部署,減少了整合複雜性,並確保所有組件無縫協作以發揮巔峰 AI 效能。
華碩如何提供協助?
華碩(ASUS)作為 NVIDIA 生態系統中領先的 AI 基礎架構合作夥伴,發揮著至關重要的作用:
實作 DSX 參考設計:搭載 NVIDIA Vera Rubin NVL72 的 ASUS AI POD 符合 NVIDIA DSX 參考設計。這確保了基礎架構是專為容納 NVIDIA GPU 與 DSX 軟體堆疊而建置並經過驗證的,提供最佳的相容性與效能。
利用 DSX SimReady 加速部署:華碩正在其機架級平台中採用 DSX SimReady。這涉及將其 CAD 幾何形狀轉換為經過驗證的 OpenUSD 資產,並嵌入關鍵的電力、散熱與連接點中繼資料。這些 SimReady 資產可直接插入 NVIDIA Omniverse DSX 藍圖 及更廣泛的 DSX 生態系統。
實現數位分身驗證:透過開發 DSX SimReady 資產,華碩讓客戶能夠在實際施工開始之前,利用數位分身設計、驗證並最佳化 AI 基礎架構。這種預先驗證能力對於向吉瓦級客戶交付預先驗證的 AI 工廠硬體至關重要,顯著縮短了資料中心的建置時程。
提供可擴展的硬體解決方案:由 NVIDIA DSX AI 工廠平台賦能的華碩基礎架構解決方案,提供了穩健、可擴展且可靠的實體運算平台,實現了 NVIDIA DSX 的高效能運算。華碩在硬體製造與整合方面的專業知識,對於落實 NVIDIA 最佳化 AI 工廠的願景至關重要。
