什麼是情境記憶儲存平台 (NVIDIA BlueField-4 情境記憶儲存平台)？

NVIDIA® 情境記憶儲存平台™ 情境記憶儲存是一款專為長內容、多輪對話及代理式 AI 推論設計的 AI 原生情境層。NVIDIA BlueField-4 情境記憶儲存平台是一款專門構建的加速儲存平台，旨在為下一代 AI 工作負載提供動力，特別是那些需要大規模資料處理極致效能的工作負載。它建立在 NVIDIA BlueField-4 資料處理單元 (DPU) 之上，並整合了 NVIDIA 的資料中心基礎設施晶片架構 (DOCA) 軟體堆疊。情境記憶儲存平台旨在為 AI 工廠提供前所未有的儲存效能、效率和擴充性，實現更快的資料存取、處理和模型訓練。它利用 NVMe over Fabrics (NVMe-oF) 和 GPUDirect Storage 等先進技術，將資料直接加速移動到 GPU。

為什麼您需要它？

隨著 AI 模型複雜度的增加和資料量的爆炸式增長，傳統的儲存架構往往成為瓶頸，阻礙了 AI 訓練和推論的速度與效率。您需要情境記憶儲存平台來克服這些儲存限制並加速您的 AI 流程。它對於以下方面至關重要：

最大化 GPU 利用率： 透過消除儲存瓶頸，情境記憶儲存平台確保 GPU 以最佳速度獲取資料，防止閒置週期，並使昂貴的 GPU 基礎設施投資報酬率最大化。

處理海量資料集： 它提供處理大規模 AI 訓練所需的數 PB 資料所需的極致吞吐量和低延遲。

加速洞察/模型部署時間： 更快的資料存取和處理直接轉化為更快的模型訓練、迭代和 AI 解決方案部署。

構建可擴充的 AI 基礎設施： 情境記憶儲存平台為構建和擴展 AI 工廠提供了高度可擴充且高效的儲存基礎。

情境記憶儲存平台的優勢

NVIDIA BlueField-4 情境記憶儲存平台為 AI 驅動的企業帶來顯著優勢：

極致效能： 提供業界領先的儲存效能、吞吐量和超低延遲，這對要求嚴苛的 AI 工作負載至關重要。

提升效率： 優化資料移動和處理，減少 AI 訓練 and 推論所需的時間與資源。

擴充性： 提供高度可擴充的架構，可隨著 AI 資料和模型需求的增長而擴展。

GPUDirect Storage 整合： 加速資料從儲存裝置直接傳輸到 GPU 記憶體，繞過 CPU 和系統記憶體，從而顯著降低延遲並增加頻寬。

NVMe-oF 加速： 利用 NVMe over Fabrics 實現對網路上共享儲存資源的高效能、低延遲存取。

簡化 AI 基礎設施： 提供統一且優化的 AI 儲存平台，簡化部署與管理。

ASUS 如何提供幫助？

雖然 NVIDIA 情境記憶儲存平台產品頁面主要關注 NVIDIA 的核心技術和一般生態系統合作夥伴，但特定資訊揭示了 ASUS 對情境記憶儲存平台平台的直接且重大貢獻。ASUS 提供經過驗證的儲存伺服器 2U UF920 E3 RS24，專為發揮 NVIDIA 情境記憶儲存平台功能而設計。這款 ASUS 解決方案由尖端的 NVIDIA 技術提供動力，包括 NVIDIA Vera CPU、NVIDIA BlueField-4 DPU 和 ConnectX-9 SuperNIC。透過將這款支援情境記憶儲存平台的 ASUS 伺服器與 NVIDIA GPU 連接，它可以有效優化端到端 AI 資料流程，顯著減少瓶頸並最大化要求嚴苛的 AI 工作負載的 GPU 利用率。此外，ASUS 透過與 WEKA 和 IBM 的策略軟體合作進一步增強了這一產品，整合了先進的資料管理和智慧服務，以提供全面且高效能的 AI 儲存解決方案。