什麼是 AMD Instinct MI350 系列 GPU？
AMD Instinct™ MI350 系列 GPU 專為領先的 AI 與高效能運算 (HPC) 加速而設計。基於第四代 AMD CDNA™ 架構，它們為 AI 訓練、推論及複雜的 HPC 工作負載提供卓越的效能與效率。
- 專為新一代 AI 與 HPC 而生
由第四代 AMD CDNA 架構驅動，MI350 系列 GPU 旨在為 AI 推論與高效能運算工作負載提供領先效能。
- 無與倫比的記憶體與頻寬
配備 288GB HBM3E 記憶體與 8TB/s 記憶體頻寬，MI350 系列 GPU 能夠使用較少的 GPU 進行大規模 AI 模型的訓練與推論，進而提高效率並降低成本。
- 擴展資料類型支援以加速 AI
支援先進的 FP16、FP8、FP6 與 FP4 資料類型，以最大化運算吞吐量與能源效率 — 非常適合生成式 AI、自然語言處理 (NLP) 與視覺工作負載。
- 與現有平台直接相容
MI350 系列 GPU 採用氣冷散熱，並可與現有的 AMD Instinct MI300X/MI325X 基礎設施無縫整合，提供具成本效益的升級路徑，無需進行重大的硬體翻修。
- AI 最佳化軟體堆疊
由 AMD ROCm™ 軟體完整支援，這是一個開源平台，為 PyTorch、TensorFlow、JAX、ONNX Runtime、Triton 等主要 AI 框架提供即時 (Day 0) 支援。
- 透過 Kubernetes 輕鬆部署
AMD GPU Operator 簡化了 Kubernetes 叢集中的容器化部署，實現 AI 應用程式的快速配置與擴展。
- 專為企業級 AI 設計的安全性
內建安全啟動 (Secure Boot)、安全更新 (Secure Update)、SR-IOV 與 Infinity Fabric™ Link 安全性等功能，確保安全的多租戶環境並保護 AI 模型與數據。
- 深受業界領導者信賴
包括 Microsoft 與 Meta 在內的主要 AI 業者均依賴 AMD Instinct GPU 來驅動 Llama 405B 與 GPT 等大型模型，驗證了其效能、可擴展性與可靠性。
- 開放生態系統，無供應商鎖定
支援基於乙太網路 (Ethernet) 的開放式網路，以實現可擴展的 AI 叢集，並支援跨多元雲端服務供應商與 OEM 平台的整合。
- 永續且高效的效能
MI350 系列 GPU 針對能源效率進行了最佳化並降低了總體擁有成本 (TCO)，是資料中心在擴展 AI 規模的同時，將營運成本與環境影響降至最低的理想選擇。
AMD Instinct MI350 系列 GPU 與平台為資料中心賦予領先效能。每當您想製作電影時，首先需要的是一份好的劇本。MI350 系列 GPU 提供了將偉大的 AI 與 HPC 願景變為現實所需的運算能力與效率，推動大規模創新。
了解更多： ESC A8A-E12U | ASUS 伺服器