什麼是 NVIDIA Vera Rubin CPX 平台?
NVIDIA Vera Rubin CPX 是一款全新類別的 NVIDIA GPU,專為大規模情境推論而打造,能夠處理數百萬個 Token 的輸入,適用於複雜的生成式 AI 與長序列推理。每顆 Rubin CPX GPU 可提供高達 50 petaFLOPS 的 NVFP4 運算效能,並配備 128GB 的 GDDR7 記憶體,針對成本與效率進行了優化。
在 Vera Rubin 平台中,Rubin CPX 負責處理推論中的「情境」(context)或預填(prefill)階段,而標準的 Rubin GPU 則專注於解碼(decode)階段。這種解構式方法能以更高的吞吐量和更低的能耗,加速大規模推理與影片生成工作負載。
