NVIDIA 推出Rubin CPX，專為AI推理設(shè)計的GPU
NVIDIA發(fā)布Rubin CPX，這是一款專門為大規(guī)模上下文AI推理設(shè)計的新型GPU。
Rubin CPX采用30 petaflops算力和NVFP4精度，配備128GB GDDR7內(nèi)存。與現(xiàn)有的GB300 NVL72系統(tǒng)相比，性能提升7.5倍，attention處理速度快3倍。這款芯片將視頻編解碼器和長文本推理處理集成在單個芯片中。
新推出的Vera Rubin NVL144 CPX平臺將8 exaflops AI算力、100TB快速內(nèi)存和1.7 petabytes/秒內(nèi)存帶寬裝入單個機架。該平臺支持NVIDIA Quantum-X800 InfiniBand和Spectrum-X以太網(wǎng)連接方案。
Rubin CPX主要面向兩個應(yīng)用場景。第一是百萬token級別的代碼生成，能夠理解和優(yōu)化大規(guī)模軟件項目。第二是長視頻內(nèi)容處理，單小時視頻內(nèi)容可達(dá)百萬token規(guī)模。
多家AI公司已確認(rèn)將使用這項技術(shù)。Cursor計劃用Rubin CPX提升開發(fā)者生產(chǎn)力。視頻生成公司Runway將用于支持更長時長和更復(fù)雜的創(chuàng)作工作流程。AI研究公司Magic正在開發(fā)能處理百萬token上下文的AI代理，包括完整代碼庫、交互歷史和文檔庫。
NVIDIA表示，投資1億美元的Vera Rubin NVL144 CPX系統(tǒng)可產(chǎn)生50億美元的token處理收入。
在軟件支持方面，Rubin CPX將兼容完整的NVIDIA AI軟件棧，包括NVIDIA Dynamo平臺、Nemotron多模態(tài)模型、NVIDIA AI Enterprise以及CUDA-X庫。這些軟件工具將幫助企業(yè)部署和優(yōu)化長文本AI應(yīng)用。
Rubin CPX預(yù)計于2026年底正式上市。
本文轉(zhuǎn)載自??AI工程化??，作者：ully
