在NVIDIA年度開發(fā)者盛會上,黃仁勛揭曉了科技界的重磅消息——全新AI芯片GB300橫空出世,標志著AI計算能力邁入嶄新階段。
這款芯片基于NVIDIA創(chuàng)新的Blackwell Ultra架構(gòu),顯著增強了訓(xùn)練和測試階段的擴展推理能力。通過增加推理過程中的計算量,GB300旨在提升AI應(yīng)用的準確率,加速企業(yè)AI推理、代理式AI以及物理AI等領(lǐng)域的開發(fā)進程與部署效率。
Blackwell Ultra架構(gòu)推出了兩大解決方案:NVIDIA GB300 NVL72機架級方案與NVIDIA HGX B300 NVL16系統(tǒng)。尤為引人注目的是,GB300 NVL72的AI性能相較于其前代GB200 NVL72實現(xiàn)了1.5倍的提升,為AI工廠的構(gòu)建帶來了50倍的收入增長機遇,相較于基于Hopper的系統(tǒng)。
具體到硬件配置,GB300 NVL72的每個節(jié)點均配備了兩顆升級版的Blackwell GPU以及一顆Grace CPU,輔以高達288GB的HBM3e高帶寬內(nèi)存。其Dense FP4性能驚人,達到了每秒1.5億億次(15PFlops)。整臺服務(wù)器集成了72個節(jié)點,總計144顆GPU、72顆CPU、20TB HBM3e內(nèi)存以及40TB DDR5內(nèi)存,相比上一代產(chǎn)品,內(nèi)存增加了50%,CX8互連帶寬更是提升了100%,達到14.4TB/s。
另一方面,HGX B300 NVL16的表現(xiàn)同樣搶眼。與Hopper系列相比,其LLM推理速度提高了11倍,計算性能躍升7倍,內(nèi)存容量擴大了4倍,為處理最為復(fù)雜的工作負載,特別是AI推理任務(wù),提供了前所未有的性能突破。
Blackwell Ultra平臺在多個應(yīng)用場景中展現(xiàn)出獨特優(yōu)勢。在代理式AI領(lǐng)域,它能夠利用復(fù)雜的推理和迭代規(guī)劃,自主解決多步驟難題。AI智能體系統(tǒng)不再局限于簡單的指令執(zhí)行,而是能夠推理、規(guī)劃并采取行動,以實現(xiàn)特定目標。物理AI方面,該平臺使企業(yè)能夠?qū)崟r生成高度逼真的合成視頻,為大規(guī)模訓(xùn)練機器人、自動駕駛汽車等應(yīng)用提供了有力支持。
NVIDIA透露,聯(lián)想、戴爾和超微等合作伙伴預(yù)計將于2025年下半年推出基于Blackwell Ultra架構(gòu)的系列服務(wù)器,這將進一步推動AI技術(shù)在各行各業(yè)的應(yīng)用與發(fā)展。