NVIDIA近日推出了一款名為DGX Spark的個(gè)人AI超級(jí)計(jì)算機(jī)，引發(fā)了科技界的廣泛關(guān)注。這款設(shè)備搭載了GB10 Grace Blackwell超級(jí)芯片，擁有2000億參數(shù)的處理能力，配備128GB內(nèi)存，售價(jià)約合人民幣3萬(wàn)元。其目標(biāo)用戶群體包括科研人員、數(shù)據(jù)科學(xué)家和學(xué)生，旨在為他們提供強(qiáng)大的桌面級(jí)AI計(jì)算能力，助力AI模型開(kāi)發(fā)與創(chuàng)新。

DGX Spark的性能定位在輕量級(jí)模型上表現(xiàn)出色，甚至能夠穩(wěn)定運(yùn)行1200億參數(shù)的大型模型。根據(jù)測(cè)試，其整體性能介于未來(lái)可能發(fā)布的RTX 5070和RTX 5070 Ti之間。然而，這款設(shè)備也存在明顯短板——273 GB/s的內(nèi)存帶寬限制了其數(shù)據(jù)傳輸速度，導(dǎo)致在解碼階段表現(xiàn)欠佳，就像一個(gè)思維敏捷但表達(dá)遲緩的人。

有極客團(tuán)隊(duì)提出了一種創(chuàng)新解決方案：將DGX Spark與Mac Studio M3 Ultra配合使用。Mac Studio擁有819 GB/s的帶寬，通過(guò)流水線式分層計(jì)算與傳輸技術(shù)，將DGX Spark的預(yù)填充階段和Mac Studio的解碼階段分離處理，成功將整體推理速度提升了2.8倍。不過(guò)，這種組合方案的成本也相應(yīng)增加，兩臺(tái)設(shè)備總價(jià)接近10萬(wàn)元人民幣。

盡管存在帶寬限制，DGX Spark的128GB統(tǒng)一內(nèi)存和1 PFLOP的稀疏FP4張量計(jì)算能力仍為其拓展了應(yīng)用場(chǎng)景。NVIDIA官方提供了超過(guò)20種開(kāi)箱即用的玩法指南，涵蓋從視頻生成到搭建多智能體助手等多種AI應(yīng)用。例如，用戶可以利用ComfyUI框架和阿里的Wan 2.2 14B模型在本地生成視頻，或通過(guò)LM Studio運(yùn)行大型語(yǔ)言模型。

DGX Spark的出現(xiàn)，標(biāo)志著個(gè)人計(jì)算設(shè)備正式進(jìn)入超算時(shí)代。這款將數(shù)據(jù)中心級(jí)算力濃縮到桌面端的設(shè)備，不僅滿足了專業(yè)用戶對(duì)高性能AI計(jì)算的需求，更引發(fā)了人們對(duì)個(gè)人AI應(yīng)用邊界的深入思考。隨著更多測(cè)試結(jié)果和使用指南的公布，DGX Spark的潛力有望得到進(jìn)一步挖掘。