在2025年,中文大模型領域迎來了一場顛覆性的變革。DeepSeek的橫空出世,不僅打破了英偉達在算力方面的壟斷地位,還撼動了美國在大模型領域的長期主導地位。這一創新甚至引發了全球大模型領域的價格戰,使得更多人能夠享受到大模型帶來的便利和樂趣。
從社交媒體的反應來看,DeepSeek確實將“人工智能”這一曾經遙不可及的概念帶到了普通大眾的身邊。即使是像我這樣的技術愛好者,也在春節期間頻繁向家人和親戚介紹DeepSeek,并時常拿起手機體驗這一智能工具。DeepSeek能夠在不收費的基礎上提供高質量的中文問答,這在目前市場上是獨一無二的。
然而,DeepSeek也并非完美無缺。服務器問題成為了用戶的一大困擾。當請求發出后,長時間的等待卻只能換來“服務器繁忙,請稍后再試”的提示,這種挫敗感讓人迫切想要擁有一個屬于自己的本地DeepSeek推理模型。
對于普通消費者來說,購置一臺能夠運行大模型的設備成本高昂。要么選擇售價在5000元以上的AI PC筆記本,要么自己動手組裝一臺搭載獨立顯卡的整機。但幸運的是,對于DIY玩家來說,挑戰極限預算并組裝出“能用”的主機,正是他們的樂趣所在。
我決定嘗試用400元的預算來打造一臺能夠運行DeepSeek模型的電腦。盡管近期內存和硬盤價格有所上漲,但一些老舊硬件的價格卻相對穩定,甚至有所下降。我決定挑戰這一極限預算,看能否成功組裝出性價比頗高的入門級本地大模型主機。
在硬件選擇上,我選擇了Intel Core i3-4170處理器,這款二核四線程的處理器雖然規格老舊,但具備3MB智能緩存和HD4400核顯,售價僅為22元。主板方面,我選擇了銘瑄MS-H81M Turbo,售價79元,雖然接口有限,但性價比極高。散熱器則選擇了14.9元的雙熱管風冷散熱器,足以應對這套低價配置。
顯卡方面,我選擇了閑魚上的技嘉P106-100礦卡,售價130元。這款顯卡具備6GB顯存,足以應對本地大模型的運行需求。內存方面,我選擇了兩根雜牌DDR3內存組成雙通道,電源則選擇了300W的長城電源,硬盤則是一塊120GB的SATA SSD。
組裝完成后,我對這臺電腦進行了簡單的性能測試。CPU-Z測試顯示單核跑分373.4分,多核跑分1025.2分。在CINEBENCH測試中,R20多核得分為824cb,單核得分為346cb;R23多核得分為1914cb,單核得分為905cb。雖然性能不算亮眼,但足以應對日常辦公和輕度娛樂。
在GPU方面,技嘉P106-100在Fire Strike Extreme測試中取得了6490分的圖形分數,在TimeSpy基本測試中取得了4428分的圖形分數,性能與GTX1060相當,甚至能與移動端的RTX 3050一較高下。
接下來是DeepSeek的部署。由于真正的DeepSeek-R1模型需要大量計算資源和顯存,我選擇了使用蒸餾模型。DeepSeek-R1-Distil-Qwen-7B是表現最出色的蒸餾模型之一,適合在本地部署。
我選擇了Ollama+Chatbox AI的組合來進行部署。Ollama是一款流行的本地大模型服務端工具,而Chatbox AI則是一款前端產品,提供了更直觀的用戶體驗。安裝完成后,我可以在Chatbox AI中定義自己想要交互的模型人設,并進行對話交流。
在實測中,本地部署的DeepSeek能夠應對一些基礎的初高中語文、數學、英語問題,但在復雜的數學和邏輯難題上表現一般。由于未聯網,本地模型的知識庫截至2023年,無法回答一些有時效性的問題。
盡管這臺400元預算的電腦在性能上有所欠缺,但它確實能夠運行本地DeepSeek模型,并為公司局域網內部的AI終端提供支持。同時,這臺電腦還具備一定的游戲性能,可以在低畫質下運行《孤島驚魂6》等3A大作,以及流暢運行《英雄聯盟》等網游。
然而,這臺電腦也存在一些問題。礦卡驅動容易掉,導致電腦白屏,需要頻繁卸載并重裝驅動。二手電源也出現了問題,需要更換。因此,對于想要購買類似配置的用戶來說,需要謹慎考慮。
總的來說,盡管這臺400元預算的電腦在性能和穩定性上有所欠缺,但它確實證明了低配置也能運行本地大模型。對于DIY玩家來說,這無疑是一次有趣的挑戰和嘗試。