在科技界的一次快速響應(yīng)展示中,阿里云于近日揭曉了其最新的推理模型——“通義千問QwQ-32B”,并宣布了該模型的開源計劃。緊隨其后,僅兩小時之內(nèi),摩爾線程便宣布已完成對該模型的適配工作,實現(xiàn)了即日(Day0)支持,這一速度令人矚目。
QwQ-32B模型依托于大語言模型高速推理框架vLLM及MT Transformer推理引擎,在摩爾線程的GPU平臺上展現(xiàn)出了非凡的推理效率和穩(wěn)定性。這一成就不僅彰顯了摩爾線程MUSA架構(gòu)的卓越生態(tài)兼容性,也進(jìn)一步鞏固了其在AI加速領(lǐng)域的領(lǐng)先地位。
尤為摩爾線程近期在支持開源項目方面展現(xiàn)出了極高的效率。就在不久前,僅用一周時間,摩爾線程便成功支持了DeepSeek開源周的全面產(chǎn)品線,再次證明了其在技術(shù)響應(yīng)速度上的優(yōu)勢。
目前,摩爾線程已將這一重要成果集成至其模型展示平臺——“夸娥工場”。該平臺旨在為用戶提供基于摩爾線程夸娥(KUAE)智算集群的強大模型能力體驗,讓用戶能夠直觀感受到最新技術(shù)的魅力。
在夸娥工場的體驗頁面上,用戶可以輕松訪問并測試QwQ-32B模型。該平臺不僅提供了豐富的模型展示,還允許用戶進(jìn)行實際操作和體驗,從而更深入地了解模型的性能和特點。
在多項權(quán)威基準(zhǔn)測試中,QwQ-32B模型展現(xiàn)出了驚人的表現(xiàn)。盡管其參數(shù)量僅為32B,但通過大規(guī)模強化學(xué)習(xí)的訓(xùn)練,該模型在數(shù)學(xué)、編程及通用能力等多個領(lǐng)域均取得了顯著突破,智能化水平令人印象深刻。
與OpenAI-o1-mini等模型相比,QwQ-32B在各項測試中均取得了顯著優(yōu)勢。甚至在與開源推理模型領(lǐng)域的佼佼者DeepSeek-R1的對比中,QwQ-32B也毫不遜色。在某些特定測試中,如LiveBench和BFCL,QwQ-32B甚至超越了滿血版的DeepSeek-R1-671B,展現(xiàn)出了其強大的競爭力。
這一系列卓越的測試結(jié)果不僅驗證了QwQ-32B模型的強大性能,也進(jìn)一步鞏固了摩爾線程在AI加速領(lǐng)域的技術(shù)領(lǐng)先地位。隨著技術(shù)的不斷進(jìn)步和應(yīng)用場景的不斷拓展,摩爾線程將繼續(xù)致力于為用戶提供更加高效、智能的解決方案。