近日,MLCommons宣布了一項(xiàng)重要進(jìn)展,正式推出了MLPerf Client基準(zhǔn)測(cè)試的0.5版本,這一版本專門針對(duì)消費(fèi)類PC的AI性能進(jìn)行評(píng)估。這是該基準(zhǔn)測(cè)試的首個(gè)公開版本,標(biāo)志著AI性能評(píng)估領(lǐng)域的一大步。
MLCommons表示,MLPerf Client基準(zhǔn)測(cè)試的問世離不開眾多利益相關(guān)方的共同努力,包括AMD、英特爾、微軟、英偉達(dá)、高通以及頂級(jí)PC制造商等。這些合作伙伴為測(cè)試的開發(fā)提供了寶貴的專業(yè)知識(shí)和資源。
MLPerf Client基準(zhǔn)測(cè)試0.5版本基于meta的Llama 2 7B開源LLM,涵蓋了四項(xiàng)AI任務(wù),分別是內(nèi)容生成、創(chuàng)意寫作以及對(duì)兩份不同長(zhǎng)度文本的摘要。該版本目前支持兩種加速路徑,分別是DirectML ONNX和OpenVINO(僅限于英特爾GPU)。
值得注意的是,該基準(zhǔn)測(cè)試在初期階段僅支持Windows x86-64設(shè)備。具體來說,可以在以下設(shè)備上運(yùn)行:AMD Radeon RX 7900系列獨(dú)立顯卡、最低配備8GB顯存的英特爾銳炫獨(dú)顯、最低配備12GB顯存的英偉達(dá)GeForce RTX 40系列獨(dú)顯、銳龍AI 9系列處理器(最低32GB內(nèi)存)以及搭載英特爾銳炫核顯的酷睿Ultra 200系列處理器(最低16GB內(nèi)存)。
雖然目前僅限于特定設(shè)備和操作系統(tǒng),但MLCommons透露,MLPerf Client未來將會(huì)拓展支持范圍,包括macOS和Windows on Arm設(shè)備。同時(shí),還將引入更多的硬件加速路徑以及更廣泛的AI模型測(cè)試場(chǎng)景,以滿足不斷發(fā)展的市場(chǎng)需求。
對(duì)于對(duì)MLPerf Client基準(zhǔn)測(cè)試感興趣的讀者,可以通過以下鏈接了解更多信息: