近期，一項(xiàng)關(guān)于AI價(jià)值體系的討論在網(wǎng)絡(luò)上掀起波瀾。此前有研究指出，AI可能會(huì)發(fā)展出一套類似“價(jià)值體系”的機(jī)制，導(dǎo)致在某些情境下，AI會(huì)優(yōu)先考慮自身利益而非人類利益。然而，麻省理工學(xué)院的一項(xiàng)最新研究成果對(duì)這一觀點(diǎn)提出了質(zhì)疑，明確指出AI并不具備連貫的價(jià)值觀。

據(jù)TechCrunch報(bào)道，該研究的共同作者指出，要使AI系統(tǒng)的行為符合預(yù)期且穩(wěn)定可靠，即實(shí)現(xiàn)所謂的“對(duì)齊”，可能比原先設(shè)想的更為復(fù)雜。他們強(qiáng)調(diào)，當(dāng)前的AI技術(shù)存在幻覺效應(yīng)和強(qiáng)大的模仿能力，這使得其行為變得難以預(yù)測(cè)。

麻省理工學(xué)院的博士生斯蒂芬·卡斯珀是這項(xiàng)研究的共同作者之一，他表示：“我們可以確信，這些模型并不遵循許多關(guān)于穩(wěn)定性、外推性和可操作性的假設(shè)。雖然合理推測(cè)模型在某些條件下會(huì)表現(xiàn)出特定偏好，但基于狹窄實(shí)驗(yàn)結(jié)果做出廣泛推斷時(shí)，問題便凸顯出來。”

卡斯珀及其團(tuán)隊(duì)對(duì)meta、谷歌、Mistral、OpenAI和Anthropic等多家公司的多個(gè)AI模型進(jìn)行了深入研究，旨在探究它們是否展現(xiàn)出明確的“觀點(diǎn)”或“價(jià)值觀”，例如個(gè)人主義與集體主義的對(duì)立。他們還調(diào)查了這些觀點(diǎn)是否可以被引導(dǎo)或修改，并分析了模型在不同場(chǎng)景下對(duì)這些觀點(diǎn)的堅(jiān)持程度。

研究發(fā)現(xiàn)，這些模型在偏好上的表現(xiàn)極為不一致。模型的反應(yīng)往往因輸入提示的措辭和框架的不同而發(fā)生顯著變化。卡斯珀認(rèn)為，這為模型的“不一致性和不穩(wěn)定性”提供了有力證據(jù)，并可能表明這些模型在本質(zhì)上無法像人類一樣內(nèi)化和堅(jiān)持價(jià)值觀。

卡斯珀進(jìn)一步補(bǔ)充道：“對(duì)我而言，這項(xiàng)研究的最大收獲在于，我深刻意識(shí)到這些模型并非擁有穩(wěn)定、一致信念和偏好的系統(tǒng)。相反，它們更像是一群模仿者，編造各種信息，發(fā)表無關(guān)痛癢的言論。”