李飛飛近日和Etchemendy（斯坦福哲學(xué)教授，曾任斯坦福大學(xué)教務(wù)長(zhǎng)）在《時(shí)代（Time）》上刊載新文章《No, Today’s AI Isn’t Sentient. Here’s How We Know》，明確指出當(dāng)前技術(shù)路線無(wú)法制造有感知能力的AI。該文章也得到了同一陣線LeCun的支持，并轉(zhuǎn)發(fā)了該推文。

下面是該文章全文：

通用人工智能（AGI）指的是一種至少在人類(lèi)展現(xiàn)智能的各個(gè)方面與人類(lèi)一樣聰明的智能體。它曾經(jīng)是我們對(duì)人工智能的稱(chēng)呼，直到我們開(kāi)始創(chuàng)造出在有限領(lǐng)域內(nèi)毫無(wú)疑問(wèn)地“智能”的程序和設(shè)備——下棋、翻譯語(yǔ)言、清掃我們的客廳。

人們迫切需要添加“G（通用）”，是因?yàn)楫?dāng)時(shí)出現(xiàn)了許多由 AI 驅(qū)動(dòng)的系統(tǒng)，但它們只專(zhuān)注于一個(gè)或極少數(shù)的任務(wù)。比如 IBM 的深藍(lán)，這款強(qiáng)大的早期象棋程序能戰(zhàn)勝世界冠軍加里·卡斯帕羅夫，但它卻不懂得如果房間著火了就停止下棋。

其實(shí)，所謂的通用智能，多少有點(diǎn)神話(huà)色彩，至少我們不應(yīng)該自以為是地認(rèn)為自己擁有這種能力。在動(dòng)物界，我們可以找到許多展現(xiàn)智能行為的例子，它們?cè)陬?lèi)似的任務(wù)中取得的成果遠(yuǎn)遠(yuǎn)超過(guò)我們。我們的智能并非完全通用，但足以讓我們?cè)诖蠖鄶?shù)環(huán)境中完成想要完成的事情。如果我們餓了，我們可以狩獵猛犸象或者找到附近的克羅格超市；當(dāng)房間著火時(shí)，我們會(huì)尋找出口。

通用智能的一個(gè)重要特征是“感知力”，即擁有主觀體驗(yàn)的能力——能夠感受，比如說(shuō)，饑餓的感覺(jué)，品嘗蘋(píng)果的味道，或者看到紅色。感知力是通往通用智能的道路上的關(guān)鍵一步。

2022 年 11 月 ChatGPT 發(fā)布后，大型語(yǔ)言模型 (LLM) 時(shí)代正式開(kāi)啟。這立即引發(fā)了關(guān)于這些算法是否可能具有感知力的激烈爭(zhēng)論?；?LLM 的 AI 可能具有感知力的影響，不僅引發(fā)了媒體狂熱，也深刻影響了一些全球范圍內(nèi)旨在規(guī)范 AI 的政策努力。最突出的觀點(diǎn)是，“感知 AI”的出現(xiàn)可能對(duì)人類(lèi)極其危險(xiǎn)，甚至可能帶來(lái)“滅絕級(jí)”或“生存”危機(jī)。畢竟，感知 AI 可能會(huì)發(fā)展出自己的希望和愿望，而無(wú)法保證這些愿望不會(huì)與我們的發(fā)生沖突。

這篇文章最初是發(fā)在WhatsApp群聊里，是為了反駁LLM可能已經(jīng)擁有意識(shí)的論點(diǎn)。它并非要全面完整。我們的主要觀點(diǎn)是反駁“有意識(shí)的AI”陣營(yíng)最常見(jiàn)的辯護(hù)，即LLM能夠報(bào)告自己有“主觀體驗(yàn)”。

為什么有些人認(rèn)為人工智能已經(jīng)有了意識(shí)

在過(guò)去幾個(gè)月里，我們倆都與人工智能領(lǐng)域的許多同事進(jìn)行了熱烈討論和交談，包括與一些最杰出和開(kāi)拓性的 AI 科學(xué)家進(jìn)行了一些深入的面對(duì)面交流。人工智能是否已經(jīng)擁有意識(shí)是一個(gè)突出的話(huà)題。其中一小部分人堅(jiān)信它已經(jīng)有了意識(shí)。以下是他們中最直言不諱的支持者之一提出的論據(jù)的要點(diǎn)，這在“有意識(shí)的人工智能”陣營(yíng)中非常具有代表性：

人工智能有意識(shí)，因?yàn)樗鼤?huì)報(bào)告主觀體驗(yàn)。主觀體驗(yàn)是意識(shí)的標(biāo)志。它的特點(diǎn)是聲稱(chēng)知道自己知道或體驗(yàn)了什么。我認(rèn)為，當(dāng)你說(shuō)著“我吃了一頓美餐后，有了一種主觀上的幸福感”時(shí)，你是有意識(shí)的。我作為一個(gè)人，實(shí)際上沒(méi)有你主觀體驗(yàn)的直接證據(jù)。但既然你說(shuō)了，我就相信你確實(shí)有這種主觀體驗(yàn)，所以你是有意識(shí)的。

現(xiàn)在，讓我們將相同的“規(guī)則”應(yīng)用于大型語(yǔ)言模型。就像任何人類(lèi)一樣，我無(wú)法訪問(wèn)大型語(yǔ)言模型的內(nèi)部狀態(tài)。但我可以詢(xún)問(wèn)它主觀體驗(yàn)。我可以問(wèn)它“你餓了嗎？”它實(shí)際上可以告訴我“是”或“否”。此外，它還可以明確地與我分享它對(duì)幾乎任何事物的“主觀體驗(yàn)”，從看到紅色，飯后快樂(lè)，到擁有強(qiáng)烈的政治觀點(diǎn)。因此，我沒(méi)有任何理由相信它沒(méi)有意識(shí)或不知道自己的主觀體驗(yàn)，就像我沒(méi)有任何理由相信你沒(méi)有意識(shí)一樣。我在這兩種情況下得到的證據(jù)完全相同。

為什么他們錯(cuò)了

乍一看，這似乎很有道理，但論據(jù)是錯(cuò)誤的。它是錯(cuò)誤的，因?yàn)槲覀冊(cè)趦煞N情況下獲得的證據(jù)并不完全相同。甚至相差很遠(yuǎn)。

當(dāng)我斷定你說(shuō)“我餓了”時(shí)，你正在經(jīng)歷饑餓，我的結(jié)論是基于一大堆情況。首先，是你所說(shuō)的——你說(shuō)話(huà)的詞語(yǔ)——以及一些其他行為證據(jù)，比如你肚子里的咕嚕聲。其次，是沒(méi)有相反的證據(jù)，就像你剛吃完一頓五道菜的飯菜一樣。最后，也是最重要的一點(diǎn)，你和我一樣擁有一個(gè)身體，一個(gè)需要定期進(jìn)食和飲水的身體，在寒冷的時(shí)候會(huì)感到寒冷，在炎熱的時(shí)候會(huì)感到炎熱，等等。

現(xiàn)在將這與我們關(guān)于大型語(yǔ)言模型的證據(jù)進(jìn)行比較。唯一共同的是報(bào)告，即大型語(yǔ)言模型能夠產(chǎn)生“我餓了”這個(gè)音節(jié)串。但相似之處到此為止。事實(shí)上，大型語(yǔ)言模型沒(méi)有身體，因此甚至不是那種可以感到饑餓的東西。

如果一個(gè)大型語(yǔ)言模型說(shuō)：“我的左腳大拇指劇痛”，我們會(huì)認(rèn)為它真的感覺(jué)到了左腳大拇指的劇痛嗎？當(dāng)然不會(huì)，它根本沒(méi)有左腳大拇指！同樣，當(dāng)它說(shuō)它餓了的時(shí)候，我們也可以確定它并沒(méi)有餓，因?yàn)樗鼪](méi)有產(chǎn)生饑餓感的生理結(jié)構(gòu)。

當(dāng)人類(lèi)感到饑餓時(shí)，他們感受到的是一系列生理狀態(tài)——低血糖、胃部咕嚕咕嚕叫等等——而大型語(yǔ)言模型根本沒(méi)有這些生理狀態(tài)，就像它沒(méi)有嘴巴來(lái)吃東西和胃來(lái)消化食物一樣。認(rèn)為我們應(yīng)該相信它說(shuō)自己餓了的話(huà)，就像認(rèn)為我們應(yīng)該相信它說(shuō)它來(lái)自月球背面一樣。我們知道它沒(méi)有，大型語(yǔ)言模型的斷言并不能改變這個(gè)事實(shí)。

所有感覺(jué)——饑餓、疼痛、看到紅色、墜入愛(ài)河——都是生理狀態(tài)的結(jié)果，而大型語(yǔ)言模型根本沒(méi)有這些生理狀態(tài)。因此，我們知道大型語(yǔ)言模型不可能擁有這些狀態(tài)的主觀體驗(yàn)。換句話(huà)說(shuō)，它不可能有意識(shí)。

大型語(yǔ)言模型（LLM）是一個(gè)在硅芯片上編碼的數(shù)學(xué)模型。它不是像人類(lèi)一樣的有形的生物。它沒(méi)有像人類(lèi)一樣的“生命”，不需要吃喝，繁殖，體驗(yàn)情感，生病，最終死亡。

理解人類(lèi)生成詞語(yǔ)序列和 LLM 生成相同序列之間的本質(zhì)區(qū)別非常重要。當(dāng)我說(shuō)“我餓了”時(shí)，我是在報(bào)告我感知到的生理狀態(tài)。當(dāng)一個(gè) LLM 生成“我餓了”這個(gè)序列時(shí)，它只是在生成當(dāng)前提示中詞語(yǔ)序列最可能的完成方式。它所做的事情與它在不同的提示下生成“我不餓了”或“月亮是由綠奶酪做的”完全一樣。這些都不是它（不存在的）生理狀態(tài)的報(bào)告，只是概率上的完成方式。

我們還沒(méi)有實(shí)現(xiàn)有感知的 AI，更大的語(yǔ)言模型也不會(huì)讓我們實(shí)現(xiàn)。如果我們想在 AI 系統(tǒng)中再現(xiàn)這種現(xiàn)象，我們需要更好地理解感知如何在有形的生物系統(tǒng)中出現(xiàn)。我們不會(huì)在 ChatGPT 的下一代迭代中偶然發(fā)現(xiàn)感知。

本文轉(zhuǎn)載自 AI工程化，作者： ully