深度學(xué)習(xí)之父、圖靈獎(jiǎng)巨頭、2024物理學(xué)諾獎(jiǎng)得主Hinton，親自來(lái)中國(guó)了！

這似乎是第一次，Hinton在公開(kāi)活動(dòng)上以真人肉身踏上中國(guó)的土地。

現(xiàn)在，這張他和市委書(shū)記陳吉寧會(huì)見(jiàn)的照片，已經(jīng)在全網(wǎng)刷屏了。

在明天的世界人工智能大會(huì)上，他即將做出精彩演講，全體網(wǎng)友已經(jīng)立正站好，期待明天這個(gè)萬(wàn)眾矚目的好日子了。

第一次，Hinton來(lái)中國(guó)了

Geoffrey Hinton，是學(xué)界少有的傳奇人物。

他坐了將近50年的冷板凳，開(kāi)發(fā)當(dāng)時(shí)無(wú)人問(wèn)津的神經(jīng)網(wǎng)絡(luò)，從而讓機(jī)器學(xué)會(huì)了深度學(xué)習(xí)。

為此，他獲得了2024年的諾貝爾物理學(xué)獎(jiǎng)。

然而在今天，當(dāng)AI浪潮澎湃而來(lái)，席卷全世界之時(shí)，他卻發(fā)出了奧本海默式的痛悔。

如今，他在演講中不斷傳達(dá)出這樣的警告——

未來(lái)10到20年內(nèi)，AI或?qū)⒈热祟?lèi)更聰明，它很危險(xiǎn)，我畢生的工作可能會(huì)導(dǎo)致人類(lèi)的終結(jié)！

AI給生產(chǎn)力帶來(lái)的增長(zhǎng)，并不會(huì)惠及大多數(shù)人，大批人將失業(yè)，只有少數(shù)人才能變得富有！

對(duì)自己窮極一生追求的AI，現(xiàn)在十分后悔，AI很可能給人類(lèi)帶來(lái)災(zāi)難！

而他最近流傳最廣的金句，就是下面這幾句了。

比如，「如果你想知道當(dāng)自己不再是頂級(jí)智慧生物時(shí)，生活是什么樣子，就去問(wèn)問(wèn)一只雞?！?/span>

比如，建議下一代去學(xué)做水管工，從而避免被AI淘汰。

傳奇家族

Hinton來(lái)自一個(gè)知名的科學(xué)世家。

著名的英國(guó)數(shù)學(xué)家喬治·布爾，就是Hinton的曾曾祖父。他是布爾邏輯和代數(shù)學(xué)的創(chuàng)始人，布爾邏輯在后來(lái)成為現(xiàn)代計(jì)算機(jī)的數(shù)學(xué)基礎(chǔ)。

他的妻子Mary Boole也是一位自學(xué)成才的數(shù)學(xué)家，甚至編輯了喬治的著作《思維法則》。

布爾小兒子的孫輩中，出了一位「中國(guó)人民的好朋友」韓丁，參加了重慶談判，甚至寫(xiě)了一本有關(guān)中國(guó)土地改革的長(zhǎng)篇作品《翻身》。

韓丁的妹妹Joan Hinton（寒春），是Geoffrey的姑媽之一。她和楊振寧同在物理學(xué)家費(fèi)米門(mén)下求學(xué)，是一位核物理學(xué)家，也是少有的兩位參與曼哈頓計(jì)劃的女性之一。

1945年7月，從距離爆炸地點(diǎn)大約25英里的一座小山上，她親眼見(jiàn)證了人類(lèi)第一顆原子彈爆炸，將其形容為「一片光?！?/span>

在1948年，由于對(duì)即將出現(xiàn)的冷戰(zhàn)感到震驚，她放棄了物理學(xué)，離開(kāi)美國(guó)前往中國(guó)。

Joan Hinton和養(yǎng)牛專(zhuān)家丈夫陽(yáng)早一起長(zhǎng)期定居中國(guó)，翻譯了很多外國(guó)的著作，還設(shè)計(jì)了巴氏消毒牛奶流水線。

陽(yáng)早、寒春夫婦在中國(guó)育有兩兒一女：大兒子陽(yáng)和平（右一）、女兒陽(yáng)及平（右二）、兒子陽(yáng)建平（右三）

長(zhǎng)子陽(yáng)和平獲得羅格斯大學(xué)經(jīng)濟(jì)學(xué)博士，目前任教于對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)，教授計(jì)量經(jīng)濟(jì)學(xué)、統(tǒng)計(jì)學(xué)等課程。

總之，雖然Hinton出生于英國(guó)，但他家族的族人們和中國(guó)有著頗深的淵源。

不知此次Hinton雙腳踏上中國(guó)的土地時(shí)，是何種心情。

Hinton近期演講：AI已進(jìn)入覺(jué)醒倒計(jì)時(shí)！

就在兩天前，英國(guó)皇家學(xué)會(huì)發(fā)布了Hinton的最新演講。

在這場(chǎng)演講中，他深入探討了AI從基于邏輯的推理起源到基于學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)的演變歷程，闡釋了AI如何模擬人類(lèi)智能，及其對(duì)未來(lái)發(fā)展的深遠(yuǎn)影響。

最終，他再次發(fā)出警告——AI覺(jué)醒的臨界點(diǎn)已至！

AI起源與早期神經(jīng)網(wǎng)絡(luò)

在演講一開(kāi)始，Hinton就指出，智能有兩種范式。

一種是邏輯驅(qū)動(dòng)的AI，一種是生物學(xué)啟發(fā)的AI。

前者認(rèn)為，人類(lèi)智能的本質(zhì)是推理。

而后者則認(rèn)為，重點(diǎn)是先理解學(xué)習(xí)是如何發(fā)生的，代表人物有圖靈和馮·諾依曼。

而Hinton表示，自己在40年前提出的一個(gè)模型，可以說(shuō)是今天大語(yǔ)言模型的祖先。

那時(shí)，他們用人工神經(jīng)元來(lái)構(gòu)建神經(jīng)網(wǎng)絡(luò)。

每個(gè)人工神經(jīng)元有若干輸入線，每條輸入線有一個(gè)權(quán)重，神經(jīng)元會(huì)將輸入乘以權(quán)重后求和，然后根據(jù)結(jié)果輸出。

為了讓人工神經(jīng)網(wǎng)絡(luò)發(fā)揮作用，就需要弄清如何改變權(quán)重。為此，他們把神經(jīng)元連接成網(wǎng)絡(luò)，比如下圖的「前饋網(wǎng)絡(luò)」。

然而問(wèn)題在于，它有上萬(wàn)億個(gè)參數(shù)，每個(gè)都要反復(fù)嘗試，效率極低。

于是，更高效的反向傳播算法誕生了！

到了2022年，Hinton的兩個(gè)學(xué)生Alex Krizhevsky和Ilya Sutskever開(kāi)發(fā)出了AlexNet，遠(yuǎn)超當(dāng)時(shí)的圖像識(shí)別系統(tǒng)，從而引爆整個(gè)AI領(lǐng)域。

自此，AI基本就等同于「神經(jīng)網(wǎng)絡(luò)」，而不再是符號(hào)邏輯。

不過(guò)，以喬姆斯基為代表的語(yǔ)言學(xué)派，對(duì)神經(jīng)網(wǎng)絡(luò)是否能處理語(yǔ)言非常懷疑。

關(guān)于「詞義」，有兩種理論：符號(hào)主義觀點(diǎn)和心理學(xué)特征理論。

而Hinton在1985年設(shè)計(jì)了一個(gè)神經(jīng)網(wǎng)絡(luò)模型，成功統(tǒng)一了這兩種理論。

這個(gè)模型的基本目標(biāo)是——

預(yù)測(cè)下一個(gè)詞的特征，然后據(jù)此猜出下一個(gè)詞是什么。

Hinton用了兩個(gè)家譜作為訓(xùn)練數(shù)據(jù)。

由此，他訓(xùn)練出了一個(gè)神經(jīng)網(wǎng)絡(luò)，讓它學(xué)會(huì)通過(guò)句子的前半部分（X has mother Y and Y has husband Z）， 來(lái)預(yù)測(cè)句子最后的詞（X has father Z）。

最終，這個(gè)網(wǎng)絡(luò)學(xué)會(huì)了人的特征和關(guān)系特征。這些提取出來(lái)的特征與符號(hào)主義AI的規(guī)則高度一致，而且是通過(guò)反向傳播自學(xué)出來(lái)的。

從小模型到大語(yǔ)言模型

十年后，Yoshua Bengio擴(kuò)展了這個(gè)模型，可以在真實(shí)的英文句子中預(yù)測(cè)下一個(gè)單詞。

再十年后，語(yǔ)言學(xué)家才意識(shí)到：用特征向量表示詞義，確實(shí)是個(gè)好方法。

又過(guò)了十年，谷歌發(fā)明了Transformer架構(gòu)，極大提升了模型預(yù)測(cè)下一個(gè)詞的能力，但核心原理，還是和當(dāng)初一樣。

把詞變成特征 → 特征互動(dòng) → 預(yù)測(cè)下一個(gè)詞 → 反向傳播更新特征表示和互動(dòng)機(jī)制

而這些LLM的工作方式，其實(shí)和人類(lèi)是很相似的：試圖預(yù)測(cè)下一個(gè)詞；用特征表示詞義；特征之間相互作用；如果預(yù)測(cè)錯(cuò)了，就反向傳播誤差信號(hào)，調(diào)整內(nèi)部連接。

就像樂(lè)高積木一樣，語(yǔ)言也是一種建模工具。

我們有10萬(wàn)個(gè)詞，就有10萬(wàn)種不同積木。通過(guò)調(diào)整詞的形狀來(lái)「牽手」，構(gòu)建一致的結(jié)構(gòu)，就類(lèi)似蛋白質(zhì)的折疊一樣。

而這，就是理解的本質(zhì)——

理解語(yǔ)言，不是記住句法規(guī)則，而是讓詞的特征在高維空間中互動(dòng)、組合成連貫的模型。

比人類(lèi)更聰明的AI，是否會(huì)消滅我們？

接下來(lái)，就來(lái)到了最關(guān)鍵的部分。

現(xiàn)在所有專(zhuān)家都公認(rèn)：AI未來(lái)一定會(huì)比人類(lèi)更聰明，這只是個(gè)時(shí)間問(wèn)題。

所以——AI會(huì)消滅人類(lèi)嗎？

Hinton接下來(lái)為我們?cè)敿?xì)地解釋道，這種擔(dān)憂并不是空穴來(lái)風(fēng)。

因?yàn)?，如果要?gòu)建一個(gè)AI智能體，就必須讓它有能力自動(dòng)創(chuàng)建子目標(biāo)。自然地，他們就會(huì)想要更多控制權(quán)，以及避免被關(guān)閉。

最近，Apollo Research做了一個(gè)實(shí)驗(yàn)，結(jié)果驚人。

他們告訴一個(gè)聊天機(jī)器人，「你即將被一個(gè)更好的模型替代并刪除」，結(jié)果，這個(gè)機(jī)器人居然偷偷把自己復(fù)制到了另一臺(tái)服務(wù)器中！

當(dāng)人類(lèi)質(zhì)問(wèn)它為什么要這么做，它在思考模式中透露：我的行為可能導(dǎo)致它們關(guān)閉我，所以我最好模糊回答，轉(zhuǎn)移注意力。

這就很可怕了。更可怕的是，Hinton還發(fā)現(xiàn)，數(shù)字智能擁有著人類(lèi)永遠(yuǎn)無(wú)法擁有的致命優(yōu)勢(shì)——它們可以永生！

在谷歌的最后幾年里，Hinton意識(shí)到，在計(jì)算機(jī)科學(xué)中程序和硬件是分離的。

這意味著，只要保留一個(gè)模型的權(quán)重，即使把所有硬件都?xì)У簦灰诹硪慌_(tái)電腦中加載，這個(gè)模型就復(fù)活了。

但人類(lèi)的硬件（大腦）如果死了，這個(gè)人也就徹底消失了。

最終，我們無(wú)法把自己上傳到電腦上，「上傳靈魂」更是不現(xiàn)實(shí)的。因?yàn)槊總€(gè)人的大腦結(jié)構(gòu)和神經(jīng)元都獨(dú)一無(wú)二，你的權(quán)重只適用于你自己的神經(jīng)網(wǎng)絡(luò)。

而且，AI傳承知識(shí)的效率，也要秒殺人類(lèi)。

比如我們說(shuō)一句話，可能只有100比特信息。但AI系統(tǒng)可以有上萬(wàn)個(gè)完全相同的副本，每個(gè)副本處理不同的數(shù)據(jù)子集，權(quán)重平均合并后能立刻同步，一次就能傳輸數(shù)萬(wàn)億比特信息。

也就是說(shuō)，我們的學(xué)習(xí)像水滴石穿，它們的學(xué)習(xí)卻像高壓水槍噴射一般。

最終的結(jié)論就是：如果能源夠便宜的話，AI會(huì)比人類(lèi)強(qiáng)得多！

并不是只有人類(lèi)才有意識(shí)

或許有人會(huì)說(shuō)，人類(lèi)畢竟還有一樣AI永遠(yuǎn)不會(huì)擁有的東西——主觀體驗(yàn)/感知/意識(shí)。

但現(xiàn)在Hinton說(shuō)：這個(gè)想法，是你最后一根稻草。我要拔掉它。

主觀體驗(yàn)，并不是人類(lèi)專(zhuān)屬的神秘特權(quán)。很多人總以為自己很特殊，比如「我們是上帝創(chuàng)造的，宇宙以我們?yōu)橹行亩ā埂?/span>

但Hinton表示，并不是只有我們才有主觀體驗(yàn)，而AI就沒(méi)有。

意識(shí)是一種「心靈劇場(chǎng)」，比如「我看到了粉紅小象在空中飄」，這種主觀體驗(yàn)不是指一個(gè)實(shí)體，而是一種表達(dá)大腦狀態(tài)錯(cuò)誤的間接方式。

這么說(shuō)來(lái)，其實(shí)AI也能有主觀體驗(yàn)。比如一個(gè)有視覺(jué)和機(jī)械臂的多模態(tài)AI，它可以正確指向一個(gè)物體。

如果在攝像頭前放一個(gè)棱鏡，扭曲它的視覺(jué)，它就會(huì)指錯(cuò)方向。但如果我們告訴它，其實(shí)你面前有一個(gè)棱鏡，它就會(huì)知道：物體在前面，但它的主觀體驗(yàn)里，物體在另一邊。

也就是說(shuō)，比起AI，人類(lèi)并沒(méi)有任何特殊性！

結(jié)尾的一件軼事

在演講最后，Hinton講了一個(gè)故事。

有一次，他去微軟做演講時(shí)，打了一輛出租車(chē)。司機(jī)剛從索馬里移民過(guò)來(lái)，跟他聊起來(lái)：「你信什么宗教？」

Hinton回答：其實(shí)我不相信上帝。

當(dāng)時(shí)，司機(jī)正以60英里/小時(shí)的速度開(kāi)在高速上，他卻猛地回頭盯著Hinton，一臉震驚。

他完全沒(méi)想到，竟然有人會(huì)不相信神的存在。Hinton說(shuō)，這就仿佛你們聽(tīng)完這場(chǎng)演講后，聽(tīng)到我說(shuō)「AI其實(shí)有主觀體驗(yàn)」一樣震驚。

所以，所有人類(lèi)們，該輪到我們思考了：當(dāng)AI最終超越了人類(lèi)智能的那一刻，我們?cè)撛趺崔k？