AI末日將近？

深度學(xué)習(xí)三巨頭之一、被稱為AI教父的Hinton教授在最新演講中指出，技術(shù)的發(fā)展速度遠(yuǎn)遠(yuǎn)超出了他的預(yù)期，如果再不加以監(jiān)管人類將會(huì)在10年內(nèi)滅絕：

不過(guò)，同為深度學(xué)習(xí)三巨頭之一的LeCun教授則表示：夸大了。

在最新采訪中，LeCun表示，自己還是非?？春萌斯ぶ悄艿奈磥?lái)的。

對(duì)人工智能末日的擔(dān)憂被夸大了。

我覺(jué)得，對(duì)于推動(dòng)社會(huì)進(jìn)步來(lái)說(shuō)，智能是我們社會(huì)目前最急需的、最寶貴的東西之一。能有效增強(qiáng)人類智能的機(jī)器所產(chǎn)生的影響，可能會(huì)和15世紀(jì)印刷術(shù)的發(fā)明一樣具有變革性。

與LeCun對(duì)談的主持人是加州大學(xué)圣地亞哥分校校長(zhǎng)杰出物理學(xué)教授Dr.Brian Keating，他還特地帶上了最新的Meta Ray-Ban智能眼鏡，表示非常欣賞這個(gè)產(chǎn)品。

雖然LeCun曾主張“LLM還沒(méi)有貓聰明”，但其實(shí)他在Meta的FAIR團(tuán)隊(duì)一直在努力建構(gòu)下一代被稱為“世界模型”的AI模型：

單純憑借預(yù)測(cè)下一個(gè)單詞很難抽象出事物的運(yùn)行規(guī)律，所以我們需要更高級(jí)的視覺(jué)預(yù)測(cè)，這也是JEPA架構(gòu)正在做的事情。

談到Meta的規(guī)劃，LeCun表示人類級(jí)別的人工智能是Meta不可避免的“產(chǎn)品需求”，他們正在開(kāi)發(fā)超級(jí)智能助手，未來(lái)這些助手會(huì)將人與人、人與知識(shí)和他們所需的幫助聯(lián)系起來(lái)。

有網(wǎng)友看完表示非常贊同，人類水平的AI可以重新定義當(dāng)下的技術(shù)與互動(dòng)：

下面是采訪的主要內(nèi)容，在不改變?cè)獾那疤嵯拢孔游粚?duì)部分內(nèi)容做了梳理，希望能帶給你更多啟發(fā)。

下一代模型需要類JEPA新架構(gòu)

一開(kāi)始，主持人就cue到了他那句經(jīng)典的“現(xiàn)在的LLM還沒(méi)有貓聰明”，楊立昆也再次重申了大型語(yǔ)言模型（LLM）的局限。

他認(rèn)為，這些大型語(yǔ)言模型主要就是靠著文本訓(xùn)練出來(lái)的，它們對(duì)現(xiàn)實(shí)世界的了解，全是通過(guò)人類帶有象征意味的、近似且離散的描述來(lái)獲得的，所以難以處理復(fù)雜現(xiàn)實(shí)世界中的事物。

雖然LLM可以輕松通過(guò)律師資格考試這種偏文本知識(shí)的事，但生活中普通10歲小孩或者小貓能輕松做到的事，比如規(guī)劃一下怎么夠到高處的東西、根據(jù)實(shí)際情況推理、還有對(duì)身邊那些直觀物理原理的把握，這些它們就無(wú)法實(shí)現(xiàn)了。

它們更像是知識(shí)的搬運(yùn)工，只能檢索已有知識(shí)，缺乏像愛(ài)因斯坦那樣能創(chuàng)造新物理定律的洞察力，也很難用于預(yù)測(cè)化學(xué)反應(yīng)、材料特性這類需要?jiǎng)?chuàng)新突破的科學(xué)發(fā)現(xiàn)事務(wù)中。

同時(shí)，楊立昆還著重介紹了自己鉆研多年的聯(lián)合嵌入預(yù)測(cè)架構(gòu)（JEPA）這一自監(jiān)督人工智能方法。

目前常見(jiàn)的自監(jiān)督學(xué)習(xí)方式在處理自然數(shù)據(jù)，比如視頻、圖像等方面存在不足，類似掩碼自編碼器之類的方法效果欠佳。

主要原因在于預(yù)測(cè)連續(xù)、高維的連續(xù)信號(hào)并表示其所有可能的概率分布非常復(fù)雜，所以常常導(dǎo)致預(yù)測(cè)結(jié)果僅是所有可能情況的平均值，容易出現(xiàn)畫面模糊不清等情況。

而JEPA則有著獨(dú)特的理念，涉及對(duì)信號(hào)進(jìn)行表征形成 “嵌入”，以及利用圖像及其變換后版本進(jìn)行 “聯(lián)合嵌入” 等操作。

什么是嵌入呢？就好比一幅圖像，我們不關(guān)心每個(gè)像素的精確值，而是用一個(gè)數(shù)字列表，也就是向量來(lái)代表圖像內(nèi)容，這就是嵌入，它不展現(xiàn)所有細(xì)節(jié)。

而聯(lián)合嵌入，就是拿一幅圖像和它稍微變換后的版本，比如換個(gè)視角的圖像，它們內(nèi)容其實(shí)一樣，那嵌入結(jié)果也該相同。

JEPA的訓(xùn)練過(guò)程就是給它同一事物的兩個(gè)不同版本圖像，讓它生成相同嵌入結(jié)果?！邦A(yù)測(cè)” 部分是這樣的，如果一個(gè)圖像版本是視頻里的一幀，被破壞的版本是前一幀，那就根據(jù)前一幀預(yù)測(cè)下一幀或接下來(lái)幾幀。

這樣就有兩個(gè)嵌入，一個(gè)對(duì)應(yīng)視頻未來(lái)部分，一個(gè)對(duì)應(yīng)過(guò)去部分，還有個(gè)預(yù)測(cè)器根據(jù)過(guò)去表征預(yù)測(cè)未來(lái)表征。

他表示，用這個(gè)架構(gòu)訓(xùn)練系統(tǒng)學(xué)習(xí)圖像表征效果很棒，最近連視頻表征也能學(xué)得不錯(cuò)了。

在介紹完新架構(gòu)之后，楊立昆也表達(dá)了自己對(duì)于機(jī)器學(xué)習(xí)和物理學(xué)之間的聯(lián)系的理解：

機(jī)器學(xué)習(xí)與科學(xué)，尤其是與物理學(xué)相聯(lián)系的本質(zhì)所在，就是系統(tǒng)在接受訓(xùn)練時(shí)，它會(huì)同時(shí)訓(xùn)練自己去找到輸入內(nèi)容的良好的抽象表征層級(jí)，盡可能多地保留輸入信息，但同時(shí)又要保證具有可預(yù)測(cè)性，這才是智能的根源所在 。

自監(jiān)督學(xué)習(xí)就像AI的暗物質(zhì)

在深度學(xué)習(xí)先驅(qū)的身份之外，楊立昆表示，自己也一直是一位務(wù)實(shí)的物理學(xué)家。

他曾在8年前的一次演講中提出“自監(jiān)督學(xué)習(xí)就像是人工智能領(lǐng)域的暗物質(zhì)”這個(gè)說(shuō)法，當(dāng)時(shí)他的同事凱爾·克蘭默（紐約大學(xué)高能物理學(xué)家）還指正說(shuō)，用暗能量類比更合適，畢竟宇宙大部分質(zhì)量是暗能量。

在物理學(xué)中，暗物質(zhì)的存在是公認(rèn)的，比如中微子是暗物質(zhì)的一種形式，可它的量又不足以解釋人類觀測(cè)到的缺失物質(zhì)總量。

楊立昆解釋道，人類學(xué)的大部分東西，都不是靠別人告訴答案或者試錯(cuò)學(xué)來(lái)的，而是通過(guò)自監(jiān)督學(xué)習(xí)（或者類似方式）去了解感官輸入信息的結(jié)構(gòu)、自己慢慢感悟出來(lái)的，而不是監(jiān)督學(xué)習(xí)或者強(qiáng)化學(xué)習(xí)。

監(jiān)督學(xué)習(xí)就是給系統(tǒng)明確的輸入和輸出，比如給它看大象圖片，告訴它這是大象，答錯(cuò)了就調(diào)整參數(shù)讓它答對(duì)。

強(qiáng)化學(xué)習(xí)是給系統(tǒng)看大象后，只告訴它答得對(duì)不對(duì)，或者給個(gè)類似分?jǐn)?shù)的評(píng)價(jià)，如果有無(wú)限個(gè)答案，它就得在里面慢慢找正確的，效率很低。

強(qiáng)化學(xué)習(xí)和監(jiān)督學(xué)習(xí)都解釋不了在人類和動(dòng)物身上看到的高效學(xué)習(xí)現(xiàn)象。像章魚(yú)、鳥(niǎo)類這些動(dòng)物，沒(méi)有過(guò)多的教育，卻懂得很多，這就是不太明確的無(wú)監(jiān)督學(xué)習(xí)，而且大型語(yǔ)言模型的成功也證明了自監(jiān)督學(xué)習(xí)能力很強(qiáng)。

他還表示，自己一直對(duì)物理學(xué)和計(jì)算之間的聯(lián)系很著迷，約翰·惠勒曾做了一個(gè)叫《萬(wàn)物源于比特》的演講，說(shuō)世界到底就是信息，得從信息處理角度闡釋物理內(nèi)容，他覺(jué)得這個(gè)想法很有趣。

談到AGI實(shí)現(xiàn)的時(shí)間，他表示：

要打造出一個(gè)至少在大多數(shù)人看來(lái)具備和人類同等智能水平的系統(tǒng)，前提是我們?cè)O(shè)想的所有計(jì)劃都能奏效，比如JEPA以及其他一些想法，即便如此，我覺(jué)得這在不到五六年的時(shí)間內(nèi)是實(shí)現(xiàn)不了的。而且人工智能發(fā)展的歷史表明，人們總是低估它的實(shí)現(xiàn)難度，五六年是最理想的情況。

同時(shí)， 他還強(qiáng)調(diào)人們對(duì)于AI末日的擔(dān)憂被夸大了：

我們可以設(shè)定相應(yīng)的“護(hù)欄”機(jī)制確保人工智能系統(tǒng)擁有安全的目標(biāo)，而且只會(huì)處理信息的LLM還不存在像人類和動(dòng)物一樣的社會(huì)性驅(qū)動(dòng)力，比如更多的領(lǐng)地、更大的權(quán)力等。

在探索科學(xué)的道路上犯錯(cuò)很常見(jiàn)

在訪談的最后，楊立昆還分享了他對(duì)AI發(fā)展歷程、自身職業(yè)經(jīng)歷以及未來(lái)的展望。

他表示，自己既是一名科學(xué)家，也是一位教育者，在工業(yè)界和學(xué)術(shù)界的時(shí)長(zhǎng)都差不多。

早年從貝爾實(shí)驗(yàn)室工作，后在日本電氣公司（NEC）研究院短暫任職，直至40歲出頭成為教授，隨后加入Meta，負(fù)責(zé)運(yùn)營(yíng)臉書(shū)人工智能研究院（FAIR）長(zhǎng)達(dá)4年，如今擔(dān)任 Meta 的首席人工智能科學(xué)家。

目前，他正在以獨(dú)立貢獻(xiàn)者的角色推動(dòng)人工智能技術(shù)的進(jìn)步，致力于探索實(shí)現(xiàn)人類水平智能的道路，這也是他畢生的科學(xué)追求。

在談及Meta公司的未來(lái)發(fā)展方向時(shí)，楊立昆指出，Meta公司在馬克·扎克伯格的引領(lǐng)下，有一個(gè)宏大的愿景，就是通過(guò)技術(shù)手段連接人們，不僅是人與人之間的連接，還包括人與知識(shí)的連接以及在日常生活中為人們提供幫助。

未來(lái)，每個(gè)人都將擁有超級(jí)智能助手，這種智能助手的廣泛應(yīng)用需要具備人類智能水平的人工智能技術(shù)作為支撐，Meta 也在朝著這個(gè)方向積極打造相關(guān)設(shè)備，并已在印度農(nóng)村地區(qū)開(kāi)展了智能眼鏡的試用。

當(dāng)?shù)剞r(nóng)民借助智能眼鏡解決了諸多農(nóng)業(yè)生產(chǎn)中的實(shí)際問(wèn)題，比如農(nóng)作物病蟲(chóng)害識(shí)別、天氣查詢以及收割時(shí)機(jī)判斷等，同時(shí)還能使用本地語(yǔ)言進(jìn)行操作。

談到人工智能對(duì)教育職業(yè)的影響時(shí)，他認(rèn)為，隨著人工智能技術(shù)的不斷發(fā)展，知識(shí)傳授這一傳統(tǒng)職業(yè)將面臨深刻變革，科研與學(xué)術(shù)研究領(lǐng)域可能需要探索新的經(jīng)濟(jì)模式，以適應(yīng)技術(shù)發(fā)展帶來(lái)的變化。

盡管如此，他還是強(qiáng)調(diào)：

博士培養(yǎng)過(guò)程中導(dǎo)師與學(xué)生之間的關(guān)系具有非常重要的意義，這種關(guān)系不僅僅是知識(shí)的傳遞，更包含行為規(guī)范、道德倫理等方面的交流與傳承，而在未來(lái)，每個(gè)人包括學(xué)生都將在人工智能系統(tǒng)的輔助下進(jìn)行學(xué)習(xí)與研究，這將成為一種新的趨勢(shì)。

值得一提的是，楊立昆還分享了自己在學(xué)術(shù)觀點(diǎn)上的轉(zhuǎn)變歷程：

在探索科學(xué)的道路上犯錯(cuò)是非常正常的。

在神經(jīng)網(wǎng)絡(luò)發(fā)展的早期，尤其是在1987至1988年跟隨Hinton做博士后期間，他對(duì)無(wú)監(jiān)督學(xué)習(xí)這一概念并不認(rèn)同，認(rèn)為其定義不夠清晰，缺乏實(shí)際意義。

然而，Hinton當(dāng)時(shí)專注于玻爾茲曼機(jī)的研究（后因此獲得諾貝爾獎(jiǎng)，盡管如今玻爾茲曼機(jī)已較少使用），并堅(jiān)信無(wú)監(jiān)督學(xué)習(xí)將是學(xué)習(xí)的主體部分。

隨著時(shí)間的推移和技術(shù)的發(fā)展，在進(jìn)入21世紀(jì)后，他才初逐漸認(rèn)識(shí)到無(wú)監(jiān)督學(xué)習(xí)的重要性，并從2010年開(kāi)始積極倡導(dǎo)這一理念。

更多采訪內(nèi)容請(qǐng)點(diǎn)擊下方鏈接查看。

參考鏈接：
[1]https://www.youtube.com/watch?v=u7e0YUcZYbE。