最近，LeCun接受了ZDNet的采訪，表示當(dāng)今的大多數(shù)人工智能方法永遠(yuǎn)不會帶來真正的人工智能。

而采訪中最為精彩的部分，當(dāng)然還是和老對手們的隔空炮火。

LeCun語不驚人死不休，犀利表示：Schmidhuber就是個插旗的，而Marcus根本不是搞AI的，他只是個心理學(xué)家。

LeCun懟老對手，語出驚人

在6月，Meta的首席人工智能科學(xué)家Yann LeCun曾經(jīng)發(fā)表了一篇60頁長文，描述了他認(rèn)為有望在機(jī)器中實(shí)現(xiàn)人類智能水平的方法。

論文地址：https://openreview.net/pdf?id=BZ5a1r-kVsf

他在論文中暗示道：今天的大多數(shù)人工智能大項(xiàng)目將永遠(yuǎn)無法達(dá)到人類的水平。

而最近，LeCun在接收ZDNet采訪時表示：即使是目前深度學(xué)習(xí)領(lǐng)域最成功的研究途徑，他也抱有極大的懷疑。

「我認(rèn)為它們是必要的，但還不夠?！顾f。

其中就包括大型語言模型，比如如基于Transformer的GPT-3及其同類。正如LeCun所描述的那樣，Transformer的信徒們相信：「只要我們把一切都標(biāo)記化，然后訓(xùn)練巨大的模型來進(jìn)行離散的預(yù)測，人工智能就會以某種方式從這里出現(xiàn)。」

「他們沒有錯，」他說，「從某種意義上說，這可能是未來智能系統(tǒng)的一個組成部分，但我認(rèn)為它缺少必要的部分?！?/span>

對于在完美使用卷積神經(jīng)網(wǎng)絡(luò)的學(xué)者來說，這種批評真是夠驚人的。

在人工智能的許多非常成功的領(lǐng)域中，LeCun看到了缺陷和局限。他對于強(qiáng)化學(xué)習(xí)領(lǐng)域，他也持同樣的觀點(diǎn)：跟這些領(lǐng)域一樣，強(qiáng)化學(xué)習(xí)也永遠(yuǎn)不夠完美。

雖然DeepMind的David Silver等研究人員已經(jīng)開發(fā)出了掌握國際象棋、將棋和圍棋的AlphaZero程序，但LeCun說：「我們的大部分學(xué)習(xí)過程，不是通過實(shí)際行動來完成，而是通過觀察來完成的?！?/span>

Lecun已經(jīng)62歲了，在這個領(lǐng)域浸淫了幾十年后，他認(rèn)為自己有必要對許多人做出提醒：你們急匆匆走上的，是一條盲道。

「有很多人在討論，我們應(yīng)該做什么來實(shí)現(xiàn)人類水平的人工智能。很多人的說法是錯誤的。」

「我們的智能機(jī)器還沒有達(dá)到像貓一樣具有常識的地步，」他說?！肝覀?yōu)槭裁床粡倪@里開始呢？」

他已經(jīng)放棄了在預(yù)測視頻中的下一幀上使用生成網(wǎng)絡(luò)的信念?！高@是一次徹底的失敗?！?/span>

在他眼里，那些「宗教概率論者」應(yīng)該被譴責(zé)——在這些人看來， 概率論是可以用來解釋機(jī)器學(xué)習(xí)的唯一框架。

在LeCun看來，純粹的統(tǒng)計方法是不可能的?！敢屢粋€世界模型完全服從概率論，這要求也太高了；我們不知道該如何做到?！?/span>

LeCun認(rèn)為，不僅是學(xué)術(shù)界，工業(yè)上的人工智能也需要重新思考。在他看來，自動駕駛汽車公司，比如Wayve，一直「過于樂觀」，因?yàn)樗麄冋J(rèn)為只要把數(shù)據(jù)扔到大型神經(jīng)網(wǎng)絡(luò)里，就可以學(xué)到任何東西。

「我們完全有可能擁有沒有ADAS（高級駕駛輔助系統(tǒng)）的五級自動駕駛汽車，但不得不對它進(jìn)行工程設(shè)計?！?/span>

他認(rèn)為，這種過度設(shè)計的自動駕駛技術(shù)，會和所有因深度學(xué)習(xí)而過時的計算機(jī)視覺程序一樣，非常脆弱，非常易碎。

「最終，會有一個更令人滿意、更好的解決方案，這個系統(tǒng)能更好地理解世界的運(yùn)轉(zhuǎn)方式?！?/span>

LeCun還提出了重要的一點(diǎn)：所有AI都面臨著同樣的基本問題，特別是如何測量信息。

「你必須退一步說，好吧，我們建了這個梯子，但我們的目的是去月球，這個梯子不可能把我們送上月球?！筁eCun說他希望促使人們重新思考基本概念?！肝业囊馑际?，我們需要建造火箭，我不能告訴你建造火箭的細(xì)節(jié)，但這是基本原則?！?/span>

好了好了，采訪中最喜聞樂見的嘴炮part來了。

首先，被LeCun炮轟的對象是Dalle Molle人工智能研究所主任Jürgen Schmidhuber。Schmidhuber曾怒懟LeCun剽竊了自己的學(xué)術(shù)成果。

Le Cun表示，Schmidhuber在社交網(wǎng)絡(luò)上發(fā)表的觀點(diǎn)，根本不是事實(shí)。他只是在插旗：有了一個想法建議你怎么做，然后寫下來，沒有任何實(shí)驗(yàn)，沒有任何理論。

像他這樣跟玩兒似的做法，和真正的做理論（說明它為什么有用，然后付諸實(shí)踐），這其中有很大的區(qū)別。這之中有一個完整的鏈條。

而在Schmidhuber看來，誰第一個有這個想法，誰就占頭功，這很荒謬。

他說我應(yīng)該引用的論文中，并不包含我論文中的任何主要觀點(diǎn)。他在GANs和其他事情上也是這么做的，結(jié)果根本不像他說的那樣。插旗很容易，要做出貢獻(xiàn)可就難多了。

順便說一下，對于這篇論文，我明確表示了這不是一篇通常意義上的科學(xué)論文，它更像是一份關(guān)于走向何處的立場文件。我并不要求我在論文中寫的大部分內(nèi)容有任何優(yōu)先權(quán)。?

而LeCun的老對頭，紐約大學(xué)教授Gary Marcus自然也逃不過他的炮火。

在談到通過在神經(jīng)網(wǎng)絡(luò)上添加符號推理來推動人類水平的人工智能時，LeCun表示自己不知道如何做到這一點(diǎn)。

他表示，自己在論文中介紹了一種方法，可以在沒有明確符號操作的情況下就能做到這一點(diǎn)。這就是Gary Marcus的做法。

接著，LeCun爆出神評論——

「Gary Marcus不是一個搞AI的，他是一個心理學(xué)家。他從未對人工智能做出任何貢獻(xiàn)。他在實(shí)驗(yàn)心理學(xué)方面有不錯的成果，但他從來沒有寫過一篇關(guān)于人工智能的同行評審論文。沒錯，有些人就是這樣?！?/span>

Marcus大翻老黃歷：LeCun說的那些，我早就說過了

ZDNet的專訪頭一天發(fā)出，Gary Marcus的回懟文章第二天就來了！

Marcus發(fā)文表示：

62歲的知名深度學(xué)習(xí)先驅(qū)Yann LeCun，紐約大學(xué)教授，圖靈獎得主，Meta公司的首席人工智能科學(xué)家，近年來對深度學(xué)習(xí)的新想法是一個接一個。

就在六月初，LeCun發(fā)表了一篇被廣泛討論的「宣言」，以及一篇對我的工作的評論。但是他所說的有多少是真正的新東西呢？

昨天那篇ZDNet對LeCun的采訪，我看了之后很震驚，因?yàn)長eCun所說的幾乎所有內(nèi)容，我之前都說過，有些幾乎是一字不差，其中大部分是在2018年一篇名為《Deep Learing：A Critical Appraisal》的論文中，LeCun當(dāng)時說我講的「大部分是錯誤的」。

論文鏈接：

??https://arxiv.org/ftp/arxiv/papers/1801/1801.00631.pdf

那么他2022年講了什么？我之前在2018年甚至之前又講過什么？

我只舉幾個例子。

LeCun：今天的人工智能方法永遠(yuǎn)不會導(dǎo)致真正的智能

馬庫斯：如果我們要實(shí)現(xiàn)通用人工智能，深度學(xué)習(xí)必須得到其他技術(shù)的補(bǔ)充。

LeCun：目前的深度學(xué)習(xí)模型可能是未來智能系統(tǒng)的一個組成部分，但我認(rèn)為它缺少必要的部分。我認(rèn)為它們是必要的，但還不夠。"

馬庫斯：盡管我勾勒了所有的問題，但我不認(rèn)為我們需要放棄深度學(xué)習(xí)。相反，我們需要重新認(rèn)識它：不是作為一種通用的工具，而只是作為眾多工具中的一種。"

LeCun：強(qiáng)化學(xué)習(xí)也永遠(yuǎn)無法滿足智能需求。

馬庫斯：將深度強(qiáng)化學(xué)習(xí)與誘導(dǎo)概念聯(lián)系在一起是一種誤導(dǎo)。

LeCun：我認(rèn)為AI系統(tǒng)需要能夠推理；

Marcus：那些與分類關(guān)系不大、與常識性推理關(guān)系較大的問題，基本上不在深度學(xué)習(xí)的范圍內(nèi)，而且就我所知，深度學(xué)習(xí)對這類問題沒有什么幫助。

LeCun（2022）：你必須退一步說，好吧，我們建了這個梯子，但我們想去月球，這個梯子不可能把我們帶到月球。

馬庫斯（2012）：套用一個古老的寓言，Hinton通過深度學(xué)習(xí)造了個更好的梯子；但一個更好的梯子不一定能讓你上月球。

從來沒有人比LeCun更仔細(xì)地重述我講過的論點(diǎn)，而不注明出處。

讓一個這么厲害的人，幾次三番地講出我之前早就說過的觀點(diǎn)，這算不算我又一次贏麻了？

如果說上面這段屬于是為自己爭取Credit的話，Marcus博客后半部分的內(nèi)容看起來就完全是針對LeCun本人了。

比如Marcus說，LeCun不想讓人發(fā)現(xiàn)說過我曾經(jīng)說過的觀點(diǎn)，也不對這些觀點(diǎn)分享任何credit，這是違反學(xué)術(shù)禮儀的。

另外，為了孤立我，他在采訪中對我進(jìn)行了無端的、完全不實(shí)的抨擊，聲稱「Gary Marcus不是AI研究人員，他是一個心理學(xué)家，從未對AI做出任何貢獻(xiàn)。他在實(shí)驗(yàn)心理學(xué)方面做了非常好的工作，但他從來沒有寫過一篇關(guān)于AI的同行評議的論文」。

這完全是錯誤的。實(shí)際上，我在AI領(lǐng)域發(fā)表了大量的文章，有些是在同行評議的期刊上，有些不是。我最重要的人工智能論文，對神經(jīng)網(wǎng)絡(luò)做了實(shí)驗(yàn)性工作，在1998年就預(yù)見到了分布轉(zhuǎn)移和異常值的挑戰(zhàn)，這些問題到現(xiàn)在還在困擾著Bengio等人。

也許我最有影響力的AI工作恰好不是一篇期刊文章，而是2001年由MIT出版的《代數(shù)思維》一書。LeCun在ZDNet的訪談中的幾乎每一個觀點(diǎn)，在這本書里都有提及。

LeCun真正的意思是，他沒讀過這本書，讀都沒讀過，就認(rèn)為沒有影響的想法是可笑的。

LeCun的說法過于離譜，以至于不少人在訪談發(fā)出后，都來為我說話；ZDNet也立即發(fā)布了更正說明。

Vmind.AI的首席執(zhí)行官M(fèi)iguel Solano發(fā)推表示對我表示支持。

Henning Schwabe 更是直接講LeCun的訪談過于自大，而自大正是理性的敵人:

為了建立自己的學(xué)術(shù)地位，人們有時會對credit做出不負(fù)責(zé)、不道德的行為。哈羅德·布魯姆曾經(jīng)寫過一本書，他稱之為《影響的焦慮》。直到今年，我還沒有在像LeCun這樣榮譽(yù)等身的人身上看到這樣的傾向。但從今年開始，我從他身上看到了一次又一次。

LeCun最近的每篇論文和文章都以自己的方式表現(xiàn)出對過去的否定。

關(guān)于符號操作的問題。LeCun花了不少時間來抨擊符號操作，他的合作者之一Hinton更是如此，他們在2015年聯(lián)合撰寫的一篇深度學(xué)習(xí)評論中說， 「需要新的范式來取代基于規(guī)則的符號表達(dá)的操作」。

如今，LeCun卻在認(rèn)可符號操作了，并表現(xiàn)得好像之前的抨擊不存在一樣。

甚至斯坦福大學(xué)人工智能教授克里斯托弗·曼寧都感到震驚。

LeCun最近的另一篇文章涉及到一個重要的問題，大型語言模型是否真的在通往AGI的正確道路上，模型是否真的可以僅從語言中學(xué)習(xí)到足夠的知識。

LeCun和他的合作者Browning提出了一個強(qiáng)有力的理由，即僅有語言輸入（即GPT-3的訓(xùn)練對象）是不夠的.

他們寫了一篇名為《AI And The Limits Of Language》的文章，認(rèn)為 「僅靠語言訓(xùn)練的系統(tǒng)永遠(yuǎn)不會接近人類的智慧，即使從現(xiàn)在開始訓(xùn)練到宇宙的盡頭也不行?！?/span>

但這個觀點(diǎn)又是我在2020年2月在一篇名為《人工智能的下一個十年》的arXiv預(yù)印本文章中就提出來的。

「等待認(rèn)知模型和推理從越來越大的訓(xùn)練語料庫中神奇地出現(xiàn)，就像是在等待一個奇跡......」

這幾乎就是LeCun和Browning的結(jié)論。

我之前早就說過，大型語言模型的問題在于缺乏認(rèn)知模型，光靠喂語料訓(xùn)練是達(dá)不到智能模型的。

然后LeCun說我現(xiàn)在才說這些已經(jīng)為時已晚:

我先提出的觀點(diǎn)，他現(xiàn)在發(fā)現(xiàn)我說的對，就宣稱這個觀點(diǎn)是他先提的，我還能說什么呢？

而且現(xiàn)在看來，遠(yuǎn)不只是我一個人對LeCun的大包大攬有意見。

早先，LeCun那個「宣言」文剛發(fā)出來時，就有德國計算神經(jīng)學(xué)家、AI研究人員Patrick Krauss 發(fā)推「恭喜」，看起來我們離AGI只差兩個東西，一是常識、二是LeCun的世界模型。

我很難看出LeCun最近的一連串行動中到底有什么新東西，所以我昨天在Twitter上要求他解釋。

到目前為止，他還沒有回應(yīng)。