「通用人工智能」現(xiàn)在幾乎已經(jīng)成了2020年代的「水變油」科技，差不多每半個月都會有人宣布發(fā)現(xiàn)/確信某個大模型的表現(xiàn)是已經(jīng)覺醒了人性、AI「活過來」了。 最近此類消息鬧得最兇的是谷歌。廣為人知的是前研究員Blake Lemoine說大語言模型LaMDA「活了」，這位老哥不出所料地進入了被離職流程。 

其實幾乎與之同時的，還有《大西洋月刊》的谷歌準軟文在說，另一個新款大語言模型PaLM也成了「真正的通用人工智能」（It is a true artificial general intelligence）。 

《大西洋月刊》強行宣布PaLM成AGI

只不過這篇文章幾乎沒人讀，因此引發(fā)的討論和抨擊只有寥寥而已。

 然而，世界級大刊吹捧世界級大廠的稿件，即使再沒人讀，也像老電影臺詞說的一樣，「就好像黑夜里的螢火蟲一樣，那么鮮明，那么出眾……」 2022年6月19日，《大西洋月刊》發(fā)布題為《人工意識好無聊》（Artificial Consciousness Is Boring）的文章。 

而《大西洋月刊》此文的網(wǎng)頁標題比欲蓋彌彰的文章標題直白：《谷歌的PaLM AI比真實意識要奇怪得多》（Google's PaLM AI Is Far Stranger Than Conscious）。 

內(nèi)文不出意料，是作者采訪谷歌大腦的PaLM項目組成員之后的種種溢美之詞： 5400億參數(shù)，能不預先訓練就完成數(shù)百種不同的任務。能說笑話，能總結(jié)概述文本。 如果用戶輸入孟加拉語問題，PaLM模型可以用孟加拉語和英語答復。 

如果用戶要求把一段代碼從C語言譯為Python，PaLM模型也能快速完成。 但此文逐漸從疑似軟文的夸夸訪談稿，走向了一個吹吹翻車稿：宣布PaLM模型是「真正的通用人工智能」（It is a true artificial general intelligence）。 

「PaLM的功能嚇到了開發(fā)者們，需要智識上的酷炫和距離、才能不被嚇到且接受—PaLM具有理性?！梗╰he function that has startled its own developers, and which requires a certain distance and intellectual coolness not to freak out over. PaLM can reason.） 

 這是谷歌本月第二次有大模型被強行宣布是AGI了。 這個宣稱的依據(jù)何在呢？按此文作者說，是因為PaLM模型可以在沒有預先特定訓練的前提下，自行「跳出定式」來解決不同的智能任務。 而且PaLM模型擁有「思維鏈提示」功能，用白話說是將問題求解過程給PaLM模型拆解、解釋、演示一遍后，PaLM就能自行得出正確答案啦。 

Jeff Dean本人從未說過PaLM是AGI

噱頭和證據(jù)之間的差距，有極大的「褲脫看這」感覺：原來《大西洋月刊》的作者，也有不查料就開始采訪人寫稿的習慣啊。

 之所以這么說，是因為Jeff Dean老師帶隊推出PaLM模型時，介紹過「思維鏈提示」功能。但谷歌大腦可絕不敢自吹這個產(chǎn)品是個已經(jīng)活過來的「終結(jié)者」。 2021年10月，Jeff Dean親自撰文介紹了一個全新的機器學習架構(gòu)——Pathways。 目的很簡單，就是讓一個AI能夠跨越數(shù)以萬計的的任務，理解不同類型的數(shù)據(jù)，并同時以極高的效率實現(xiàn)：

在大半年之后的2022年3月，Jeff Dean終于發(fā)布了Pathways的論文。 論文地址：https://arxiv.org/abs/2203.12533 其中，補充了不少技術(shù)上的細節(jié)，比如最基本的系統(tǒng)架構(gòu)等等。

2022年4月，谷歌用Pathways系統(tǒng)構(gòu)造的PaLM語言模型面試世，這個擁有5400億參數(shù)的Transformer語言模型，接連打破多項自然語言處理任務的SOTA。 除了用到強大的Pathways系統(tǒng)外，論文中介紹PaLM的訓練用到了6144個TPU v4，使用了7800億token的高質(zhì)量數(shù)據(jù)集，并且其中有22%的非英文、多語種語料。 

論文地址：https://arxiv.org/abs/2204.02311 「自監(jiān)督學習」、「思維鏈提示」在此前就是AI業(yè)界不陌生的概念，PaLM模型只是更進一步將概念落地具現(xiàn)化。 而雪上加霜的是，《大西洋月刊》此文直說了「谷歌研究者們也不清楚PaLM模型為何能達到此功能」………… 這是嫌Jeff Dean老師太閑、給他找事做啊。

批評者：《大西洋月刊》說法不靠譜

果然，美國加州圣菲研究所的成員Melanie Mitchell教授在自己的社交網(wǎng)站賬號上發(fā)連續(xù)貼，含蓄但堅定地質(zhì)疑了《大西洋月刊》此文。 

Melanie Mitchell表示：「這文章很有趣，不過我認為作者可能沒有采訪谷歌研究者以外的AI界專業(yè)人士。 

 比如其中種種聲稱PaLM模型『真正AGI』的證據(jù)。我本人是沒有使用PaLM的權(quán)限啊，不過谷歌4月自己發(fā)布論文中只是在幾個基準測試上有效果顯著的小樣本學習測試，但并非PaLM的所有小樣本學習測試結(jié)果都同樣穩(wěn)健。 

并且其中測試中使用的基準，有多少使用『捷徑學習』這一簡化難度的技術(shù)，論文中也未提到。 按照《大西洋月刊》文章的措辭，PaLM至少可以高可靠度、高通用度、一般精度來完成各種任務。 

然而不論是此文還是谷歌4月論文，都沒有詳細描述PaLM模型在通用智能方面的能力與局限，也沒有提及測試此方面能力的基準。 

并且PaLM『具有理性』的聲稱尤其需要被驗證。 GPT系列的類似聲稱，因為其訪問權(quán)限的開放性，已經(jīng)被在其上跑各種實驗的業(yè)內(nèi)人士證偽了。如果PaLM要獲得如此殊榮，就該接受同等程度的對抗性驗證。 

還有，按谷歌4月論文的自白，PaLM的理性方面基準測試也就比業(yè)內(nèi)幾個同類SOTA模型好一點點，優(yōu)勝不多。 

最關(guān)鍵一點，PaLM的論文未經(jīng)同儕評議、模型也不對外界開放任何訪問權(quán)限。所有聲稱都只算一張嘴在吹，無法證實、無法復現(xiàn)、無法評估。」