圖靈巨頭現(xiàn)身ICLR，頂會現(xiàn)場瘋狂追星LeCun、Bengio！中國團隊三大技術(shù)趨勢引爆AGI新想象
這幾天，AI屆的盛會——ICLR在維也納舉辦。
OpenAI、Meta、谷歌、智譜AI等世界前沿AI科技企業(yè)齊聚一堂。
現(xiàn)場名流云集，星光耀眼，走幾步就能偶遇一位發(fā)過顛覆性paper的大咖。
毫無意外地，ICLR 2024展廳也變成了追星現(xiàn)場。熱鬧的氣氛，快把屋頂掀翻了。
現(xiàn)場追星圖靈巨頭
圖靈三巨頭中的著名「e人」LeCun，提前就在X上大方公布出自己的行程，滿懷期待地等著和粉絲們相見了。
在評論區(qū)，不僅有粉絲激動打卡，甚至還有準備現(xiàn)場遞簡歷的。
粉絲們果然不虛此行，在現(xiàn)場，LeCun口若懸河地講解，熱情的觀眾們在周圍形成密實的包圍圈。
言歸正傳，在整個ICLR活動上，Meta團隊將分享25余篇論文和兩個研討會。這次，LeCun團隊在ICLR上發(fā)表了以下兩篇論文。
論文地址：https://arxiv.org/abs/2305.19523
論文地址：https://arxiv.org/abs/2311.12983
另一位圖靈巨頭Yoshua Bengio，也顯示了自己的超高人氣。
現(xiàn)場觀眾總結(jié)道：「一個人真的需要在他的領(lǐng)域中做到獨一無二，才能讓他的會議室外排起如此長的隊伍！」
此前LeCun和Hinton都對此發(fā)表過言辭激烈的意見，Bengio的態(tài)度似乎一直比較模糊，迫不及待想知道他對于AGI是什么看法了。在即將到來的5月11日，他就會在一場關(guān)于AGI的Workshop中發(fā)表演講。
值得一提的是，Bengio團隊也在今年的ICLR上獲得了杰出論文榮譽提名。
論文地址：https://openreview.net/pdf?id=Ouj6p4ca60
谷歌Meta隔壁，智譜AI也在
現(xiàn)場，谷歌開源模型Gema、機器人智能體背后框架Robotics Transformers，以及其他開創(chuàng)性的研究一并呈現(xiàn)。
緊挨著Meta和谷歌，展廳中間有一家非常亮眼的公司——智譜AI。
現(xiàn)場的童鞋正為大家介紹GLM-4、ChatGLM等一系列研究成果。
這一系列展示，引起了眾多國外學者的圍觀。
現(xiàn)場的近兩千名與會嘉賓和學者，認真聽了GLM大模型技術(shù)團隊的介紹。
介紹內(nèi)容包括了GLM系列大模型的多項前沿研究成果，涵蓋數(shù)學、文生圖、圖像理解、視覺UI理解、Agent智能體等領(lǐng)域。
在現(xiàn)場，大家熱烈討論起了對Scaling Law的看法。而GLM團隊，對此也有獨到見解——
「相比模型大小或訓練計算量，智能涌現(xiàn)和預訓練損失有更加緊密的聯(lián)系?！?/span>
比如，著名的OpenAI 996研究員Jason Wei，認真讀過智譜AI這篇講預訓練損失的論文后，表示十分贊嘆。
論文中，團隊通過訓練30+個不同參數(shù)和數(shù)據(jù)規(guī)模LLM，評估了其在12個中英文數(shù)據(jù)集上的表現(xiàn)。
論文地址：https://arxiv.org/abs/2403.15796
結(jié)果觀察到，只有當預訓練損失低于某個閾值時，LLM會出現(xiàn)涌現(xiàn)能力。
而且，從預訓練損失的角度定義「涌現(xiàn)能力」，效果優(yōu)于僅依賴模型參數(shù)或訓練量。
智譜AI的此番表現(xiàn)，也讓越來越多外國網(wǎng)友意識到——
19歲獲得博士的Stability AI研究主任Tanishq表示，CogVLM這類最有競爭力、為開源生態(tài)做出重大貢獻的開源基礎(chǔ)模型，就是來自中國。
這位游戲工作室的前CEO，去年就開始用CogVLM和Stable Diffusion做完整的開源版本了。
是的，自CogVLM自發(fā)布之后，其強大的能力便引起了外國網(wǎng)友的驚呼。
在今年1月的LLM排行榜中，也有人發(fā)現(xiàn)——
當時Gemini和GPT-4V遠遠領(lǐng)先于任何開源LLM，唯一一個例外，就是CogVLM。
可見，這波國產(chǎn)大模型出海，智譜AI已經(jīng)悶聲不響地在國外建立了自己的巨大影響力。
特邀演講
展廳精彩演示之外，今年的ICLR，共邀請了七位特邀演講嘉賓，分享他們對AI的見解。
有來自谷歌DeepMind的研究科學家Raia Hadsell，佐治亞理工學院副教授&FAIR首席科學家Devi Parik，有來自馬克斯·普朗克計算機科學研究所（MPI-SWS）的主任Moritz Hardt，唯一一家中國團隊是智譜AI 的GLM 大模型技術(shù)團隊。
Raia Hadsell
谷歌DeepMind科學家Raia Hadsell的演講題目是——「在人工智能發(fā)展的起伏過程中學習：通向AGI道路上的意外真理」。
經(jīng)過數(shù)十年的穩(wěn)定發(fā)展和偶爾的挫折后，AI正處在一個關(guān)鍵的拐點。
AI產(chǎn)品已經(jīng)爆炸式地進入主流市場，我們還未觸及到scaling紅利的天花板，因此整個社區(qū)都在探討下一步的方向。
在這次的演講中，基于20多年在AI領(lǐng)域的經(jīng)驗，Raia探討了我們對AGI發(fā)展之路的假設(shè)，如何隨時間發(fā)展而變化。
與此同時，她還揭示了，在這個探索的過程中，我們得到的意外發(fā)現(xiàn)。
從強化學習到分布式架構(gòu)，再到神經(jīng)網(wǎng)絡(luò)，已經(jīng)在科學領(lǐng)域發(fā)揮著潛在的革命性作用。
Raia認為，通過汲取過去的經(jīng)驗教訓，可以為AI未來的研究方向提供重要的洞見。
Devi Parikh
另一邊，F(xiàn)AIR首席科學家Devi Parik給所有人講述了，自己生活中的故事。
從演講題目可見略知，Parik的分享內(nèi)容，非比尋常。
在ICLR大會上，在解釋為什么技術(shù)環(huán)境是現(xiàn)在這個樣子時，大家會重點針對互聯(lián)網(wǎng)、大數(shù)據(jù)和算力的發(fā)展，展開討論。
然鵝，鮮有人關(guān)注那些微小，但重要的個人故事。
其實，每個人的故事，都可以匯聚成為推動技術(shù)進步的重要力量。
通過這種方式，我們可以彼此學習，相互激勵。這讓我們在追求目標時，更加堅韌和高效。
Moritz Hardt
德國MPI-SWS主任Moritz Hardt帶來了「新興的科學基準」的演講。
顯然，基準測試成為機器學習領(lǐng)域的「核心支柱」。
自20世紀80年代以來，雖然人類在這個研究范式下取得了諸多成就，但對其深層次的理解仍然有限。
在此次演講中，Hardt通過一系列選定的實證研究和理論分析，探索基準測試作為一門新興科學的基本原理。
他具體討論了標注錯誤對數(shù)據(jù)質(zhì)量的影響、模型排名的外部驗證性，以及多任務基準測試的前景。
與此同時，Hard還展示了許多案例研究。
這些挑戰(zhàn)了我們的傳統(tǒng)看法，還突顯了發(fā)展科學基準測試的重要性和益處。
GLM Team
中國這邊，智譜AI的GLM大模型技術(shù)團隊，也帶來了「ChatGLM通往AGI之路」的精彩演講。
值得一提的是，這也是國內(nèi)「首次」在國際頂級會議上展示大模型相關(guān)的主題演講。
這次演講，首先從中國的角度，介紹AI在過去幾十年的發(fā)展歷程。
同時，他們以ChatGLM為例，闡述自身在實踐過程中獲得的理解和洞見。
2024 AGI前瞻：GLM 4.5、 GLM-OS、 GLM-zero
在ICLR上，GLM大模型團隊介紹了面向AGI的GLM三大技術(shù)趨勢。
通往AGI的必經(jīng)之路在哪里？
業(yè)界對此意見不一。有人認為是智能體，有人認為是多模態(tài)，有人說，Scaling Law是通往AGI的必要非充分條件。
而LeCun堅持認為，LLM是通往AGI的一條歧路，靠LLM帶不來AGI。
對此，團隊也提出了自己的獨特觀點。
首先，他們講到了GLM-4的后續(xù)升級版本，即GLM-4.5及其升級模型。
GLM-4的后續(xù)升級版，將基于超級認知（SuperIntelligence）和超級對齊（SuperAlignment）技術(shù)，同時在原生多模態(tài)領(lǐng)域和AI安全領(lǐng)域有長足進步。
GLM大模型團隊認為，在通往AGI的路上，文本是最關(guān)鍵的基礎(chǔ)。
而下一步，則應該把文本、圖像、視頻、音頻等多種模態(tài)混合在一起訓練，變成一個真正的「原生多模態(tài)模型」。
同時，為了解決更加復雜的問題，他們還引入了GLM-OS概念，即以大模型為中心的通用計算系統(tǒng)。
這一觀點，與Karpathy此前提出的大模型操作系統(tǒng)的觀點，不謀而合。
在ICLR現(xiàn)場，GLM大模型團隊詳細介紹了GLM-OS的實現(xiàn)方式：
基于已有的All-Tools能力，再加上內(nèi)存記憶（memory）和自我反饋（self-reflection）能力，GLM-OS有望成功模仿人類的PDCA機制，即Plan-Do-Check-Act循環(huán)。
具體來說就是，首先做出計劃，然后試一試形成反饋，調(diào)整規(guī)劃然后再行動以期達到更好的效果。
依靠PDCA循環(huán)機制，LLM便可以自我反饋和自主進化——恰如人類自己所做的一樣。
此外，GLM大模型團隊還透露，自2019年以來，團隊就一直在研究名為GLM-zero的技術(shù)，旨在研究人類的「無意識」學習機制。
「當人在睡覺的時候，大腦依然在無意識地學習。」
GLM大模型團隊表示，「無意識」學習機制是人類認知能力的重要組成部分，包括自我學習、自我反思和自我批評。
人腦中存在著「反饋」和「決策」兩個系統(tǒng)，分別對應著LLM大模型和內(nèi)存記憶兩部分。
因此，GLM-zero的相關(guān)研究將進一步拓展人類對意識、知識、學習行為的理解。
盡管還處于非常早期的研究階段，但GLM-zero可以視為通向AGI的必經(jīng)之路。
而這，也是GLM大模型團隊首次向外界公開這一技術(shù)趨勢。
國內(nèi)頂流技術(shù)團隊
2020年底，GLM大模型技術(shù)團隊研發(fā)了GLM預訓練架構(gòu)。
2021年訓練完成百億參數(shù)模型GLM-10B，同年利用MoE架構(gòu)成功訓練出收斂的萬億稀疏模型。
2022年還合作研發(fā)了中英雙語千億級超大規(guī)模預訓練模型GLM-130B并開源。
而過去一年里，團隊幾乎每3-4個月，就完成一次基座大模型的升級，目前已經(jīng)更新到了GLM-4版本。
不僅如此，作為國內(nèi)最早入局LLM公司，智譜AI曾在2023年就設(shè)立了一個雄心勃勃的目標——全線對標OpenAI。
GLM大模型技術(shù)團隊構(gòu)建了基于AGI愿景的完整大模型產(chǎn)品矩陣。
在GLM系列之外，還有CogView文生圖模型、CodeGeeX代碼模型，多模態(tài)理解模型CogVLM，再到GLM-4V多模態(tài)大模型和All-Tools功能以及AI助手智譜清言。
與此同時，GLM大模型技術(shù)團隊的研究人員，在業(yè)界有著極高的影響力。
比如，圈里爆火的李飛飛主講斯坦福大學CS25課程，每次都會邀請Transformer研究前沿的專家，分享自己的最新突破。
而目前已經(jīng)確定，CS25課程的嘉賓中，就有來自智譜AI的研究員。
CogVLM
團隊開發(fā)的開源視覺語言模型CogVLM，一經(jīng)發(fā)布就引發(fā)了業(yè)界關(guān)注。
3月Stability AI公布的一篇論文就顯示，因性能太出色，CogVLM直接被Stable Diffufion 3拿來做圖像標注了。
論文地址：https://arxiv.org/abs/2403.03206
CogAgent
在此基礎(chǔ)之上，基于CogVLM改進的開源視覺語言模型CogAgent，主要針對的是用戶圖形界面GUI的理解。
而CogAgent的相關(guān)論文，已經(jīng)被國際計算機視覺領(lǐng)域級別最高的學術(shù)會議CVPR 2024收錄。
要知道，CVPR以錄取嚴格著稱，今年論文錄取率只有約2.8%。
論文地址：https://arxiv.org/abs/2312.08914
ChatGLM-Math
針對LLM解決數(shù)學問題，GLM大模型團隊提出了「Self-Critique」的迭代訓練方法。
即通過自我反饋機制，幫助LLM同時提升語言和數(shù)學的能力。
論文地址：https://arxiv.org/abs/2404.02893
這一方法，包含了兩個關(guān)鍵步驟：
首先訓練一個從LLM本身生成「Math-Critique」模型，以評估模型生成數(shù)學問題答案，并提供反饋信號。
其次，通過拒絕采樣微調(diào)和DPO，利用新模型對LLM自身的生成進行監(jiān)督。
GLM大模型團隊還設(shè)計了MATHUSEREVAL基準測試集，以評估新模型數(shù)學能力，結(jié)果如下：
顯而易見，新方法顯著提升了LLM的數(shù)學問題解決能力，同時仍能提升其語言能力。重要的是，它在某些情況下優(yōu)于參數(shù)量增加兩倍的大模型。
GLM-4躋身全球第一梯隊
在OpenCompass 2.0基準測試中，智譜AI新一代基座大模型的實力不容小覷。
在總榜排名中，GLM-4位列第三，位居國內(nèi)榜首。
在不久前SuperBench團隊發(fā)布的《SuperBench大模型綜合能力評測報告》中，GLM-4也躋身全球第一梯隊。
特別是在最關(guān)鍵的語義理解，智能體能力上，GLM-4更是國內(nèi)第一，力壓一眾競爭對手。
剛剛過去的大模型元年，熱鬧非凡的百模大戰(zhàn)打了一年。
2024年，若想化身為AGI元年，全世界大模型團隊還有很長的路要走。
