OpenAI“宮斗”番外!首席科學(xué)家Ilya官宣離職,參與驅(qū)逐奧特曼“宮斗”后沉寂5月首發(fā)聲! 原創(chuàng)
編輯 | 伊風(fēng)
出品 | 51CTO技術(shù)棧(微信號:blog51cto)
谷歌I/O大會的主題演講剛剛結(jié)束四個小時。正當(dāng)人們把目光從GPT-4o中戀戀不舍地移開,轉(zhuǎn)到Gemini上時。OpenAI又跑來“搞事”了!
自之前“宮斗”后就行蹤成謎的首席科學(xué)家Ilya Sutskever,在X上宣布自己將離職,投入到一個對自己有意義重大的新項目中,并可能在時機(jī)合適時透露相關(guān)細(xì)節(jié)!
緊接著,奧特曼也發(fā)文表達(dá)了對Ilya的感謝與不舍,并宣布將由Jakub Pachocki接棒擔(dān)任OpenAI的首席科學(xué)家。
圖片
“伊利亞和OpenAI即將分道揚(yáng)鑣。這對我來說非常悲傷;伊利亞無疑是我們這一代最偉大的頭腦之一,是我們領(lǐng)域的指路明燈,也是一位親愛的朋友。他的才華和遠(yuǎn)見眾所周知;他的溫暖和同情心不那么廣為人知,但同樣重要。
沒有他,OpenAI就不會是今天的樣子。盡管他有自己個人意義重大的事情要去做,我將永遠(yuǎn)感激他在這里所做的一切,并致力于完成我們一起開始的使命。我很高興能有如此長時間接近這樣一位真正卓越的天才,以及一個如此專注于為人類帶來最佳未來的人物。
雅庫布將成為我們的新首席科學(xué)家。雅庫布也無疑是我們這一代最偉大的頭腦之一;我很高興他在這里接過接力棒。他負(fù)責(zé)了許多我們最重要的項目,我非常相信他將帶領(lǐng)我們快速且安全地朝著確保通用人工智能(AGI)惠及每個人的使命前進(jìn)。”
伊利亞還曬出一張OpenAI leader們的合照。
圖片
在這張照片中,伊利亞本人站在中間。從左向右依次參與合照的是,新上任的首席科學(xué)家Jakub,聯(lián)合創(chuàng)始人Greg Brockman,OpenAI CEO Altman及OpenAI CTO Mira Murati。
此前,一直有傳言說伊利亞的消失是因為他“撞見”了Q*?,F(xiàn)在伊利亞突然的現(xiàn)身讓人倍感意外。
翻一翻伊利亞的X賬戶,發(fā)現(xiàn)距離他上一次更新轉(zhuǎn)帖過去了足足5個月,更加戲劇性的是,這篇帖子的主題是“超級對齊”的資金將幫助人們更好監(jiān)督AI安全性的。
圖片
一、宮斗回顧:超級對齊與Q*傳聞
在伊利亞現(xiàn)身以后,網(wǎng)友評論道:很高興看到他還活著!
圖片
從奧特曼的角度來看,OpenAI的宮斗史正是由伊利亞的一封短信拉開大幕的。
2023年11月16日周四(當(dāng)?shù)貢r間),奧特曼收到了要求周五中午進(jìn)行談話的消息。從后面發(fā)生的事情來看,這封短信正是董事會即將采取行動的前兆。
緊接著11月17日的談話中,伊利亞告訴奧特曼他被解雇了。隨后,時任總裁的Greg Brockman也接到了短信和電話,被告知他本人已經(jīng)被董事會除名(但職位保留),同時奧特曼已經(jīng)被解雇。
經(jīng)過奧特曼等數(shù)位高管的辭職、談判失敗、出走微軟等反轉(zhuǎn)再反轉(zhuǎn)之后,奧特曼重回OpenAI,而伊利亞卻不知去向。
結(jié)合事后所浮出的內(nèi)幕細(xì)節(jié),伊利亞很可能是最初推動奧特曼被罷免的“牽頭者”。在奧特曼(Sam Altman)被罷免的前幾天,OpenAI的幾位研究人員曾向董事會發(fā)出了警告,他們表示發(fā)現(xiàn)了一種強(qiáng)大的人工智能技術(shù),可能對人類構(gòu)成威脅。
這個“很強(qiáng)大的人工智能技術(shù)”,也就是被廣為人知的“Q*”。
人們認(rèn)為正是因為伊利亞看到了這項恐怖的技術(shù),從而促使他推動董事會解雇奧特曼。而從這次宮斗以后“what did Ilya see”就變成了一個經(jīng)久不衰的AI梗。以至于在奧特曼官宣伊利亞離開的推文下,仍有網(wǎng)友在追問不休。
圖片
根據(jù)資料,Q*技術(shù)的名字暗示了它結(jié)合了兩種著名的人工智能技術(shù):Q-Learning和A*搜索算法。
這意味著新模型能夠?qū)⒅С諧hatGPT的深度學(xué)習(xí)技術(shù)與人類編程的規(guī)則相結(jié)合。Q*技術(shù)將推動通用人工智能(AGI)的進(jìn)步,它絕對比我們目前所認(rèn)為的智能更接近了一步,并且有可能使模型能夠產(chǎn)生新的想法,這是ChatGPT所做不到的。
一些AI專家表示,如果Q*技術(shù)目前只相當(dāng)于一個小學(xué)生的水平,但其擁有的潛力可能使其未來能夠影響整個世界。
而伊利亞正是對這項技術(shù)持謹(jǐn)慎態(tài)度的人,此前他領(lǐng)導(dǎo)OpenAI 超級對齊團(tuán)隊,為OpenAI開發(fā)安全、有益的人工智能(AGI)的方法負(fù)責(zé)。該團(tuán)隊的工作重點(diǎn)是確保先進(jìn)的人工智能系統(tǒng)與人類的價值觀和利益保持一致,當(dāng)時已成為 OpenAI 的首要任務(wù)之一。
然而在OpenAI這項任務(wù)其實充滿了挑戰(zhàn):確保人工智能與人類價值觀保持一致與技術(shù)加速所帶來的盈利潛力是相沖突的。
在宮斗的尾聲,伊利亞曾表示他對參與董事會行動的后悔。
圖片
就在幾個月前,奧特曼參與博客采訪時,被問到過伊利亞的近況,他稱贊伊利亞的長處,說他是能看到一項技術(shù)在未來十年中發(fā)展的人。
二、接棒首席科學(xué)家崗位的Jakub:對GPT-4有貢獻(xiàn),曾追隨奧特曼辭職
新出任首席科學(xué)家的雅庫布(Jakub)是一個陌生的名字,就像伊利亞去年曾在推文中說的那樣,他的才華和貢獻(xiàn)不那么為人所知。
圖片
伊利亞發(fā)布離開推文后,雅庫布也進(jìn)行了轉(zhuǎn)發(fā),稱伊利亞為“導(dǎo)師和出色的合作伙伴”,并真誠表達(dá)了對伊利亞的感謝與一同共事時光的懷念。
圖片
雅庫布是有實力接替伊利亞工作的人,自2017年加入OpenAI后,他“一直領(lǐng)導(dǎo)著變革性研究計劃”。OpenAI的官方通知中寫到,“ 雅庫布曾擔(dān)任研究總監(jiān),領(lǐng)導(dǎo) GPT-4 和 OpenAI Five 的開發(fā),以及大規(guī)模 RL 和深度學(xué)習(xí)優(yōu)化方面的基礎(chǔ)研究?!?/p>
在擔(dān)任首席科學(xué)家前,他在OpenAI擔(dān)任過一系列的重要職位:
- Dota 團(tuán)隊的研究帶頭人(2017年2月 - 2019年3月)
- 推理團(tuán)隊的研究帶頭人(2019年3月 - 2021年3月)
- 深度學(xué)習(xí)科學(xué)團(tuán)隊的研究帶頭人(2021年3月 - 2022年7月)
- 研究負(fù)責(zé)人(2021年11月 - 2023年10月)
- 研究主管(2023年10月 - 2024年5月)
在去年OpenAI宮斗風(fēng)波期間,雅庫布擔(dān)任著研究主管一職。
在奧特曼與Brockman相繼離開OpenAI時,他與OpenAI其他的兩位高級研究人員Aleksander Madry、Szymon Sidor同時宣布辭職。
如今,他的上任,恐怕就是OpenAI宮斗最后的尾聲了。而伊利亞究竟看到了什么,仿佛一個永遠(yuǎn)沒有答案的開放式問題。
圖片
三、兩大關(guān)鍵人物離去,超級對齊團(tuán)隊名存實亡
Sutskever 離職后不久,他的同事、OpenAI "超對齊 "團(tuán)隊的聯(lián)合負(fù)責(zé)人 Jan Leike 也跟隨他在同一天宣布離職。
圖片
OpenAI的AI研究團(tuán)隊正在經(jīng)歷新一波的動蕩,許多人對OpenAI是否能引導(dǎo)安全、有益的AGI感到失望。此前,OpenAI 選擇將其 20% 的計算專用于超級對齊,以控制未來超人類智能可能存在的潛在風(fēng)險。
也有離開OpenAI離開的員工在X上表達(dá)對奧特曼的不滿。(“限制線性代數(shù)”暗示奧特曼參與公共討論和政策倡導(dǎo)活動,以推動對人工智能領(lǐng)域技術(shù)使用的監(jiān)管或限制。)
圖片
現(xiàn)在,超級對齊團(tuán)隊的兩位共同領(lǐng)導(dǎo)者都已離職,問題就在于這項事業(yè)是否會繼續(xù)下去,以及以何種身份繼續(xù)下去。在AI算力見頂?shù)臅r刻,20%的計算是否會被挪用到更加“實際”的領(lǐng)域中,例如AI訓(xùn)練。
有些人認(rèn)為,伊利亞是一個所謂的 "道學(xué)家",或者說他關(guān)注的是人工智能給人類帶來生存風(fēng)險的能力(也被稱為 "X 風(fēng)險")。
然而,分析專家說,Altman 和 OpenAI 的其他人并不像伊利亞那樣關(guān)注 x 風(fēng)險。
所以,也許對人類命運(yùn)關(guān)注較少的那一派勝出了。
至此,OpenAI的聯(lián)合創(chuàng)始人馬斯克、GPT-3.5-4.0核心人物伊利亞、以及開源巨頭 Karpathy 都相繼離開了這家公司。
GPT的發(fā)明之所以能夠?qū)崿F(xiàn),是因為谷歌將Transformers的學(xué)術(shù)成果貢獻(xiàn)出來,才能讓更多的人站到了巨人的肩膀上。而OpenAl,作為得利的創(chuàng)新者,正試圖改變游戲的規(guī)則,將新的成果據(jù)為己有。
盡管伊利亞與OpenAI的故事結(jié)束了,但這位“AI Uncle”自己的故事正剛剛要開始。
也許,在不久的將來,這個意義重大的個人項目,能讓這位沉寂了5個月的AI天才重返大眾視野,讓他懷揣著AGI信仰,繼續(xù)發(fā)熱發(fā)光。
?本文轉(zhuǎn)載自51CTO技術(shù)棧,作者:伊風(fēng)
