比甄嬛還狠!奧特曼「千面人設(shè)」被揭穿,MIT華人記者7年曝黑幕
OpenAI的「宮斗」往事,還有大瓜!
因?yàn)槠亓蠈?shí)在太過(guò)驚人,奧特曼在相關(guān)書(shū)籍正式出版之前,否認(rèn)三連,撇清關(guān)系。
但曝料人Karen Hao畢業(yè)于MIT,曝料過(guò)多家美國(guó)科技巨頭的「黑幕」,因新聞報(bào)道獲得多個(gè)獎(jiǎng)項(xiàng)。
在GenAI沒(méi)有爆火之前,她開(kāi)始報(bào)道人工智能,是全球首位對(duì)OpenAI做專題報(bào)道的記者。
在書(shū)中,她揭示了OpenAI內(nèi)部對(duì)AGI兩種截然不同的信仰以及權(quán)力斗爭(zhēng)內(nèi)幕。
在她看來(lái),「OpenAI宮斗」幾乎是必然發(fā)生的:奧特曼左右逢源,從不做決定,只是讓員工相互競(jìng)爭(zhēng)。
奧特曼讓?xiě)岩膳c敵意在OpenAI內(nèi)部彌漫。第一次創(chuàng)業(yè),公司就是被他這樣搞黃的。
他能重回OpenAI,在于他說(shuō)服了Greg Brockman,而后者又說(shuō)服了Ilya Sutskever。
Ilya在奧特曼重回OpenAI后,不久宣布離開(kāi)OpenAI
否則,現(xiàn)在領(lǐng)導(dǎo)OpenAI的將是馬斯克,而xAI也不會(huì)問(wèn)世。
總之,奧特曼這次被揭老底了。
OpenAI難以抵制誘惑
OpenAI的初心是為了人類利益開(kāi)發(fā)通用人工智能(AGI)。
為此,包括奧特曼和馬斯克在內(nèi)的聯(lián)合創(chuàng)始人將組織設(shè)立為非營(yíng)利機(jī)構(gòu),并承諾與其他機(jī)構(gòu)共享研究成果。
這也是「OpenAI」這個(gè)名字的由來(lái)。
2019年,當(dāng)調(diào)查記者Karen Hao開(kāi)始關(guān)注OpenAI時(shí),她覺(jué)得這是一家正派的公司。
當(dāng)時(shí),她覺(jué)得,這樣的公司,有什么不好呢?
那時(shí)OpenAI還沒(méi)有發(fā)布ChatGPT,默默無(wú)聞,名不經(jīng)傳。
她對(duì)OpenAI做了專題報(bào)道。
她是首位對(duì)OpenAI進(jìn)行專題報(bào)道的記者。
然而,隨著時(shí)間的推移,Karen Hao開(kāi)始深入思考這個(gè)問(wèn)題。
她逐漸意識(shí)到,這個(gè)極具顛覆性的行業(yè)的核心真相是,它對(duì)成功的定義需要幾乎前所未有的大量資源。
事實(shí)是,我們已經(jīng)進(jìn)入了一個(gè)新的、不祥的帝國(guó)時(shí)代:只有少數(shù)幾家全球規(guī)模的公司,才能進(jìn)入AI領(lǐng)域。
而OpenAI憑借ChatGPT的突破處于領(lǐng)先地位,它將如何抵制這種誘惑呢?
最終,OpenAI未能抵擋住誘惑。
在微軟數(shù)十億美元的支持下,OpenAI以驚人的速度發(fā)展,身后追趕著一群人類歷史上估值最高科技巨頭。
一直以來(lái),Karen Hao消息靈通,保持著深入的內(nèi)部消息源,因此她與震驚整個(gè)科技行業(yè)的事件——
奧特曼的突然被解雇和隨后的勝利回歸——有著密切的聯(lián)系。
經(jīng)過(guò)300次訪談,耗時(shí)7年,她剛剛出版了關(guān)于OpenAI版《權(quán)力與游戲》的新書(shū)——
《人工智能帝國(guó):奧特曼之OpenAI美夢(mèng)與噩夢(mèng)》「Empire of AI:Dreams and Nightmares in Sam Altman's OpenAI」。
這里首次完整講述的幕后故事,揭示了真正掌控AI的人到底是誰(shuí)。
千面奧特曼
奧特曼成功的根源,在于他能極其出色講故事。
他屬于那種一代人中難得一見(jiàn)的「敘事型天才」。
這正是他為什么能籌到大量資金、吸引頂尖人才來(lái)為他工作的重要原因。他能指派他們?nèi)プ鲆恍┨囟ǖ氖虑?,而他們也?huì)愿意跟著他去做。
他之所以講故事講得好,也跟他對(duì)「真相」的態(tài)度有關(guān)——
他不太在乎事實(shí)真相。
當(dāng)他和別人一對(duì)一談話時(shí),他總是說(shuō)出對(duì)方想聽(tīng)的話,而非自己真正相信的東西——這正是他構(gòu)建影響力的方式。
除此之外,他也非常擅長(zhǎng)判斷別人想要什么。
所以,他成功的這些特質(zhì),也正是讓很多與他共事過(guò)的人感到沮喪的根源。
對(duì)此采訪之后,Karen Hao就逐漸發(fā)現(xiàn)了規(guī)律:無(wú)論是哪一時(shí)期,奧特曼對(duì)不同的人說(shuō)的話常常完全相反。
他會(huì)根據(jù)聽(tīng)話對(duì)象的身份和立場(chǎng),調(diào)整自己的說(shuō)法。
他會(huì)告訴某一方:「我完全同意你們的看法?!谷缓筠D(zhuǎn)身對(duì)另一方也說(shuō):「我也完全支持你們?!?/span>
結(jié)果就是,這兩個(gè)團(tuán)隊(duì)會(huì)開(kāi)始互相爭(zhēng)執(zhí),而不是達(dá)成一致。
這種行為帶來(lái)的后果,就是在公司內(nèi)部造成了大量不信任。
通常情況下,當(dāng)兩個(gè)團(tuán)隊(duì)在戰(zhàn)略上意見(jiàn)不合時(shí),大家會(huì)希望CEO出面「當(dāng)裁判」,表明一個(gè)明確的方向,哪怕有些人不滿意,也要做出一個(gè)統(tǒng)一的決策。
但他的做法正好相反——他不會(huì)下決定。他會(huì)讓兩個(gè)團(tuán)隊(duì)各自以為得到了支持,然后彼此沖突。
這種「說(shuō)一套做一套」的風(fēng)格,是他最終被董事會(huì)解雇的核心原因之一。
高層領(lǐng)導(dǎo)和董事開(kāi)始擔(dān)心公司會(huì)因此失穩(wěn),核心人才會(huì)因此流失,因?yàn)榇蠹乙呀?jīng)沒(méi)法再忍受這種缺乏明確信息和方向感的環(huán)境。
其實(shí),這種抱怨在他早期創(chuàng)業(yè)的時(shí)候就已經(jīng)出現(xiàn)過(guò)了。
他的第一家創(chuàng)業(yè)公司最終失敗了。當(dāng)時(shí)高層也曾兩次嘗試讓董事會(huì)解雇他,理由就是他經(jīng)常說(shuō)一些與現(xiàn)實(shí)不符事情,導(dǎo)致團(tuán)隊(duì)根本無(wú)法開(kāi)展工作。
另一個(gè)很多人反映的問(wèn)題是,他最終推動(dòng)的事情往往對(duì)他本人是最有利的。
至于他是不是「有意為之」,看法不一。
有人覺(jué)得他是自私的,有人則認(rèn)為他只是站在一個(gè)「科技億萬(wàn)富翁」的位置上,有很多認(rèn)知盲區(qū)——
他不理解普通人怎么生活,因此他以為自己是在做好事,但最后的結(jié)果還是對(duì)他自己最有利。
不管他的動(dòng)機(jī)是什么,結(jié)果總是他得利最大。
被利用的馬斯克
而馬斯克覺(jué)得奧特曼利用了他。
其實(shí)很多人都有類似的感覺(jué)。
他們覺(jué)得在某種程度上,自己被利用了。
雖然很難具體說(shuō)出到底是怎么回事,但整個(gè)過(guò)程結(jié)束后,他們會(huì)留下那種「被利用了」的感覺(jué)。
奧特曼非常有技巧地接近了馬斯克,主動(dòng)建立關(guān)系。
他知道馬斯克最在意什么——比如對(duì)AI存在風(fēng)險(xiǎn)的擔(dān)憂、對(duì)谷歌控制AI的不信任、希望AI受到更嚴(yán)格監(jiān)管等等。
于是,奧特曼順應(yīng)馬斯克,表示自己也有一樣的擔(dān)憂和理念。
最終,馬斯克被說(shuō)動(dòng)了。他覺(jué)得:「我喜歡這個(gè)人,我喜歡他說(shuō)的話,他就像是另一個(gè)我?!?/span>
于是,兩人一起創(chuàng)建了OpenAI,一個(gè)非營(yíng)利機(jī)構(gòu),目標(biāo)是成為一個(gè)與谷歌對(duì)抗的力量,在AI研究中倡導(dǎo)透明與責(zé)任。
但后來(lái)事情發(fā)生了變化。
OpenAI逐漸決定要轉(zhuǎn)向Scaling路線,也就是不斷擴(kuò)大模型規(guī)模。
這就意味著,他們需要大量資金。而一家非營(yíng)利機(jī)構(gòu),無(wú)法滿足這種資金需求。
于是,公司開(kāi)始討論轉(zhuǎn)型為營(yíng)利性結(jié)構(gòu)的可能性,比如把整個(gè)非營(yíng)利組織轉(zhuǎn)為營(yíng)利性,或是設(shè)立一個(gè)嵌套在非營(yíng)利機(jī)構(gòu)內(nèi)的營(yíng)利實(shí)體(后來(lái)就采用了后一種方式)。
在這個(gè)過(guò)程中,馬斯克和奧特曼因?yàn)椤刚l(shuí)該當(dāng)CEO」而發(fā)生了嚴(yán)重分歧。
最終,奧特曼展現(xiàn)出了他最擅長(zhǎng)的技能——說(shuō)服力。
他成功說(shuō)服了Greg Brockman(當(dāng)時(shí)重要領(lǐng)導(dǎo)人),讓他支持自己。
Greg Brockman:現(xiàn)任OpenAI總裁
然后Brockman又去說(shuō)服了Ilya Sutskever(另一位聯(lián)合創(chuàng)始人)。
當(dāng)這兩個(gè)關(guān)鍵人物都站在奧特曼一邊后,馬斯克就決定退出了。
等到OpenAI后來(lái)取得了巨大成功,馬斯克感到非常憤怒。
他覺(jué)得自己被奧特曼精心算計(jì)了:
奧特曼利用了自己的名聲,幫OpenAI在初期樹(shù)立起了良好的公眾形象,而一旦自己沒(méi)了利用價(jià)值,就被徹底排除在外。
馬斯克是「霸道總裁」的代表,他傾向于用對(duì)抗式的方式來(lái)控制局面。
而奧特曼則屬于「說(shuō)服型權(quán)力」,他不會(huì)強(qiáng)迫別人做事,而是讓人不知不覺(jué)地被他「哄」著走進(jìn)某個(gè)方向。
沒(méi)有人覺(jué)得自己是被他逼迫的,大家會(huì)覺(jué)得是自己「被說(shuō)服」的。
奧特曼則擅長(zhǎng)防守式策略。
他通過(guò)復(fù)雜的結(jié)構(gòu)安排,把公司和實(shí)體層層嵌套,掩蓋實(shí)際控制關(guān)系,形成一道又一道的法律「防火墻」。
不僅是OpenAI,他創(chuàng)立的所有機(jī)構(gòu)和公司,法律結(jié)構(gòu)都非常復(fù)雜。
甚至是OpenAI需要專門的律師團(tuán)隊(duì)來(lái)搞清楚,員工到底擁有哪些法律權(quán)利。
奧特曼其實(shí)很樂(lè)意把自己塑造成「反馬斯克」的形象:他是那個(gè)「冷靜、理性、可靠」的好人,而馬斯克則是「瘋狂、不受控的億萬(wàn)富翁」。
但實(shí)際上,他們倆只是用不同方式追求同一個(gè)目標(biāo)罷了。
他們是同一場(chǎng)「AI帝國(guó)擴(kuò)張游戲」的兩個(gè)玩家,只是戰(zhàn)術(shù)不同。
OpenAI的神話與美夢(mèng)
現(xiàn)在很多人都把奧特曼和馬斯克分別視為「加速派」和「末日派」的代言人。
這兩種對(duì)AGI的看法,從一開(kāi)始就深深植根于OpenAI的文化之中。
加速派談及AI烏托邦時(shí)眼泛光芒,聲稱「一旦實(shí)現(xiàn)AGI,世界就會(huì)極樂(lè)世界」。
而另一些人描述AI滅絕人類時(shí),聲音因恐懼而顫抖。
這種信念的狂熱程度讓Karen Hao震驚。部分原因在于,他們正在做史無(wú)前例的事——
掌握足以改變世界的權(quán)力后,他們需要某種宗教般的信仰體系來(lái)支撐自己,否則難以承受如此沉重的責(zé)任。
他們究竟看到了什么,能如此狂熱地相信這一切?
Karen Hao認(rèn)為背后有兩重動(dòng)因:
- 優(yōu)先解決自身問(wèn)題:AI公司設(shè)計(jì)系統(tǒng)時(shí),會(huì)隱晦或直白地以自身需求為中心。書(shū)中提到,奧特曼長(zhǎng)期推動(dòng)OpenAI專注代碼生成模型,因?yàn)樗J(rèn)為這能鞏固競(jìng)爭(zhēng)優(yōu)勢(shì)。結(jié)果,這些模型最擅長(zhǎng)服務(wù)開(kāi)發(fā)者群體,而離硅谷越遠(yuǎn)的人群,技術(shù)體驗(yàn)就越差。
- 代碼即世界觀的隱喻:代碼生成是目前AI最能穩(wěn)定提升生產(chǎn)力的領(lǐng)域(部分因代碼本身可計(jì)算)。但對(duì)硅谷以外的人而言,這只是單一應(yīng)用場(chǎng)景的進(jìn)步。而在AI信徒眼中,代碼能力的飛躍象征更宏大的未來(lái)——只要數(shù)據(jù)足夠,萬(wàn)物皆可計(jì)算,AI終將掌控一切。
OpenAI信奉的神話是:
我們必須在別人做出對(duì)人類有害的「AGI」之前,率先開(kāi)發(fā)出對(duì)人類有益的「AGI」。
而我們,正是擁有科學(xué)與道德清晰度的那一群人,能夠帶領(lǐng)人類走向?yàn)跬邪钍降奈磥?lái)。
但這兩派是同一枚硬幣的兩面。
「加速派」和「末日派」實(shí)際上是攜手并進(jìn)的。
「加速派」也許是有意為之,而「末日派」可能是無(wú)心插柳,但他們的共同作用,是把AI的規(guī)模推向前所未有的高度與速度。
他們都堅(jiān)信,自己必須這么做,才能將拯救人類。
當(dāng)然,在公司內(nèi)部,這兩個(gè)教派之間是有劇烈沖突的。
這些沖突貫穿OpenAI的整個(gè)發(fā)展歷程,最終在董事會(huì)危機(jī)時(shí)達(dá)到高潮。
「加速派」和「末日派」的沖突,正是導(dǎo)致那場(chǎng)危機(jī)的重要因素之一。
OpenAI-->CloseAI
「OpenAI宮斗」最清晰的方式表明,硅谷一小撮精英之間的權(quán)力斗爭(zhēng),正在塑造AI的未來(lái)。
而事實(shí)證明,這種高度集中的AI發(fā)展路徑,已經(jīng)變得令人極度擔(dān)憂。
今天的OpenAI,早已背離了它當(dāng)初的承諾。它名義上仍是非營(yíng)利組織,但實(shí)質(zhì)上卻在極力商業(yè)化產(chǎn)品,并追求史無(wú)前例的估值。
它也變得愈發(fā)神秘和封閉,不僅自己不再公開(kāi)研究成果,還帶動(dòng)整個(gè)行業(yè)形成新的「閉源」常態(tài),連基本的技術(shù)細(xì)節(jié)都不再分享。
在所謂「科技進(jìn)步」的模糊愿景驅(qū)動(dòng)下,OpenAI對(duì)模型規(guī)模的不斷追求,已經(jīng)重塑了整個(gè)人工智能發(fā)展的規(guī)則。
如今,每一家科技巨頭都在競(jìng)相超越彼此的規(guī)模,投入的金額如此之大,以至于他們自己也在努力重新分配和整合資源。
曾經(jīng)難以想象之事,如今已成常態(tài)。
結(jié)果就是,AI公司前所未有地富有。
OpenAI初心也不在了。
今年3月,OpenAI完成了有史以來(lái)規(guī)模最大的科技私募融資,籌資400億美元,估值高達(dá)3,000億美元。
Anthropic的估值也超過(guò)了600億美元。
到去年年底,美國(guó)六大科技巨頭在ChatGPT推出之后,總市值增加了超過(guò)8萬(wàn)億美元。