2023年5月16日，正值人工智能狂熱的高峰期，OpenAI首席執(zhí)行官奧特曼，站在美國參議院司法小組委員會前，參與人工智能監(jiān)督會議。

奧特曼在密蘇里州圣路易斯長大，是斯坦福大學(xué)的輟學(xué)生，他在30歲之前就成為了非常成功的Y Combinator初創(chuàng)孵化器的總裁。

在聽證會前幾個月，ChatGPT剛剛席卷了全世界。

整個2023年夏天，奧特曼都受到了披頭士樂隊(duì)一般的待遇，像世界巡演一樣來到華盛頓，會見了世界各地的總理和總統(tǒng)。

美國參議員Kyrsten Sinema滔滔不絕地說，「我從未見過像Sam這樣聰明的人，他性格內(nèi)向且謙遜，但是非常擅長與國會議員建立關(guān)系，并且可以幫助政府人員了解人工智能?！?/span>

當(dāng)時最美好的詞匯都用形容這位年輕CEO：真誠、才華橫溢、富有、充滿人文關(guān)懷等等。

他常常說人工智能可以改變?nèi)蚪?jīng)濟(jì)，這讓世界領(lǐng)導(dǎo)人對他的宏圖大計(jì)都興致勃勃。

被耍了？

參議員Richard Blumenthal將奧特曼和Gary Marcus都召集到華盛頓，討論應(yīng)該如何處理人工智能這把新興科技的「雙刃劍」，議程是人工智能政策和監(jiān)管。

奧特曼代表AI巨頭，Gary Marcus作為一名科學(xué)家和作家到場。

這位Gary Marcus也是老朋友了，AGI真有泡沫破裂的那天他領(lǐng)頭等功。

「最先呼吁GenAI泡沫」

Marcus在聽證會當(dāng)天也差點(diǎn)被奧特曼的人格魅力折服，雖然有時奧特曼會回避問題，但總的來說，他看起來很真誠。

兩人在會上都強(qiáng)烈支持人工智能監(jiān)管。但漸漸地，Marcus意識到自己、參議院以及美國人民可能都被「?！沽?。

事實(shí)上，Marcus一直對OpenAI抱有一些疑慮。

OpenAI新聞宣傳活動經(jīng)?？浯笃湓~，甚至具有誤導(dǎo)性，例如他們對機(jī)器人玩魔方的花哨演示，結(jié)果發(fā)現(xiàn)魔方內(nèi)部裝有特殊傳感器。

多年來，OpenAI這個名字，以及他們非營利組織的定位，都代表了科技創(chuàng)造的一種開放性。然而事實(shí)上，隨著時間的推移，它變得越來越不Open。

OpenAI經(jīng)常暗示AGI即將到來，在Marcus看來，這是毫無根據(jù)的炒作，奧特曼卻用不同的話術(shù)吹得讓人眼花繚亂。

在參議院，奧特曼給自己立了一個無私熱血的人設(shè)。參議員John Kennedy問道，「好吧，你賺了很多錢嗎？」

奧特曼回答說，「并沒有，我得到的錢足以支付醫(yī)療保險(xiǎn)的費(fèi)用。我沒有OpenAI的股權(quán)?！顾忉屨f，「我這樣做是因?yàn)槲覠釔跘I」參議員們聽了都很受用。

然而，Marcus寫道，奧特曼并沒有說出全部真相。他的確沒有持有OpenAI的任何股票，但他持有Y Combinator的股票，而Y Combinator也持有OpenAI的股票。

這意味著奧特曼間接擁有OpenAI的股份，這一事實(shí)在OpenAI的網(wǎng)站上也可以確認(rèn)。

如果間接持股僅占公司價(jià)值的0.1%，那么其價(jià)值將接近1億美元。

這一模糊的表達(dá)就是一個警告信號。當(dāng)話題回來時，奧特曼本可以補(bǔ)充和糾正它，但他沒有這么做。

人們總喜歡聽熱血青年無私創(chuàng)業(yè)的神話，他在《財(cái)富》雜志的一篇文章中也聲稱他不需要OpenAI的股權(quán)，因?yàn)樗覆徊铄X」 。

不久之后的宮斗大戲中，OpenAI轉(zhuǎn)頭與奧特曼投資的一家芯片公司達(dá)成了交易。

最搞笑的是，兩家公司總部都在舊金山，相距不到一公里，走個路十來分鐘就到。

事后看來，關(guān)于金錢的討論并不是奧特曼在參議院期間唯一不完全坦誠的事情。

言行不一

更重要的是OpenAI對人工智能監(jiān)管的立場,奧特曼公開告訴參議院他支持這一法案，而事實(shí)表明，奧特曼的言行并不一致。

一方面，也許奧特曼頭腦中的一小部分確實(shí)支持人工智能監(jiān)管。

他多次提到奧本海默，表示他與曼哈頓計(jì)劃的領(lǐng)導(dǎo)人同一天生日，也認(rèn)識到了AI就像核武器一樣，對人類構(gòu)成嚴(yán)重風(fēng)險(xiǎn)。

用他自己在參議院所說的話說，「看，我們已經(jīng)非常清楚地了解其中的風(fēng)險(xiǎn)……我最擔(dān)心的是我們會造成負(fù)面影響，AI技術(shù)對世界造成巨大傷害。」

但在私下里，他的游說者不斷推動放松AI監(jiān)管，或者根本不監(jiān)管。

參議院聽證會1個月后，有消息稱OpenAI正在努力淡化歐盟的人工智能法案。

當(dāng)他于2023年11月因?qū)Χ聲甘冀K不坦誠」而被OpenAI解雇時，Marcus并不感到驚訝。

當(dāng)時，很少有人支持董事會解雇奧特曼的決定，大批支持者前來幫助他。

許多人是奧特曼的忠實(shí)粉絲，Marcus發(fā)現(xiàn)著名記者Kara Swisher在推特上屏蔽了他，僅僅因?yàn)镸arcus暗示了董事會這樣做可能有道理。

另外，奧特曼也利用了媒體。五天后，由于OpenAI的主要投資者微軟的幫助，以及員工支持撰寫請?jiān)笗粡?fù)職。

但自那以后，民眾對于奧特曼的態(tài)度也發(fā)生了變化，近幾個月來，對奧特曼的擔(dān)憂和批評從小眾到了附和不斷。

記者Edward Zitron寫道，奧特曼是「一個假先知，一個骯臟的騙子，利用他非凡的能力來打動和操縱硅谷的精英」。

彭博新聞社的Ellen Huet在播客Foundering上得出的結(jié)論是，「當(dāng)奧特曼說某事時，你無法確定他是否真的是這個意思」。

人工智能先驅(qū)Geoffrey Hinton最近也開始質(zhì)疑奧特曼的動機(jī)。

Marcus寫了一篇名為《山姆·奧爾特曼劇本》的文章，剖析了他如何以表面謙遜的方式大肆宣傳，成功地愚弄了大眾這么長時間。

對于一些人來說，奧特曼人設(shè)崩塌的導(dǎo)火索是和演員斯嘉麗·約翰遜的糾紛。

斯嘉麗曾明確要求OpenAI不要用她的聲音制作聊天機(jī)器人，而奧特曼隨后使用了另一位配音演員，但聲音明顯與她相似，事情鬧大后只能灰溜溜下架。

事實(shí)上，在名譽(yù)權(quán)和著作權(quán)上，OpenAI等大公司只向許多藝術(shù)家、作家提供很少的補(bǔ)償，甚至可能根本沒有。演員Justine Bateman將其描述為「美國歷史上最大的盜竊案」。

與此同時，OpenAI長期以來一直口頭上強(qiáng)調(diào)制定人工智能安全措施的價(jià)值，但幾位與安全相關(guān)的關(guān)鍵員工紛紛離職。

聯(lián)合創(chuàng)始人Ilya Sutskever離職，并將他的新公司命名為Safe Superintelligence，而前OpenAI員工Daniel Kokotajlo也警告說，有關(guān)安全的承諾正在被忽視。

OpenAI似乎也在堵住員工的嘴，這一現(xiàn)象更加加劇了OpenAI對安全的漠視。

今年5月，記者Kelsey Piper發(fā)現(xiàn)了一些文件，允許OpenAI從說公司壞話的前員工手中收回既得股票，這種做法令許多業(yè)內(nèi)人士感到震驚。

今年5月，OpenAI董事會前成員Helen Toner在Ted AI Show播客中表示，「多年來，奧特曼一直讓董事會感到很為難……你知道，他隱瞞信息，歪曲了公司正在發(fā)生的事情，在某些情況下甚至是公然地歪曲事實(shí)并且對董事會撒謊?！?/span>

到了5月下旬，針對OpenAI及其首席執(zhí)行官的負(fù)面新聞不斷累積，以至于風(fēng)險(xiǎn)投資家Matt Turck在X上發(fā)布了一幅漫畫，「自上次輕松避免OpenAI爭議以來的天數(shù)：0?！?/span>

貪婪之罪

短暫的風(fēng)暴之后，奧特曼仍然運(yùn)營著OpenAI，并且在很大程度上仍然代表人工智能的公眾形象。

他基本上按照自己的喜好重組了OpenAI的董事會，甚至就在2024年4月，國土安全部部長Alejandro Mayorkas還前往拜訪了奧特曼，招募他加入國土安全部的人工智能安全委員會。

奧特曼的選擇很可能以持久的方式影響全人類——而不僅僅是個人用戶。

此外，由OpenAI普及的GenAI軍備競賽正在對環(huán)境產(chǎn)生巨大的影響，無論是用電量、排放量還是用水量。

正如彭博社最近所說，「人工智能已經(jīng)對全球電力系統(tǒng)造成了嚴(yán)重破壞?！?/span>

隨著模型本身變得越來越大，對環(huán)境的惡劣影響也會越來越大。各國政府目前遵循奧特曼的說法——人工智能最終會得到回報(bào)（到目前為止肯定還沒有），證明環(huán)境成本是合理的。

與此同時，OpenAI仍然占據(jù)了領(lǐng)導(dǎo)地位，奧特曼是國土安全委員會的成員，應(yīng)該要以審慎的態(tài)度接受他的建議。

奧特曼曾經(jīng)試圖吸引投資者對圍繞生成人工智能的基礎(chǔ)設(shè)施進(jìn)行7 萬億美元的投資，這可能會導(dǎo)致資源的巨大浪費(fèi)。

最后，高估當(dāng)前的人工智能局勢可能會導(dǎo)致戰(zhàn)爭。

例如，中美圍繞出口管制展開的「芯片戰(zhàn)爭」——美國限制英偉達(dá)設(shè)計(jì)、臺積電制造的關(guān)鍵GPU芯片的出口，影響中國在人工智能領(lǐng)域的發(fā)展能力，并導(dǎo)致兩國之間的緊張局勢升級。

奧特曼的出發(fā)點(diǎn)可能是好的，也許他真的想拯救世界免受人工智能的威脅，并引導(dǎo)人工智能向善。

但奧特曼畢竟是一位企業(yè)家，有時也許貪婪占據(jù)了上風(fēng)。

不幸的是，許多其他人工智能公司似乎走在了奧特曼炒作和偷工減料的老路上。

價(jià)值數(shù)十億美元的初創(chuàng)公司Perplexity似乎是貪婪的另一個教訓(xùn)，它對不應(yīng)該使用的數(shù)據(jù)進(jìn)行訓(xùn)練。

與此同時，微軟從倡導(dǎo)「負(fù)責(zé)任的人工智能」轉(zhuǎn)向匆忙推出存在嚴(yán)重問題的產(chǎn)品，盲目地卷速度迫使谷歌也這樣做。

金錢和權(quán)力正在腐蝕人工智能，就像它們腐蝕社交媒體一樣。

我們根本無法相信大型私營人工智能初創(chuàng)公司能夠以道德和透明的方式進(jìn)行自我管理，如果我們不能相信他們能夠管理自己，我們當(dāng)然就不應(yīng)該讓他們管理世界。

Marcus尖銳地指出，如果我們繼續(xù)走當(dāng)前的道路，他不認(rèn)為我們會得到一個值得信賴的人工智能。

除了權(quán)力和金錢的腐敗影響之外，還存在一個深層次的技術(shù)問題：大語言模型不太可能是完全安全的。

它們本質(zhì)上是頑固的、不透明的——所謂的「黑匣子」，但這樣的黑匣子從來都不可靠。

諷刺的是，當(dāng)今人工智能面臨的最大威脅可能是人工智能公司本身。

他們的不良行為和夸大的承諾讓很多人望而卻步，許多人已經(jīng)準(zhǔn)備好讓政府采取更強(qiáng)硬的手段。

根據(jù)人工智能政策研究所6月份的民意調(diào)查， 80%的美國選民選擇「對AI進(jìn)行監(jiān)管，要求采取安全措施對AI實(shí)驗(yàn)室進(jìn)行監(jiān)督，而不是放任他們進(jìn)行自我監(jiān)管」。

為了獲得值得信任的人工智能，Marcus長期以來一直在游說跨國合作，專注于人工智能的安全性和可靠性而不是利潤，開發(fā)一套屬于人類的新AI技術(shù)。

更重要的是，公民需要大聲疾呼，要求人工智能有利于大多數(shù)人，而不僅僅是少數(shù)人。

如果我們把一切都交給硅谷，我們就無法到達(dá)人工智能的樂土。

數(shù)十年來，科技巨頭們一直在掩蓋真相,為什么我們要繼續(xù)信任一個企業(yè)家的空頭支票呢？