對于「通用人工智能」，OpenAI科學(xué)家Karpathy下場做出了解釋。

前幾天，Karpathy在個人blog發(fā)表了一篇文章「將自動駕駛作為AGI的一個案例來研究」。

不知是何原因，他卻刪除了這篇文章，幸而，還有網(wǎng)絡(luò)備份。

眾所周知，Karpathy不僅是OpenAI 的創(chuàng)始成員之一，還曾是特斯拉前AI高級總監(jiān)、自動駕駛Autopilot負(fù)責(zé)人。

他將自動駕駛作為案例，研究AGI，這篇文章的觀點確實值得一看。

自動駕駛

LLM的爆發(fā)引發(fā)了眾多關(guān)于AGI降臨的時間，甚至它可能是什么樣子的討論。

有的人對AGI未來充滿希望，持有樂觀的態(tài)度。而有的人卻充滿恐懼和悲觀的情緒。

不幸的是，其中也有很多討論過于抽象，導(dǎo)致人們的觀點互不接軌。

因此，我總是在尋找具體的類比和歷史先例，用更具體的術(shù)語來探討這個主題。

特別是，當(dāng)我被問及「你認(rèn)為AGI會是什么樣子」時，我個人喜歡用自動駕駛舉例。在這篇文章中，我想解釋一下原因。讓我們從AGI的一個常見定義開始：

AGI：一個在大多數(shù)有經(jīng)濟(jì)價值的工作中超越人類能力的自主系統(tǒng)。

請注意，在這個AGI定義中有兩個具體要求。

首先，它是一個完全自主的系統(tǒng)，即自己運(yùn)作，很少或根本沒有人類監(jiān)督。

其次，它在大多數(shù)有經(jīng)濟(jì)價值的工作上都是自主運(yùn)作的。關(guān)于這部分?jǐn)?shù)據(jù)，我個人喜歡參考美國勞工統(tǒng)計局的職業(yè)指數(shù)。

一個同時具有這兩種性質(zhì)的系統(tǒng)，我們將其稱之為AGI。

我想在這篇文章中建議的是，最近我們自動駕駛能力的發(fā)展是一個非常好的早期案例，研究了日益自動化的社會動態(tài)，可以拓展到對AGI的總體樣貌和感受的研究。

我這樣認(rèn)為的原因是，這個領(lǐng)域具有幾個特征?？梢院唵蔚卣f「it is a big deal」：自動駕駛對社會來說非常容易理解，更常見。

它在經(jīng)濟(jì)規(guī)模上占據(jù)了很大一部分，并且雇傭了大量的人類勞動力。駕駛是一個足夠復(fù)雜的問題，但我們已經(jīng)實現(xiàn)自動化，并引來社會的高度關(guān)注。

當(dāng)然，也還有其他的行業(yè)實現(xiàn)了大規(guī)模的自動化，但要么是我個人對它們不太熟悉，要么它們在上述一些屬性方面有所欠缺。

L2級自動化

駕駛的自動化被認(rèn)為是AI領(lǐng)域中一個極具挑戰(zhàn)的問題，并非一蹴而就。

它是通過逐步將駕駛?cè)蝿?wù)自動化的過程而成的，這個過程中涉及了許多階段性的「工具型AI」。

在車輛自動化方面，目前許多汽車已經(jīng)配備了L2級駕駛輔助系統(tǒng)。即一個能與人類司機(jī)協(xié)作，共同完成從起點到終點旅程的AI。

雖然它還不能完全自主駕駛，但L2已經(jīng)能處理許多駕駛中的基礎(chǔ)任務(wù)。

有時，它甚至能自動完成整個操作流程，比如自動泊車。

在這一過程中，人類主要扮演監(jiān)督角色，甚至可以隨時接手，直接駕駛或下達(dá)高級指令（如換道請求）。

在某些方面（比如保持車道居中和快速決策），AI的表現(xiàn)甚至超過了人類，但在一些罕見的情況下還是會有所不足。

這與我們在其他行業(yè)看到的許多AI工具非常相似，特別是隨LLM最近的技術(shù)突破。

例如，作為程序員，當(dāng)我用GitHub Copilot來自動補(bǔ)全一段代碼，或使用GPT-4編寫更復(fù)雜的函數(shù)時，我實際上是將基礎(chǔ)任務(wù)交給了自動化系統(tǒng).

但同樣，如有需要，我也可以隨時介入進(jìn)行調(diào)整。

換句話說，Copilot和GPT-4就像是在編程領(lǐng)域的「二級」自動化工具。

在整個行業(yè)中，有許多類似的「二級」自動化解決方案，但并不是所有的都基于大模型，從TurboTax，到亞馬遜倉庫中機(jī)器人，再到翻譯、寫作、藝術(shù)、法律、營銷等領(lǐng)域的各種「工具型 AI」。

全自動駕駛

隨著時間的推移，一些系統(tǒng)的可靠性達(dá)到了新高度，變得就像今天的Waymo那樣。

它們正逐步實現(xiàn)「全自動駕駛」。

如今，在舊金山，你只需打開應(yīng)用，就能叫到一輛Waymo無人駕駛車，它將會來接你，并把你安全送達(dá)目的地。

這實在是令人驚嘆。你無需懂得駕駛，也無需關(guān)注路況，只需舒服地靠后坐，并小憩片刻，系統(tǒng)便會將你從起點帶到終點。

與我交談過的許多人一樣，我個人更傾向于選擇Waymo而非Uber，我?guī)缀踔皇褂盟鼇磉M(jìn)行市內(nèi)交通。

你會擁有更穩(wěn)定、可預(yù)測的旅程體驗，而且駕駛過程平穩(wěn)，可以聽音樂，不用顧及司機(jī)在聽你說話時在想什么。

「復(fù)合經(jīng)濟(jì)」

雖然自動駕駛技術(shù)已經(jīng)走入現(xiàn)實，但仍有許多人選擇使用Uber。原因何在？

首先，很多人根本不知道他們可以選擇Waymo作為出行工具。即便知道，許多人對自動化系統(tǒng)仍缺乏足夠的信任，更傾向于由人類司機(jī)駕駛。

不過，即使有些人接受自動駕駛，或許他們還是更傾向于人類司機(jī)，比如享受與司機(jī)的交談，以及與他人的互動。

不僅僅是個人偏好，從現(xiàn)在應(yīng)用中不斷增長的等待時間可以看出，Waymo面臨著供不應(yīng)求的問題。市場上的車輛數(shù)量遠(yuǎn)遠(yuǎn)無法滿足需求。

這部分原因可能是，Waymo在管理和監(jiān)測風(fēng)險和輿論方面非常謹(jǐn)慎。

另一方面，據(jù)我所知，Waymo受到監(jiān)管機(jī)構(gòu)的限制，只能在街道上部署一定數(shù)量的車輛。另一個限制因素是，Waymo不能一夜之間就完全取代Uber。

他們需要建立基礎(chǔ)設(shè)施，生產(chǎn)汽車，擴(kuò)大運(yùn)營規(guī)模。

我個人認(rèn)為，其他經(jīng)濟(jì)領(lǐng)域的自動化也將面臨同樣的情況——有些人/公司會立即采用它們，但許多人（1）不了解這些技術(shù)，（2）即便了解，也不會信任它們，（3）即使信任，他們?nèi)匀桓敢馀c人類合作。

但除此之外，需求超過供應(yīng)，AGI也將因為同樣的原因受到同樣的限制，包括開發(fā)商的自我約束、監(jiān)管限制以及資源短缺，比如需要建立更多的GPU數(shù)據(jù)中心。

技術(shù)全球化

正如我已經(jīng)在資源限制中暗示的那樣，這種技術(shù)的全球化部署成本非常高，還需要耗費大量人力，推廣速度也慢。

今天，Waymo只能在舊金山和鳳凰城駕駛，但這種技術(shù)本身是通用的，還可以擴(kuò)展，因此該公司可能很快就會推廣到洛杉磯、奧斯汀等地。

自動駕駛汽車還可能會受到其他環(huán)境因素的限制，比如在大雪中駕駛。在一些罕見的情況下，它甚至可能需要操作員的救援。

此外，技術(shù)能力的擴(kuò)展還需要很多資源成本，并非是免費的。

比如，Waymo必須投入資源后才能進(jìn)入另一個城市，比如繪制街道地圖、整體感知路徑規(guī)劃、控制算法以適應(yīng)某些特殊情況，或當(dāng)?shù)氐姆ㄒ?guī)。

就像我們的工作比喻所示，許多工作可能只在某些特定環(huán)境下才能實現(xiàn)自動化，若是擴(kuò)大范圍還需要大量的工作。

無論哪種情況，自動駕駛技術(shù)本身都是通用的和可擴(kuò)展的，其應(yīng)用前景將隨著時間的推移而逐步拓寬。

社會反應(yīng)：很快成為「過眼云煙」

關(guān)于自動駕駛技術(shù)逐漸融入社會的過程，我覺得特別有趣的一點是——

就在幾年前，人們還在熱烈討論并對其充滿了疑慮和擔(dān)憂，爭論著它是否能夠成功運(yùn)作，甚至是否可行，這成了一個廣泛關(guān)注的議題。而現(xiàn)在，自動駕駛不再是未來的夢想，它真的出現(xiàn)了。

它不僅僅是一個研究原型，而是成為了一種可以用金錢購買的完全自動化交通方式。

在目前的應(yīng)用范圍內(nèi)，自動駕駛技術(shù)已經(jīng)實現(xiàn)了完全的自主性。

然而，總體來看，這似乎并沒有引起太多人的關(guān)注。我交流過的大多數(shù)人（包括科技領(lǐng)域的！）甚至都不知道這一進(jìn)展。

當(dāng)你乘坐Waymo在舊金山的街道上行駛時，你會發(fā)現(xiàn)很多人對它投以好奇的目光。他們首先會感到驚訝，然后好奇地凝視。

之后，他們就會繼續(xù)自己的生活。

當(dāng)自動駕駛技術(shù)在其他行業(yè)也實現(xiàn)完全自主時，世界可能并不會因此而動蕩不安。

大多數(shù)人可能一開始，甚至都沒意識到這一變化。當(dāng)他們注意到時，可能只是好奇地看一眼，然后不以為意，這種反應(yīng)從否認(rèn)到接受都有。

有些人可能會因此感到不安，甚至采取一些抗議行動，比如向Waymo汽車前放置交通錐這樣的舉動。

當(dāng)然，到目前為止，我們距離見證這一現(xiàn)象完全上演還很遙遠(yuǎn)。但當(dāng)它發(fā)生時，我期望它在很大程度上具有預(yù)測性。

經(jīng)濟(jì)影響

當(dāng)我們討論就業(yè)時，不可否認(rèn)，Waymo明顯地取代了駕駛員的崗位。

但同時，它也催生了許多以前不存在的工作崗位，這些崗位相對不那么顯眼——比如為神經(jīng)網(wǎng)絡(luò)收集訓(xùn)練數(shù)據(jù)的標(biāo)注人員、遠(yuǎn)程協(xié)助遇到問題汽車的客服人員、負(fù)責(zé)建造和維護(hù)車隊的工作人員等等。

首先誕生的是一個包含各種傳感器和相關(guān)基礎(chǔ)設(shè)施的全新行業(yè)，旨在構(gòu)建這些裝備精密的高科技汽車。

正如人們對工作的普遍看法一樣，許多崗位都將發(fā)生改變，一些崗位會因此消失，但也會出現(xiàn)很多新的崗位。

這其實是工作形態(tài)的一種轉(zhuǎn)變，而非簡單的崗位減少，盡管崗位減少是最直觀的變化。

雖然很難說總體就業(yè)人數(shù)不會隨著時間推移而減少，但這種變化的速度比人們簡單預(yù)想的要慢得多。

競爭環(huán)境

最后，我想談?wù)勛詣玉{駛領(lǐng)域的競爭環(huán)境。

幾年前，自動駕駛汽車公司如雨后春筍般涌現(xiàn)。但今天，隨著人們逐漸意識到這項技術(shù)的復(fù)雜性（我個人認(rèn)為，基于當(dāng)前的人工智能和計算技術(shù)，實現(xiàn)自動化仍然十分困難），這個領(lǐng)域已經(jīng)經(jīng)歷了大規(guī)模的整合。

其中，Waymo成為了首個完整展示自動駕駛未來的公司。

盡管如此，還有一些公司仍在緊追不舍，比如Cruise、Zoox，以及我個人特別喜歡的Tesla。

這里我要簡單提一下，基于我在這個領(lǐng)域的經(jīng)歷和參與。在我看來，自動駕駛行業(yè)的終極目標(biāo)是實現(xiàn)全球范圍內(nèi)的完全自動駕駛。

Waymo選擇了先實現(xiàn)自動駕駛再全球擴(kuò)展的策略，而Tesla則是先全球布局再逐步提升自動駕駛技術(shù)。

顯然，這兩家公司將會面臨截然不同的調(diào)整：一家主要是軟件方面的工作，另一家則是硬件方面的工作。

目前，我對他們的產(chǎn)品都非常滿意，個人而言，我更是對技術(shù)本身充滿了支持。

同樣的，很多其他行業(yè)也可能經(jīng)歷一個快速增長和擴(kuò)張的階段（就像大約在2015年的自動駕駛領(lǐng)域），但最終，可能只有少數(shù)幾家公司在這場競爭中存活下來。

在這個過程中，將會有許多實用的AI輔助工具（比如現(xiàn)在的L2 ADAS功能）和一些開放平臺（比如Comma）得到廣泛應(yīng)用。

通用人工智能（AGI）

以上就是我對通用人工智能（AGI）未來發(fā)展的大致設(shè)想。

想象一下，這樣的變革將以不同的速度遍布整個經(jīng)濟(jì)體，并伴隨著許多難以預(yù)料的相互影響及連鎖反應(yīng)。

雖然這個設(shè)想可能不盡完美，但我認(rèn)為它是一個值得記住并有益參考的模型。

從模因（memetic）的角度來看，AGI與那種逃離我們控制、在網(wǎng)絡(luò)空間自我遞歸提升、制造致命病原體或納米機(jī)器人、最終把銀河系變?yōu)榛疑迟|(zhì)的超級智能相去甚遠(yuǎn)。

相比之下，它更像是自動駕駛技術(shù)的發(fā)展——一項正在快速推進(jìn)且能改變社會的自動化技術(shù)。其發(fā)展速度會在包括受教育的勞動力資源、信息、材料、能源，以及監(jiān)管等多個方面受到限制。

在這之中，社會既是觀察者也是參與者。

世界不會因此崩潰，而是會適應(yīng)、變化并重新構(gòu)建。

就自動駕駛本身而言，交通自動化將大大提升安全性，城市將變得更加清新、通暢，而那些占據(jù)道路兩旁的停車場和停放的汽車將逐漸消失，從而讓出更多的空間。

對于通用人工智能（AGI）帶來的所有這些可能的變革，我個人是充滿期待的。

網(wǎng)友熱議

總而言之，Karpathy將AGI看作更像是自動駕駛的發(fā)展，這一具體類比的觀點，引發(fā)了眾多網(wǎng)友的討論。

「看到那個無法交付FSD的人，決定將FSD與AGI進(jìn)行類比，實際上確實給了我信心，我們還有幾十年的時間」。

是啊，他好像忘記了「G」。我記得Norvig在幾十年前的人工智能著作中曾說過，「智能」并不意味著無所不能，一個智能體要想有用，解決一個小問題就足夠了。在我看來，這就是G的由來。

而我們現(xiàn)在卻突然又回到了以前那個狹隘的定義？我仍然看不到從LLM和自動駕駛到AGI的路徑。

當(dāng)然，AGI 的發(fā)展可能是漸進(jìn)而緩慢的，就像我們看到Waymo打造自動駕駛汽車一樣。但這只是眾多方式中的一種，你也可以看到AGI通過非常不同的方式突然出現(xiàn)，就像通過擴(kuò)展大規(guī)模LLM那樣。