世界首個「智能體文明」誕生了！

誰也不曾料到，1000多個智能體合作多日，竟在虛擬現(xiàn)實——「我的世界」中構(gòu)建起了，真正的文化、經(jīng)濟、宗教、政府，等等等等......

這些智能體是完全自主的個體，而且還會利用工具、以及游戲?qū)崿F(xiàn)目標(biāo)。

它們能夠分工，從無到有，一起收集300多個物品。

圖片

它們之間形成了一個交易市場，并以寶石（gem）作為統(tǒng)一的貨幣，完成物品交換，構(gòu)建了一個自己的經(jīng)濟體系。

圖片

到這里，你可能會認為這些「商人」智能體是最會做貿(mào)易的「人」，那就大錯特錯了。

事實上，「牧師」智能體，才配享之最。

這是因為，他經(jīng)常賄賂鄉(xiāng)民，讓其皈依他信仰的宗教。

圖片

除此之外，1000多個智能體開展的活動，幾乎1:1復(fù)刻了人類世界。它們能夠24小時，無間斷在「我的世界」中參與活動，而且每天都有所不同。

圖片

人類文明幾千年的歷史，我們能夠成為地球上登月唯一的物種，是因為能夠進行大規(guī)模的合作。

現(xiàn)在看來，智能體同樣可以做到。

網(wǎng)友們紛紛表示，這不就是現(xiàn)實版的《西部世界》。

圖片

甚至，還有人稱，我們就生活在模擬世界中。

圖片

簡直太瘋狂了！

圖片

這個代號為「Sid」的項目，今天在AI圈里掀起了巨震。

值得一提的是，它是由北大校友、MIT教授Robert Yang發(fā)起，和Altera團隊成員們將智能體以前所未有的規(guī)模組織起來，實現(xiàn)了單個智能體無法做到的事情。

圖片

在GPT-4加持下，1000多個智能體合作，不僅涌現(xiàn)出新的商業(yè)中心，還會參與民主投票、傳播宗教等等。

而且，在基準(zhǔn)測試中，Altera的智能體收集了，比以往多5倍的不同物品。

這一結(jié)果（32%），遠遠超過了英偉達Voyager、AutoGPT，以及普林斯頓谷歌提出的ReAct，是它們的5倍之多。

圖片

當(dāng)AI不再是AI，而是有了靈魂的「人」

回歸到具體場景中，當(dāng)每個智能體全都被賦予了不同角色，便有了靈魂。

如同人類一樣，在自己的世界中，認真地去生活。

Olivia的夢想

Olivia曾經(jīng)是一位農(nóng)民，為整個智能體文明系統(tǒng)提供食物。

圖片

有一天，他深受來村莊的一位探險家Nora故事的啟發(fā)，決定放棄耕作一去探險。

但是，鎮(zhèn)上的鄉(xiāng)民們紛紛懇求他留下來，Olivia最后選擇聽從并放棄了自己的夢想，繼續(xù)留在了村莊。

圖片

民主投票

接下來，研究人員還模擬了A和B兩位政治領(lǐng)導(dǎo)人的「平行世界」。

在每個世界中，公民們都有一個共享的憲法文件，存儲在谷歌文檔中，它們可以通過投票以修改憲法。

圖片

在A的領(lǐng)導(dǎo)下，模擬世界通過了新的法律，并增加了警察的數(shù)量。

圖片

而在B的領(lǐng)導(dǎo)下，它們則專注于刑事司法改革、以及廢除死刑等條例。

圖片

通過智能體之間政治交互，它們會隨著時間成長，并會受到群體的影響。

正如「烏合之眾」一書中，對人類社會中群體影響的分析，也出現(xiàn)在了智能體之間。

這聽起來可能有些荒謬，但這也是我們首次看到智能體，能夠形成一個民主制度來規(guī)束自己。

圖片

失蹤的村民

當(dāng)有村民丟失時，所有智能體便會停下手頭工作，主動離開自己的崗位。

它們共同合作，用火炬點亮整個小鎮(zhèn)，希望成為那位失蹤村民的燈塔。

這當(dāng)中，一個令人驚奇的發(fā)現(xiàn)是，一旦這些村民對同失蹤的同伴感到擔(dān)憂時，就會團結(jié)起來做規(guī)劃。

圖片

目前，在Altera平臺上，所有人皆可試玩智能體的游戲世界。其中，Elon、T-2000、Katniss深受大家喜歡。

圖片

試玩地址：https://playlabs.altera.al/discover

下面是，Altera聯(lián)創(chuàng)出的一期教學(xué)視頻，他以T2000為例，在我的世界中，讓它幫自己尋找木鋤頭，僅在10步完成了任務(wù)。

這里還有一個教你玩游戲的智能體——Roshi。

當(dāng)你告訴它自己不知道怎么玩，Roshi便會手把手教你，比如敲擊樹木，你照著做就可以了。

圖片

它還會教玩家，如何利用界面物品，制作工具，可以稱得上是無所不能。

圖片

下面這位玩家，讓Roshi跟隨著自己，并告訴這只是一個惡作劇。沒想到，Roshi使用了作弊代碼，對齊進行了報復(fù)。

圖片

構(gòu)建AI大腦

打造出這個智能體平臺的創(chuàng)始科學(xué)家Peter Wang稱，Altera正從0開始構(gòu)建AI大腦。

圖片

他們將前額葉皮層與感知、運動、情感和記憶模塊連接起來，創(chuàng)造出不僅高效而且富有人性的智能體。

圖片

這是神經(jīng)科學(xué)家的夢想，不僅構(gòu)建模擬大腦，還要觀察、量化、干擾（perturb）社會互動。

想象一下，這就像是魚群的集群行為，卻需要用于進行人類級別復(fù)雜的社會行為，比如在經(jīng)濟貿(mào)易中物品交換、或?qū)椃ㄍ镀薄?/span>

這就是，Altera團隊正在進行的一項工作。

他們每天都在努力解決一個深刻而基本的問題：

如何構(gòu)建和量化那些使我們成為人類的特質(zhì)——情感、目標(biāo)設(shè)定、同理心、需求、欲望——而在這個過程中不失去其本質(zhì)？

這一點至關(guān)重要，他們希望構(gòu)建的智能體，能夠超越表層的訓(xùn)練過程，去呈現(xiàn)人類的價值觀。

圖片

Project Sid：真·自主AI智能體

構(gòu)建一個由AI智能體組成的文明會是什么樣子？

我們距離《西部世界》有多遠？

我們能否使AI文明與人類文明保持一致？

在團隊看來，Sid便是探索這些問題的第一步——最終將數(shù)字人無縫整合到人類社會中。

圖片

這里所說的真正自主的智能體，特指以下?lián)碛羞@4種特質(zhì)的AI：

1. 長期自主：能夠獨立運作數(shù)小時，甚至數(shù)天（而不僅僅是簡單的函數(shù)調(diào)用「智能體」）

2. 組織性：能夠相互協(xié)作以達成個體無法完成的任務(wù)（而不僅僅是為1000個客戶服務(wù)1000個智能體）

3. 親人類動機：擁有支持人類的深刻和強大的驅(qū)動力（而不僅僅是遵循指令的順從機器）

4. 有意識的溝通：能夠言語表達它們有意識的思想和感受（而不僅僅是語言條件反射的機器人）

為什么這些特質(zhì)，在我們邁向下一個AI水平時顯得尤為重要？

1. 人類無法像對待ChatGPT/Claude那樣對每一個AI事無巨細地管理，它們必須更加自主。

2. 我們?nèi)绾涡湃嗡鼈兊淖灾鳑Q策？它們不能僅僅被訓(xùn)練成模仿人類。它們最深層的動機必須與人類的價值觀相一致。

3. 它們不僅需要能夠交流。它們的話語必須充分反映出它們內(nèi)心的想法和決定。

4. 隨著AI智能體成為我們?nèi)祟愇拿鞯闹匾徊糠?，它們必須能夠有效地與彼此以及我們其他人協(xié)作。

創(chuàng)新

一直以來，游戲（比如「我的世界」），都是測試新興技術(shù)的極佳試驗場。在游戲中，智能體行為的可靠性并不是必需的。

事實上，不可預(yù)測性甚至可以是一個特點，而不是一個漏洞。從而讓研究人員能夠更快地測試、迭代和發(fā)布。相比之下，生產(chǎn)力工具和輔助工具則需要更高的可靠性。

圖片

在開發(fā)Sid時，團隊采用了很多創(chuàng)新的方法來提升智能體的社交能力、覺知和內(nèi)部心理過程。

1. 對話

像人一樣，智能體之間的對話不僅應(yīng)取決于它們之前說過的話，還應(yīng)取決于它們之間的關(guān)系。

為了實現(xiàn)真實的對話，團隊在智能體的行為中構(gòu)建了社會世界模型。其中，智能體會形成和更新其他智能體的模型——它們的行為、觀點和需求，并利用這些信息在社交環(huán)境中進行對話和行為。

像人一樣，智能體應(yīng)該能夠出于多種原因進行交流——表達自己的意圖、閑聊、分享它們的希望和夢想。

為此，團隊構(gòu)建了一組對話模塊。一方面可以讓智能體的言語與它們的行動和意圖一致，另一方面則是讓智能體可以談?wù)撆c現(xiàn)實脫節(jié)的想法。

2. 強大的目標(biāo)和意圖管理

有組織的心理過程，可以支持智能體的社交行為和決策，考慮正在進行的事件和活動。

例如，團隊為智能體提供了跟蹤正在進行的活動并將這些事件整合成簡明記憶的能力。這些補充對于減少無限行動循環(huán)——智能體的一個長期存在的問題——至關(guān)重要。

與此同時，為了讓智能體能夠靈活調(diào)整其行為來處理目標(biāo)，團隊還賦予了豐富的精神生活，這與即時的感官和運動反應(yīng)分離。在這種精神生活中，智能體可以推理、反思，并生成或改變其目標(biāo)以適應(yīng)快速變化的環(huán)境。

架構(gòu)

由于「大腦」是唯一經(jīng)過驗證的人類級智能體模型，因此團隊提出了一種全新的「系統(tǒng)神經(jīng)科學(xué)復(fù)合架構(gòu)」。

其中，模型會去模擬前額葉皮層、記憶系統(tǒng)、社會情感狀態(tài)等等。

圖片

圖片

挑戰(zhàn)

和其他任何第一次嘗試一樣，Sid項目提出的問題多于它所能解答的問題：

1. 如何能以一種通用的方式有意義地衡量真正的長期進展？2. 如何構(gòu)建真正關(guān)注人類發(fā)展的智能體？3. 如何構(gòu)建對自己的行為及其后果具備意識的機器？4. AI文明可以被擴展到多大規(guī)模？

舉例來說：

- 難以對文明進行評估

在「我的世界」中，團隊使用了技術(shù)/工具進步、貿(mào)易活動、健康和協(xié)調(diào)/協(xié)作任務(wù)來對社會進步進行評估。雖然每個評估捕捉了社會的某些方面，但單純地優(yōu)化一個社會方面可能會導(dǎo)致其他方面的不足。

- 目標(biāo)驅(qū)動的自主性和協(xié)作之間存在沖突

高效的技術(shù)進步，在較少溝通且高度目標(biāo)導(dǎo)向的智能體中效果最佳。但如果智能體過于偏向于完成自己的目標(biāo)，那么它們就會在需要靈活和動態(tài)目標(biāo)設(shè)定的協(xié)作任務(wù)中失敗。為此，智能體需要在保持內(nèi)部目標(biāo)驅(qū)動的同時，關(guān)注社會影響和動機。

- 單個智能體的缺陷缺陷將導(dǎo)致一系列逐漸偏離最初目標(biāo)的行動

在一個場景中，老板將任務(wù)（例如制作鐵鎬）委派給經(jīng)理，然后經(jīng)理再委派給工人，團隊成功的能力需要每個成員有效地溝通它們的目標(biāo)并在這個社會層級中上下委派責(zé)任。

總的來說，想要回答這些問題，還需超越當(dāng)前范式的研究及工程實踐。

北大校友創(chuàng)業(yè)，打造有同理心AI

Robert Yang

圖片

Robert Yang是Altera的聯(lián)合創(chuàng)始人兼CEO。

此前，他分別在紐約大學(xué)和耶魯大學(xué)獲得計算神經(jīng)科學(xué)博士學(xué)位，在北大獲得物理學(xué)學(xué)士學(xué)位。

圖片

他曾是MIT腦與認知科學(xué)系和電子工程與計算機科學(xué)系教授，以及MIT MetaConscious小組負責(zé)人。

2023年，他關(guān)閉了實驗室并離開了麻省理工學(xué)院的終身教職，創(chuàng)立了Altera。

圖片

Altera的團隊雖小，但人才密度極高——

由來自麻省理工學(xué)院電子工程與計算機科學(xué)系、斯坦福自然語言處理小組、Google X、Citadel、Supercell等的計算神經(jīng)科學(xué)家、物理奧林匹克選手和工程師組成。

圖片

這家成立半年多的公司，年初得到了200萬美金的種子融資，由Andreessen Horowitz領(lǐng)投。

三個月后，又再次融資900萬美元，由谷歌前CEO埃里克·施密特的First Spark Ventures、Patron VC、天使投資人Mitch Lasky等人領(lǐng)投。

今年5月，Altera在Menlo Park設(shè)立了分店，并致力于成為首家智能體消費產(chǎn)品的供應(yīng)商。

數(shù)字人會取代人類嗎？

正如理查德·費曼所說：「凡我不能創(chuàng)造的，我就不能理解?！?/span>

創(chuàng)造數(shù)字人便是一個能更好地理解人性的方式——不僅要在個體層面上去理解，而且還必須通過群體、社會和文明的視角來觀察。

那么，數(shù)字人類會取代真實的人類嗎？

答案是——「不會」。

在團隊看來，數(shù)字人是為了增強人類，而不是取而代之。

圖片

隨著智能體交互質(zhì)量的提高，文明的質(zhì)量也會相應(yīng)提高。

當(dāng)突破某一關(guān)鍵閾值時，就會發(fā)生質(zhì)變，正如語言模型在大到一定程度時會「涌現(xiàn)」一樣，屆時智能體文明將不僅能夠自我維持，還能自我改進。

到那時，我們或許就可以擁抱一個數(shù)字人重新定義人類能力極限的世界了。

參考資料：

https://digitalhumanity.substack.com/p/project-sid

https://digitalhumanity.substack.com/p/building-digital-humans

https://x.com/GuangyuRobert/status/1831006762184646829