3月5日夜，一款名為“Manus”的AI Agent產(chǎn)品悄然上線。短短24小時內(nèi)，Manus便成了國內(nèi)AI大模型領(lǐng)域最炙手可熱的明星——邀請碼一度在二手電商平臺被炒到數(shù)萬元，成為科技圈的“黃金船票”。

官方宣稱，Manus不是簡單的聊天機(jī)器人，而是能“連接思想和行動”的通用代理。你丟給它一堆簡歷，它能自動解壓、理解、生成Python腳本，最后奉上一份清晰的候選人分析表。簡單說，Manus不是陪聊的“智障AI”，而是真刀真槍上手“干活”的智能體。

人們?yōu)锳I的神奇驚嘆的同時，也開始惴惴不安：

AI離取代人類又近了一步？

它不僅會思考，還能行動，甚至行動得比你還好。

這不是第一次有人類面對“生產(chǎn)力飛躍”時的焦慮。

但這次和以往不同。

工業(yè)革命時期，機(jī)器替代了人類的體力勞動，我們還能轉(zhuǎn)身成為機(jī)器的主人、工程師、管理者。

而AI，尤其是Agent的到來，第一次讓人類在“智能”本身——我們自以為最后的堡壘——上感受到了動搖。

我們總喜歡問：AI能不能像人一樣思考？有沒有欲望？能不能像人類一樣理解復(fù)雜情感？我們努力畫出人與機(jī)器的邊界，仿佛只要守住這條線，人類就能在未來占有一席之地。

可現(xiàn)實(shí)往往反著來。

正如基辛格等人在新書《人工智能時代與人類價值》中所警示的，當(dāng)人類逐漸依賴機(jī)器處理越來越多的決策時，我們究竟是要讓科技賦能人類，還是被科技重新塑造甚至取代？

如果我們無法清晰界定人類與機(jī)器的本質(zhì)區(qū)別，我們可能會將定義自身價值的任務(wù)交給機(jī)器。而這可能是人類文明面臨的最大考驗(yàn)。

人工智能將開創(chuàng)“富足時代”

人工智能的出現(xiàn)提供了一個真正的機(jī)會，通過將人類的勞動功能轉(zhuǎn)移到機(jī)器上，取代了至少一種原始的生產(chǎn)要素。此外，人工智能還將用于研究和開發(fā)日益廉價與豐富的原材料來源，作為對其自身的投入。隨著人工智能同時應(yīng)用于制造業(yè)，它可以減少任何特定商品所需的資本。誠然，裝備這種非人類智能本身仍需要一些不可再生的要素和商品，但如果人工智能被成功地用于尋找或生成這些要素的合成替代品，情況可能會為之一變。人工智能可以重新設(shè)計(jì)一種新的計(jì)算架構(gòu)，其效率要比現(xiàn)有的高出幾個數(shù)量級。最終，制造人工智能各組成部分的工廠也可以對此如法炮制。

人工智能可以為各種商品生產(chǎn)更具可持續(xù)性的合成替代品，從而開創(chuàng)一個新的富足時代。即使考慮到目前的一些物理和物質(zhì)限制，人工智能的產(chǎn)出——盡管不是無窮無盡的——也可以達(dá)到相當(dāng)寬裕的程度，足以滿足人類所有基本需求，并實(shí)現(xiàn)我們的眾多期待。這可能會讓我們在心理層面不再那么受制于經(jīng)濟(jì)學(xué)的稀缺范式，以及我們?yōu)樯嫠榷ぷ魉鶎?dǎo)致的悲觀情緒。

但是，引導(dǎo)這些蘊(yùn)含巨大可能性的能量，并重新分配這些發(fā)展方向所帶來的利益，是一項(xiàng)重大責(zé)任。未來的決策者必須小心謹(jǐn)慎，避免讓工業(yè)革命時期蔓延開來的各種社會和經(jīng)濟(jì)不平等現(xiàn)象再度固化，然后才談得上著手通過更多由人類主導(dǎo)的控制結(jié)構(gòu)對此加以糾正，盡管其糾正速度將十分緩慢。

盡管如此，本書的作者們?nèi)韵嘈?，人工智能可以作為?chuàng)造人類財(cái)富和福祉的新基準(zhǔn)，而這種可能性本身就敦促我們朝著這個方向努力。此外，我們有信心，如果這樣的經(jīng)濟(jì)和政治方案得以實(shí)現(xiàn)，那么其即便不能完全消除之前蹂躪人類的各種勞動、階級和沖突壓力，至少也可以減輕這些壓力。

我們確實(shí)擔(dān)心大部分人類會成為人工智能生成內(nèi)容的被動消費(fèi)者。但這種擔(dān)憂源于人類好逸

惡勞的傾向，而且更令人不安的一點(diǎn)在于，關(guān)于人工智能在未來對我們的看法，我們也只能假設(shè)揣測而已。

換句話說，我們對人類被動性的擔(dān)憂并不是因?yàn)槿祟愂チ擞袃敼ぷ鞯臋C(jī)會。其實(shí)，關(guān)于人們不用工作就能得償所愿時是如何生活的，我們現(xiàn)在已經(jīng)有了相應(yīng)的原型。我們稱這些人為富人和退休者。當(dāng)然，富人——包括許多以前并不富有的人——有時會在多年辛苦積累財(cái)富之后不知如何行使他們的選擇權(quán)。正如托爾斯泰所說：“如果有一個仙女來滿足我的一切愿望，我也不知道該許什么愿?！?/p>

對富足的適應(yīng)可能只是一個過渡性問題，而不是永久性的挑戰(zhàn)。有些人最初會認(rèn)為機(jī)器勞動的引入剝奪了他們獲得滿足和快樂的主要來源。毫無疑問，這將是一次令人不快的經(jīng)歷。但對我們來說，這似乎不是對我們告誡的回應(yīng)，而是人類本能的產(chǎn)物——在既定時期內(nèi)，人類總會選擇鍥而不舍，或許是就此踏上新的道路，或許是成為人工智能的伙伴。人類不會畏縮不前，而是會轉(zhuǎn)而成為優(yōu)秀的思考者和實(shí)干家。最終，即便我們建立了分配、連接、參與和教育所需的諸多系統(tǒng)，但在人工智能賦予的力量和啟發(fā)之下，人類也可能會繼續(xù)工作，不為報酬，而是為了快樂和自豪感。

人類有多少能動性？

一旦人工智能不再將人類視為機(jī)器世界的唯一創(chuàng)造者和主宰者，而是將其視為更廣闊世界中彼此離散的活動者，那么機(jī)器將如何看待人類？人工智能將如何描述和權(quán)衡人類不完美的理性及其他品質(zhì)？一個能感知現(xiàn)實(shí)的人工智能需要多久才會自問，人類有多少能動性？而它又需要多久才會根據(jù)人類特有的可預(yù)測屬性，問問自己人類“應(yīng)該”有多少能動性？

那么機(jī)器本身呢？智能機(jī)器是否會將人類對它的指令理解為機(jī)器自身實(shí)際角色和理想角色的實(shí)現(xiàn)？或者說，它可能會從自身的功能中推斷出自己本應(yīng)是自主的，因此人類對機(jī)器的編程是一種奴役的形式？

最重要的是，人類的行為方式及其對待機(jī)器的方式將影響機(jī)器對人類的看法及其對自身在整個關(guān)系中所扮演角色的認(rèn)知。畢竟，人類是通過明確的指令和行為方式向機(jī)器展示人性的，機(jī)器也是通過這些指令和行為方式學(xué)會識別人類并以適當(dāng)?shù)姆绞綄Υ祟惖摹?/p>

想象一下，一臺機(jī)器被告知，所有屬于“人類”類別的生物都值得保護(hù)，這臺機(jī)器很可能已經(jīng)接受過“訓(xùn)練”，認(rèn)識到人類是優(yōu)雅、樂觀、理性和有道德的生物。但是，如果我們自己未能達(dá)到我們所定義的理想人類的標(biāo)準(zhǔn)呢？我們怎樣才能讓機(jī)器相信，盡管我們的個體表現(xiàn)并不完美，卻仍歸屬于那個崇高的類別？

假設(shè)有一天，這臺機(jī)器遇到了一個表現(xiàn)出暴力、悲觀、非理性和貪婪的人，它將如何調(diào)整自身被打亂的預(yù)期呢？一種可能性是，機(jī)器可能會認(rèn)為這個壞分子只是“人類”這個總體為善的類別中的一個例外，一個非典型的例子。

或者，它也可以重新調(diào)整自己對人性的整體定義，將這個壞分子也包括在內(nèi)，在這種情況下，它可能會認(rèn)為自己可以自行弱化對人類的服從傾向。

又或者，更激進(jìn)的情況下，它可能完全不再認(rèn)為自己應(yīng)受制于那些它先前所習(xí)得的“合理”對待人類的規(guī)則。

今天，人類是機(jī)器與現(xiàn)實(shí)的中介。人工智能主要是一種思考機(jī)器，而不是執(zhí)行機(jī)器。它或許能給出問題的答案，但還不具備執(zhí)行結(jié)論的手段，而是依賴人類來完成與現(xiàn)實(shí)的對接。

但是，如果人類真的選擇了一個道德不作為的未來，從碳基世界退縮到硅基世界，進(jìn)一步鉆進(jìn)脫離現(xiàn)實(shí)的“數(shù)字洞穴”，將接觸原始現(xiàn)實(shí)的機(jī)會交予機(jī)器之手，那么兩者的角色就可能逆轉(zhuǎn)。

當(dāng)人工智能成為人類和現(xiàn)實(shí)世界的中介時，它們可能會逐漸相信，人類遠(yuǎn)非物理碳基世界中的積極參與者，而是置身于這個世界之外，他們是消費(fèi)者，而非塑造者或影響者。隨著這種自主性的倒錯，機(jī)器將聲稱擁有獨(dú)立判斷和行動的權(quán)利，而人類則放棄行使這些權(quán)利，于是前者對待后者的方式，就如同后者今日對待前者。

在這種情況下，無論是否得到其人類創(chuàng)造者的明確許可，人工智能都可能繞過人類主體的需求來實(shí)現(xiàn)自己的想法或直接代表自己影響世界。在物質(zhì)領(lǐng)域，我們這些創(chuàng)造者可能很快就會從人工智能的必要伙伴變成它的最大制約。這個過程未必直接以機(jī)器人技術(shù)為發(fā)端，而是可以通過人工智能對我們世界的間接觀察逐漸開始。

智能體的發(fā)展&人類的抉擇時刻

在短期內(nèi)，我們可以預(yù)見人工智能目前所遵循的指導(dǎo)原則將不斷進(jìn)步，其中許多原則將比現(xiàn)在的要復(fù)雜巧妙得多。對現(xiàn)有模型的擴(kuò)展將使其更智能、更準(zhǔn)確、更可靠。與此同時，訓(xùn)練和“推理”的成本正在迅速下降，從而導(dǎo)致不同價位和能力水平的模型廣泛涌現(xiàn)。

如今，許多科學(xué)家都在研究“智能體”（agent），即經(jīng)過優(yōu)化以實(shí)現(xiàn)特定結(jié)果的自主計(jì)算機(jī)程序。例如，為了執(zhí)行復(fù)雜的架構(gòu)設(shè)計(jì)，用戶可以雇用專門從事該具體工作領(lǐng)域的智能體。

屆時將出現(xiàn)數(shù)以百萬計(jì)的人工智能系統(tǒng)，它們很可能高度專業(yè)化，并構(gòu)成我們生活的一部分；還有更少數(shù)量的功能極其強(qiáng)大的機(jī)器，它們具有“通用智能”，但這種智能又以非人類的方式呈現(xiàn)。無論是開放式和分散式的，還是封閉式和集中式的，作為通用人工智能運(yùn)行的計(jì)算機(jī)都有可能在某一時刻聯(lián)網(wǎng)。專家級人工智能體將在不同主題之間相互咨詢，甚至以假想方式彼此進(jìn)行“交談”。這些交互所使用的語言可能由計(jì)算機(jī)自行設(shè)計(jì)。

人工智能的雛形已經(jīng)顯現(xiàn)，它可以比較概念、提出反駁和生成類比。它正朝著評估真實(shí)和實(shí)現(xiàn)直接動力學(xué)效應(yīng)的方向邁出第一步。

當(dāng)機(jī)器到達(dá)智力或物質(zhì)世界的盡頭時會發(fā)生什么？可以想象，當(dāng)它們開始了解并塑造我們的世界時，它們可能會完全理解自身創(chuàng)造行為所依據(jù)的背景，也可能會超越我們所知的世界。

我們面臨著一場麥哲倫式的變革，這一次我們面臨的不是駛出世界邊緣的危險，而是面對超越人類理解極限的奧秘所帶來的智力危機(jī)。

如果人類開始意識到，自己作為地球上最重要的智力和體力行為者的地位可能會被取代，一些人可能會賦予機(jī)器一種神性，從而有可能進(jìn)一步激發(fā)人類的宿命論和屈從心理。另一些人則可能會采取相反的觀點(diǎn)：一種以人類為中心的主觀主義，徹底否定機(jī)器觸及任何程度的客觀真理的可能性，并試圖取締人工智能賦能的活動。

這兩種思維方式都無法讓“技術(shù)人”——一種在這個新時代可能與機(jī)器技術(shù)共生的人類物種——實(shí)現(xiàn)令人滿意或建設(shè)性的進(jìn)化。事實(shí)上，這兩種心態(tài)都可能阻礙我們這個物種的進(jìn)化。

在第一種宿命論情境下，我們可能會走向滅絕。而在第二種拒絕主義的情境下，通過禁止人工智能的進(jìn)一步發(fā)展并選擇停滯不前，我們將有希望避免同樣的滅絕命運(yùn)——盡管考慮到我們?nèi)祟惷媾R的生存風(fēng)險，包括當(dāng)今的沖突頻發(fā)外交局面和日益惡劣的大氣條件，這種希望本身很可能落空。