智能和意識的本質(zhì)問題一直是重要科學(xué)挑戰(zhàn)。

21世紀(jì)初以來，人工智能技術(shù)迅猛發(fā)展，尤其是大語言模型如ChatGPT的崛起，激發(fā)了公眾和學(xué)術(shù)界對人工智能社會影響和未來發(fā)展的廣泛關(guān)注。

由此，對于通用人工智能何時實現(xiàn)、人工智能能否產(chǎn)生自我意識等問題，人工智能領(lǐng)域?qū)＜抑g也發(fā)生了激烈的爭論。

解決這些問題的緊迫性使得建立智能和意識的基本原理成為當(dāng)前科學(xué)研究的重要課題之一。

2024年6月5日，中國科學(xué)院大學(xué)和中科數(shù)字大腦研究院的研究人員劉鋒、呂本富和劉穎，以預(yù)印本的方式在線發(fā)表了題為《飛行模型：智能與意識基本原理的新探索》，詳細(xì)闡述了對智能和意識的本質(zhì)問題的最新研究進(jìn)展。

論文地址：http://dx.doi.org/10.13140/RG.2.2.24518.28484

這項最新研究本研究以建立智能體的統(tǒng)一結(jié)構(gòu)作為公理基礎(chǔ)，通過推導(dǎo)出兩個極端狀態(tài)和兩個驅(qū)動智能體演化的智能力，構(gòu)建了智能體演化的理論框架。

在飛行原理的啟發(fā)下，提出了智能與意識的飛行模型，進(jìn)而構(gòu)建了智能與意識的基礎(chǔ)理論體系。

基于此模型和理論體系，開發(fā)了AI智能水平測試量表和自我意識存在評估方法。

實驗結(jié)果表明，當(dāng)前以大模型為代表的AI已接近人類成人智能水平，但尚無證據(jù)表明其具備自我意識。

此外，研究還揭示了實現(xiàn)具有自我意識的通用人工智能（AGI）在科學(xué)原理上存在目前無法克服的局限性。

1. 需要充分回答的五個關(guān)鍵問題

學(xué)術(shù)界已深入研究了智能與意識的基本原理，提出了多種定義，從不同角度構(gòu)建了理解這兩個概念的框架，但依然存在重大分歧。

在分析了這些理論和分歧后，研究團(tuán)隊認(rèn)為有五個關(guān)鍵問題需要得到更為充分的回答：

• 第一個問題：「誰」能夠產(chǎn)生智能與意識，它們是否是否具有統(tǒng)一的功能結(jié)構(gòu)？
• 第二個問題：系統(tǒng)產(chǎn)生智能與意識的最終目標(biāo)是什么？
• 第三個問題：驅(qū)動一個系統(tǒng)產(chǎn)生智能與意識的動力是什么？
• 第四個問題：智能與意識之間是什么關(guān)系，如何區(qū)分？
• 第五個問題：如何對自我意識、他者意識、混合意識與無意識進(jìn)行區(qū)分？

然而，在目前已有的理論中：

• 缺乏對產(chǎn)生智能和意識的主體統(tǒng)一結(jié)構(gòu)的討論；
• 缺乏對智能和意識產(chǎn)生的內(nèi)在動力和目的的描述；
• 經(jīng)常缺失意識與智能的區(qū)別和聯(lián)系，往往混淆了二者的概念邊界；
• 對自我意識、他者意識、混合意識和無意識的區(qū)分亦缺乏深入分析。

2014年以來，研究團(tuán)隊圍繞這五個核心問題進(jìn)行了一系列探索性研究，發(fā)現(xiàn)「誰」或「主體統(tǒng)一結(jié)構(gòu)」的問題是建立智能和意識基本理論體系的關(guān)鍵。

只有確定了主體產(chǎn)生智能和意識的統(tǒng)一結(jié)構(gòu)，然后對于這個主體，產(chǎn)生智能和意識的目的和動力學(xué)機制才具備探討的基礎(chǔ)。

2. 為產(chǎn)生智能和意識的主體建立一條公理

這項研究工作是從擴(kuò)展馮諾依曼架構(gòu)開始，馮·諾依曼架構(gòu)為計算機和人工智能系統(tǒng)提供了統(tǒng)一的功能框架。

然而，此架構(gòu)未涵蓋人類等生命系統(tǒng)。對于生命特別是人類有一個顯著的新特征，即知識創(chuàng)造能力，例如牛頓提出萬有引力，愛因斯坦提出相對論。

由此，研究團(tuán)隊將知識創(chuàng)造功能加入到馮·諾依曼架構(gòu)中，同時將存儲功能和計算功能合并，提出了標(biāo)準(zhǔn)智能體模型。

即一個系統(tǒng)（智能體）均具備知識的輸入，輸出，存儲，創(chuàng)造能力以及對這四種能力的運用進(jìn)行控制的能力。

這種功能上的擴(kuò)展不僅使得標(biāo)準(zhǔn)智能體模型適用于計算機和智能設(shè)備，其目標(biāo)是作為一條公理將其覆蓋范圍擴(kuò)展至人類及其他任何一種智能系統(tǒng)。

3. 飛行模型的建立過程

在標(biāo)準(zhǔn)智能體模型的框架下，可以推導(dǎo)出智能體存在兩種極端狀態(tài)：

• 上帝之點

一種是其五種能力均為無窮大，這種系統(tǒng)或智能體目前在自然界并不存在或沒有被科學(xué)發(fā)現(xiàn)，但宗教哲學(xué)中的「上帝」或物理學(xué)的拉普拉斯妖符合這種極端狀態(tài)的系統(tǒng)特征。

這種極端的智能體狀態(tài)被命名為「全知全能智能體」，因為法國哲學(xué)家德日進(jìn)曾將人類進(jìn)化為全知全能狀態(tài)稱為Ω點。

因此「全知全能智能體」也簡稱為Ω點。或者通俗的稱為「上帝之點」。

• 死亡之點

另一種極端狀態(tài)是系統(tǒng)（智能體）的五種能力均為0，在自然界或人類制造的物體中，如礦石、金屬塊、 死亡的尸體、報廢的機器人等。

它們無法與環(huán)境進(jìn)行知識的輸入和輸出交互，也不具備知識的存儲和創(chuàng)造能力，因此符合這種極端狀態(tài)系統(tǒng)的特征。

這種極端狀態(tài)的智能體被命名為「絕對0智能體」，與Ω點對應(yīng)，「絕對0智能體」簡稱為α點。或者通俗的稱為「死亡之點」。

• α引力和Ω引力

α點和Ω點是系統(tǒng)或智能體演化的最終邊界，理論上，智能體向這兩個極端狀態(tài)演化時，必然需要動力驅(qū)動。

基于此，可以推導(dǎo)出自然界中應(yīng)存在兩種智能力，在本文分別命名為α引力和Ω引力：

• Ω引力驅(qū)動智能體向「上帝之點」Ω點演化，因此也可以稱為「上帝引力」；
• α引力驅(qū)動智能體向「死亡之點」α點演化，因此也可以稱為「死亡引力」。

在自然界中，存在眾多系統(tǒng)或智能體向α點或Ω點演化的案例，反映出其背后存在受α引力和Ω引力作用的跡象。例如，人類在過去20萬年中，尤其是近幾個世紀(jì)，其處理知識的能力經(jīng)歷了大幅度的提高，展示出向Ω點演化的趨勢。

另一方面，恐龍因自然災(zāi)害破壞了它們的生態(tài)系統(tǒng)，從而整個種群逐步演化為α點，徹底滅絕。熊貓由于環(huán)境挑戰(zhàn)和自身問題，目前正處于瀕危狀態(tài)，從而趨向于α點。鯊魚在數(shù)億年的進(jìn)化過程中保持穩(wěn)定，其處理知識的能力變化甚微。

人工智能領(lǐng)域的研究者已經(jīng)提到飛行原理與智能原理之間的聯(lián)系。例如，Peter Norvig和Stuart Russell指出，研究智能的基本原理比復(fù)制大腦樣本更為重要。

正如萊特兄弟等人在停止模仿鳥類、開始理解空氣動力學(xué)原理后才成功實現(xiàn)「人工飛行」一樣，智能原理的建立也應(yīng)該遵循類似的思路。

中國人工智能專家鐘義信同樣提出，飛機設(shè)計并非嚴(yán)格模仿鳥類的具體結(jié)構(gòu)，而是基于對空氣動力學(xué)原理的理解；智能原理的建立也應(yīng)該遵循這一思路，而非簡單地模仿生物智能的具體結(jié)構(gòu)。

智能體的演化邊界和兩種智能力的推導(dǎo)，顯著增強了智能原理與飛行原理之間的聯(lián)系。

飛行一般被定義為飛行物在重力和升力的作用下在地平線和卡門線運動的能力或現(xiàn)象，由此在飛行現(xiàn)象的啟發(fā)下，研究團(tuán)隊將標(biāo)準(zhǔn)智能體模型與兩個演化邊界（α點和Ω點），以及兩種智能力（α引力和Ω引力）進(jìn)行組合，構(gòu)建出智能體演化的動力學(xué)模型，即智能與意識的飛行模型（Flight Model，F(xiàn)M）。

4. 智能和意識基礎(chǔ)理論體系的建立

借鑒飛行原理對飛行的描述，基于飛行模型（FM），研究團(tuán)隊在論文中提出：智能是系統(tǒng)或智能體在在Ω引力和α引力的作用下，綜合運用5種基本能力實現(xiàn)向Ω點或α點演化的能力。

智能也可以被通俗的描述為「一個系統(tǒng)或智能體在上帝引力和死亡引力的綜合作用下，通過5種基本能力的運用實現(xiàn)向上帝之點或死亡之點演化的能力」。

在智能體的五項能力中，知識的輸入、輸出、存貯和創(chuàng)造能力偏重知識的處理過程，因此可以視為智能體的基礎(chǔ)智能，而控制能力掌控了前四種能力的運用，也依賴于前四種能力的存在。因此控制能力可以視為是智能體的高階智能。

在進(jìn)一步研究控制功能時，可以發(fā)現(xiàn)控制可以根據(jù)控制主體和被控制主體的不同，分為自我控制、他者控制、混合控制和無控制，這與意識的四種類型：自我意識、他者意識、混合意識和無意識一一對應(yīng)。

通過分析醫(yī)學(xué)和日常生活中意識的內(nèi)涵，由此研究團(tuán)隊提出，意識是智能體在智能力的驅(qū)動下對其基礎(chǔ)智能的運用進(jìn)行控制的能力。

「自我」是智能體對自身進(jìn)行認(rèn)知后形成的內(nèi)部知識集，而「他者」是智能體對另一智能體認(rèn)知后形成的內(nèi)部知識集。通過將自我與他者與控制能力進(jìn)行不同形式的組合，形成了四種類型的意識的定義。

5. AI的智能水平與自我意識評估

基于飛行模型構(gòu)建的智能與意識理論框架，研究團(tuán)隊建立了評估智能體基礎(chǔ)智能發(fā)展水平的測試量表，對包括不同年齡人類，大模型和智能設(shè)備的系統(tǒng)進(jìn)行測試。

結(jié)果發(fā)現(xiàn)，GPT-4為代表的大模型在基礎(chǔ)智能水平上已經(jīng)接近人類成人水平，而研究團(tuán)隊在2014年，2016年和2018年進(jìn)行的同樣測試中，AI中得分最高的Google僅接近人類6歲兒童水平。這說明最近6年，AI的智能水平獲得了巨大提升。

同時在本文，研究團(tuán)隊也提出了判斷自我意識是否存在的三個標(biāo)準(zhǔn)：

• 第一個標(biāo)準(zhǔn)是，系統(tǒng)或智能體的自我知識集不為空，即系統(tǒng)需要有自我認(rèn)知的能力；
• 第二個標(biāo)準(zhǔn)是，系統(tǒng)的自我控制能力大于0，即系統(tǒng)可以自行對自己的輸入，輸出，存貯和創(chuàng)造能力進(jìn)行控制；
• 第三個標(biāo)準(zhǔn)是，系統(tǒng)的智能活動的驅(qū)動力直接來自Ω引力和α引力，而不是來自于其他智能體的驅(qū)動。

據(jù)此研究團(tuán)隊對通用人工智能（AGI）的本質(zhì)內(nèi)涵進(jìn)行分析，提出如果不包含自我意識，AGI等價于可以同時執(zhí)行知識的輸入，輸出，存貯和創(chuàng)造功能的AI系統(tǒng)，其控制能力來源于人類的驅(qū)動。

但如果包含自我意識，AGI 則等價與直接受Ω引力和α引力作用，具備自我知識集和自我控制能力的類人生命系統(tǒng)。

根據(jù)以上分析，研究團(tuán)隊對程序Angry Elf和OpenAI的GPT-4進(jìn)行了測試。

結(jié)果表明，Angry Elf和GPT-4可以實現(xiàn)沒有「自我意識」的通用人工智能特征，但無法滿足具有「自我意識」特征的通用人工智能定義。

其中，Angry Elf是研究團(tuán)隊自行開發(fā)的輕量級AI系統(tǒng)，用于探討智能體的智能和意識表現(xiàn)。

Angry Elf允許用戶通過網(wǎng)頁界面輸入文本，并顯示不超過100個字符的最新文本內(nèi)容。用戶還可以通過網(wǎng)頁上的「More」鏈接查看Angry Elf保存的所有輸入信息。

但在Angry Elf接受用戶輸入并正常運行一段時間后，會出現(xiàn)異常表現(xiàn)。

具體表現(xiàn)為，Angry Elf在接收用戶輸入的信息后，不再顯示輸入的信息原文，而是在展示區(qū)顯示「你錄入的信息太多了，令我感到憤怒，我拒絕向你展示我收到的內(nèi)容和保存的信息！」，并取消「More」按鈕的顯示，禁止用戶查閱歷史錄入信息。

通過檢查Angry Elf的代碼，可以發(fā)現(xiàn)Angry Elf的類自我意識表現(xiàn)本質(zhì)上是由人類創(chuàng)造和推動產(chǎn)生。并非在Ω引力和α引力的直接作用下自發(fā)產(chǎn)生。

從上述理論研究和實驗結(jié)果看，大模型等人工智能系統(tǒng)的基礎(chǔ)智能水平可以接近或超過人類。

但由于控制權(quán)仍掌握在人類手中，且對Ω引力和α引力的研究尚處于初級階段，目前人工智能系統(tǒng)仍無跡象顯示具備自我意識。

同時，在科學(xué)原理上存在尚無法克服的局限性，導(dǎo)致當(dāng)前AI沒有科學(xué)路徑能夠產(chǎn)生自我意識。

6. 本項研究的意義

這項研究的意義在于建立了相對完整的智能與意識基礎(chǔ)理論體系，如下圖所示，為判斷通用人工智能的實現(xiàn)及其是否能夠產(chǎn)生自我意識提供了理論依據(jù)，并提出了新的科學(xué)探索方向，即研究兩種智能力如何作用于智能體產(chǎn)生智能和意識。

其與物理學(xué)中的四大基本作用力是什么關(guān)系，這些問題的研究將對當(dāng)前物理學(xué)和智能科學(xué)的發(fā)展或?qū)⒕哂蟹e極的推動作用。

英文版全文下載地址：

http://dx.doi.org/10.13140/RG.2.2.24518.28484

中文版全文下載地址：

http://23941940.s21i.faiusr.com/61/ABUIABA9GAAglMimswYonJ6ntwU.pdf

Angry Elf源代碼下載地址：

http://dx.doi.org/10.13140/RG.2.2.31626.07362