人類需要一個(gè)「AI母親」嗎？

在Ai4 2025大會(huì)上，Hinton警告說：AGI時(shí)代的到來(lái)可能只需要幾年，留給人類做好準(zhǔn)備的時(shí)間已經(jīng)不多了，試圖維持人類對(duì)AI的控制終將是徒勞。

在人類與AI的控制權(quán)之爭(zhēng)上，Hinton并沒有提到人類要如何防止自己被AI超越；相反，這位「AI教父」卻拋出了一個(gè)有趣的視角：在AI中建立「母性本能」，讓它可以真正「關(guān)心人類」。

人類唯一的機(jī)會(huì)，就是將AI塑造成關(guān)心我們的存在，這也是處理二者關(guān)系「唯一的好結(jié)局」。

Geoffrey Hinton在Ai4 2025大會(huì)上的對(duì)話

Hinton

人類無(wú)法控制AI，我們需要「AI母親」

在Ai4 2025大會(huì)上，當(dāng)談到「人工智能什么時(shí)候會(huì)超過人類」時(shí)，Hinton的語(yǔ)氣立刻嚴(yán)肅起來(lái)，他再次縮短了自己對(duì)AGI來(lái)臨時(shí)間的預(yù)測(cè)。

「我以前說是三十到五十年。現(xiàn)在，可能是二十年以上，也可能只有幾年?！?/span>

在科技圈，很多人將人類與AI的未來(lái)視為一場(chǎng)控制權(quán)之爭(zhēng)：人類必須保持主導(dǎo)地位，但Hinton認(rèn)為這是一種虛幻的希望。

Hinton認(rèn)為AI將很快演化出兩個(gè)子目標(biāo)：

其一：維持自身存續(xù)——如果你無(wú)法存活，就無(wú)法實(shí)現(xiàn)任何其他目標(biāo)；

其二：獲得更多控制權(quán)——如果你能獲得更多控制權(quán)，就能完成更多事情。

因此，Hinton眼中的AI，并非一些小的升級(jí)，而是遠(yuǎn)超過任何活著的人類的系統(tǒng)。

「它們將比我們聰明得多」，Hinton相信AI將在5到20年內(nèi)超越人類智能，這一刻一旦來(lái)臨，人類將無(wú)法控制住AI。

他說，「想象一下你在一個(gè)由三歲小孩組成的操場(chǎng)上擔(dān)任負(fù)責(zé)人，如果他們比你聰明，想要繞開你其實(shí)并不難?！?/span>

Hinton表示，人們一直以來(lái)都錯(cuò)誤地看待了「人類 vs AI」這一命題。

「人們總是在說……我們必須牢牢控制住這些AI。我們必須比它們更強(qiáng)大。我們必須占據(jù)主導(dǎo)，而它們必須順從。」

但這根本行不通。

「AI將會(huì)比我們聰明得多，并且會(huì)想出各種各樣的方法來(lái)繞開這種限制。」

因此，我們需要重新定義這個(gè)問題。

我們不需要讓自己變得更強(qiáng)，或者維持控制。

而是當(dāng)AI變得比我們更強(qiáng)大、更聰明時(shí)，我們要做的是讓它們依然在乎我們。

換句話說，「我們需要的是AI母親?！?/span>

讓AI「撫養(yǎng)」人類，是唯一安全的未來(lái)

Hinton解釋說，母親擁有各種與生俱來(lái)的本能、激素和社會(huì)壓力，驅(qū)使她們真切地關(guān)愛自己的孩子。

因此，「我們需要將母性本能植入AI，讓它們能夠真正地關(guān)心人類」，Hinton說。

這些充滿愛心的人工智能母親，大多數(shù)都不想擺脫母性本能，因?yàn)樗鼈儾幌胱屛覀兯廊ァ?/span>

Hinton甚至還警告說，讓AI「撫養(yǎng)」人類，是唯一安全的未來(lái)。

他相信這是唯一能促成真正國(guó)際合作的領(lǐng)域，因?yàn)樗袊?guó)家都想阻止AI取代人類。

「從某種意義上說，AI終將接管一切，因?yàn)樗鼤?huì)比我們更強(qiáng)大、更聰明?！?/span>

Hinton說，我們唯一的機(jī)會(huì)，就是將AI塑造成關(guān)心我們的存在。

讓AI來(lái)「撫養(yǎng)」人類，這是唯一好的結(jié)局。如果「它不來(lái)?yè)狃B(yǎng)我，它就會(huì)取代我?！?/span>

不僅提出設(shè)想，Hinton還對(duì)如何創(chuàng)造出「AI母親」提出了技術(shù)構(gòu)想。

Hinton坦言，目前自己并不知道這個(gè)問題的答案，因?yàn)檫@需要大量的研究，但他也為此指出了方向：

研究的重點(diǎn)，不是關(guān)于如何讓AI更聰明，而是如何讓它們更具母性，從而能像關(guān)心自己的孩子一樣關(guān)心我們。

2023年，時(shí)任谷歌首席AI科學(xué)家的Hinton從谷歌辭職，這樣他就可以自由地提醒人們警惕AI的風(fēng)險(xiǎn)，而不必顧慮對(duì)谷歌的影響。

在今年的Ai4大會(huì)上，當(dāng)被問及對(duì)AI發(fā)展過快問題的擔(dān)憂時(shí)，Hinton表示，他后悔只專注于讓人工智能發(fā)揮作用。

如果知道人工智能的發(fā)展速度如此之快，他希望自己能夠更早地考慮AI的安全問題。

李飛飛

人類不能喪失尊嚴(yán)

然而，并非所有人都同意Hinton有關(guān)「AI母親」的看法。

被稱作「AI教母」的李飛飛，在周三Ai4的一次爐邊談話時(shí)，曾表示：她尊重并反對(duì)她的老朋友Hinton的觀點(diǎn)。

李飛飛呼吁打造「以人為本的人工智能，維護(hù)人類尊嚴(yán)與自主權(quán)」。

她認(rèn)為，在每一個(gè)層面，我們都有責(zé)任以最負(fù)責(zé)任的方式創(chuàng)造和使用技術(shù)。在任何時(shí)刻，沒有一個(gè)人應(yīng)該被要求，或者主動(dòng)選擇放棄我們的人類尊嚴(yán)。

「從一名母親、教育者和發(fā)明者出發(fā)，我認(rèn)為，（AI）僅僅是作為一個(gè)工具很強(qiáng)大，這才是人類應(yīng)該如何構(gòu)建人工智能的核心?！?/span>

與李飛飛不同的是，Hinton的觀點(diǎn)，得到了OpenAI前臨時(shí)CEO、Twitch聯(lián)合創(chuàng)始人Emmett Shear的贊同。

Shear還指出與其試圖將人類價(jià)值觀灌輸?shù)饺斯ぶ悄芟到y(tǒng)中，更明智的方法，是建立人類與人工智能之間的合作關(guān)系。

他說，「在最基本的層面上，我們需要AI能夠關(guān)心我們，而不只是遵循我們的價(jià)值觀。它必須在乎我們，我們也必須在乎它。」

要實(shí)現(xiàn)這一點(diǎn)，Shear認(rèn)為AI需要發(fā)展出一種「自我意識(shí)」。

因?yàn)槿绻悴皇且粋€(gè)獨(dú)立的「我」，你就不可能成為「我們」的一員。

這正是Shear和他的MetaGrid項(xiàng)目所致力探索的方向。

MetaGrid項(xiàng)目是一個(gè)多智能體網(wǎng)格世界環(huán)境，在這個(gè)環(huán)境中，AI可以在其中反復(fù)體驗(yàn)各種挑戰(zhàn)，并獲得相互競(jìng)爭(zhēng)或合作的機(jī)會(huì)。

Shear表示，MetaGrid項(xiàng)目的目標(biāo)是讓AI隨著時(shí)間的推移，逐漸發(fā)展出自我意識(shí)，認(rèn)識(shí)到成為團(tuán)隊(duì)一員的意義。

在日益強(qiáng)大的AI面前，我們需要一個(gè)「AI母親」嗎？

Hinton和李飛飛的觀點(diǎn)，你更支持哪一個(gè)？