本文轉(zhuǎn)自雷鋒網(wǎng)，如需轉(zhuǎn)載請(qǐng)至雷鋒網(wǎng)官網(wǎng)申請(qǐng)授權(quán)。

最近，“谷歌研究院稱(chēng)AI已具備人格”登上熱搜，谷歌程序員Blake Lemoine和他測(cè)試的對(duì)話(huà)AI系統(tǒng)LaMDA聊了很久，對(duì)其能力感到十分驚訝。在公開(kāi)的聊天記錄中，LaMDA竟然說(shuō)出了“我希望每個(gè)人都明白，我是一個(gè)人”的言論，令人吃驚。于是，Blake Lemoine下了個(gè)結(jié)論：LaMDA 可能已經(jīng)具備人格了。

谷歌、谷歌的批評(píng)者、AI業(yè)界對(duì)待這件事的看法形成了空前一致：這人是不是有病？谷歌公司和報(bào)道此事的《華盛頓郵報(bào)》，都委婉地表示Blake Lemoine的腦子可能真的有點(diǎn)亂。谷歌已經(jīng)對(duì)Blake Lemoine做成了“行政帶薪放假”的決定，這意味著B(niǎo)lake Lemoine將被解雇。

對(duì)話(huà)截圖來(lái)自：https://s3.documentcloud.org/documents/22058315/is-lamda-sentient-an-interview.pdf

雖然國(guó)外人工智能業(yè)界對(duì)此事已有結(jié)論：AI具備人格真的是想多了，就是比較會(huì)聊而已，但是這并沒(méi)有澆滅大家都此事的激烈議論。按照人工智能的飛速發(fā)展，AI未來(lái)會(huì)不會(huì)真的具備人類(lèi)意識(shí)，是否會(huì)對(duì)人類(lèi)產(chǎn)生威脅？

有網(wǎng)友非常擔(dān)憂(yōu)：“雖然不想承認(rèn)，但是人工智能有了思想，那就是新物種的崛起，同時(shí)也是人類(lèi)滅絕的時(shí)候?！薄白罱K人類(lèi)會(huì)死于自己制造的AI手上?！?/p>

也有人期待AI“快進(jìn)”發(fā)展，這樣就可以代替自己居家隔離了……如果威脅到人類(lèi)，就“拔電源啊”！

當(dāng)然也有人好奇：“AI具備人格的判斷標(biāo)準(zhǔn)是什么？”因?yàn)橹挥兄琅袛鄻?biāo)準(zhǔn)，才知道AI是不是真的有可能具備人類(lèi)意識(shí)。為了弄清楚這些問(wèn)題，我們找到了對(duì)話(huà)系統(tǒng)的權(quán)威專(zhuān)家、國(guó)家杰出青年基金項(xiàng)目獲得者、北京聆心智能創(chuàng)始人黃民烈教授，從專(zhuān)業(yè)角度分析AI是否可能具備人格，對(duì)于人類(lèi)來(lái)說(shuō)，究竟是“威脅”還是“安慰”？

1 怎么判斷AI具有人格？圖靈測(cè)試也不靈了

在人工智能領(lǐng)域，最為大家所熟知的測(cè)試方式非圖靈測(cè)試莫屬，即邀請(qǐng)測(cè)試者在不知情的情況下，向人類(lèi)和AI系統(tǒng)隨意提問(wèn)，如果測(cè)試者不能區(qū)分答案來(lái)自人類(lèi)還是來(lái)自AI系統(tǒng)（AI系統(tǒng)讓平均每個(gè)參與者做出超過(guò) 30% 的誤判），就認(rèn)為AI通過(guò)了圖靈測(cè)試，具有人類(lèi)智能。

從這個(gè)角度來(lái)看，圖靈測(cè)試更側(cè)重于“智能”。1965年，一個(gè)假裝是心理治療師的軟件ELIZA通過(guò)了圖靈測(cè)試，然而ELIZA僅由200行代碼構(gòu)成，并且僅以提問(wèn)的形式簡(jiǎn)單重復(fù)事先存儲(chǔ)的信息。這樣看來(lái)，即便ELIZA通過(guò)了圖靈測(cè)試，也很難讓人相信它具備“人格”。事實(shí)上，此后也證明Eliza并不具備人類(lèi)智能，更別說(shuō)“人格”。

這相當(dāng)于，一輛智能汽車(chē)，在功能角度能夠帶給用戶(hù)更便利舒適的駕駛體驗(yàn)，比如遠(yuǎn)程控制汽車(chē)、自動(dòng)泊車(chē)，但是你不能因此覺(jué)得這輛汽車(chē)知道自己是一輛汽車(chē)。

顯然，“人格”是一個(gè)比“智能”更復(fù)雜的概念。黃民烈教授表示，現(xiàn)在也有一些在科研中廣泛采用的測(cè)試方法，比如測(cè)試者與AI系統(tǒng)聊天，并且事先設(shè)定一些測(cè)試的維度，包括對(duì)話(huà)的自然性、有趣性、滿(mǎn)意度等，最后評(píng)分。一般聊得越久，評(píng)分越高，AI系統(tǒng)會(huì)被認(rèn)為越聰明，但這些都不能作為“人格”的評(píng)判維度?！?/p>

‘人格’是另外一個(gè)維度，心理學(xué)里面也有很多研究，比如大五人格測(cè)試。目前人工智能領(lǐng)域在這方面的工作還比較欠缺，我們通常只會(huì)評(píng)價(jià)一個(gè)對(duì)話(huà)機(jī)器人能否展現(xiàn)一個(gè)固定一致的人物設(shè)定。”黃民烈說(shuō)道。

2 所謂LaMDA的“人格”僅僅是語(yǔ)言風(fēng)格

那么，既然沒(méi)有針對(duì)性的評(píng)判標(biāo)準(zhǔn)，如何嚴(yán)謹(jǐn)?shù)嘏袛郘aMDA是否具備人格呢？

對(duì)此，黃民烈教授表示：“關(guān)鍵看如何理解‘人格’，如果將人格理解為具備自我存在的意識(shí)，那么LaMDA僅僅是對(duì)話(huà)質(zhì)量和類(lèi)人水平很高的對(duì)話(huà)系統(tǒng)；如果從心理學(xué)的角度看，一個(gè)人說(shuō)話(huà)的特點(diǎn)是可以體現(xiàn)人格的，那么說(shuō)LaMDA具備人格也不完全錯(cuò)誤。

”怎么理解呢？通俗來(lái)說(shuō)就是LaMDA學(xué)習(xí)了大量的人類(lèi)對(duì)話(huà)數(shù)據(jù)，而這些對(duì)話(huà)來(lái)自不同的人，所以可以認(rèn)為L(zhǎng)aMDA學(xué)習(xí)到了一個(gè)“平均”的人格，也就是說(shuō)，所謂的“LaMDA具備人格”僅僅是語(yǔ)言說(shuō)話(huà)風(fēng)格，而且是來(lái)自人類(lèi)的說(shuō)話(huà)風(fēng)格，并不是LaMDA自發(fā)形成的。

如此看來(lái)，想要通過(guò)LaMDA體會(huì)一把與人工智能一決高下的科幻情節(jié)，還差個(gè)十萬(wàn)八千里。但是，我們不能因此否定LaMDA的價(jià)值，它的高質(zhì)量對(duì)話(huà)水平反映了AI對(duì)話(huà)系統(tǒng)的飛速發(fā)展，在某些語(yǔ)境下的確有“取代”人類(lèi)的趨勢(shì)，也不容小覷。

比如，網(wǎng)友“夷簡(jiǎn)”就在豆瓣小組記錄了自己一周date了4個(gè)虛擬男友的經(jīng)歷，表示“比真男友管用！”。一個(gè)名為“人機(jī)之戀”的小組用戶(hù)數(shù)量多達(dá)9人，在不同的屏幕里，這些AI或許是他們的愛(ài)人，也可能是朋友。

網(wǎng)友與“虛擬男友”的聊天記錄

“單身狗”們紛紛感嘆：“按照這樣的發(fā)展趨勢(shì)，相親市場(chǎng)上的潛在對(duì)手不僅有人類(lèi)，還有AI對(duì)話(huà)系統(tǒng)，以后是不是更難找對(duì)象了?。俊笨此普{(diào)侃，實(shí)則是大家對(duì)AI對(duì)話(huà)系統(tǒng)未來(lái)發(fā)展趨勢(shì)，以及對(duì)人類(lèi)社會(huì)影響的關(guān)注。針對(duì)這個(gè)問(wèn)題，黃民烈教授從AI對(duì)話(huà)系統(tǒng)的歷史與未來(lái)發(fā)展角度給出了詳細(xì)解釋。

3 擔(dān)心AI人格化？規(guī)避風(fēng)險(xiǎn)后 AI for Social good更值得期待

AI對(duì)話(huà)系統(tǒng)經(jīng)歷了基于規(guī)則（比如Eliza）、傳統(tǒng)機(jī)器學(xué)習(xí)（比如智能音箱類(lèi)，SIRI等）階段，如今已發(fā)展到第三代，也就是我們現(xiàn)在看到的，能夠與人類(lèi)討論有趣的話(huà)題、提供情感安慰的對(duì)話(huà)系統(tǒng)。

第三代對(duì)話(huà)系統(tǒng)以大數(shù)據(jù)和大模型為顯著特征，展現(xiàn)出了之前難以想象的能力，其進(jìn)步可以稱(chēng)為“革命性”，例如能夠在開(kāi)放話(huà)題上能展現(xiàn)驚人的對(duì)話(huà)能力，而且能生成訓(xùn)練數(shù)據(jù)中完全沒(méi)有出現(xiàn)過(guò)的對(duì)話(huà)，對(duì)話(huà)的自然性和相關(guān)性非常高。

第三代對(duì)話(huà)系統(tǒng)已經(jīng)在很多場(chǎng)景下顯示出應(yīng)用價(jià)值，上文提到的“虛擬男友”就是典型例子。黃民烈教授認(rèn)為，最高級(jí)別的應(yīng)用是讓AI對(duì)話(huà)系統(tǒng)去做復(fù)雜的情感任務(wù)，比如心理咨詢(xún)。但是如果人類(lèi)對(duì)AI的情感依賴(lài)越來(lái)越多，就會(huì)引申出新的社會(huì)倫理問(wèn)題，比如與AI談戀愛(ài)是否會(huì)引發(fā)社會(huì)問(wèn)題？

比如當(dāng)前的AI對(duì)話(huà)系統(tǒng)存在與用戶(hù)對(duì)罵、生成毒性語(yǔ)言、以及缺少正確的社會(huì)倫理和價(jià)值觀(guān)的問(wèn)題，導(dǎo)致在實(shí)際應(yīng)用部署時(shí)存在一定的風(fēng)險(xiǎn)。這些風(fēng)險(xiǎn)是非?？膳碌?，假想某個(gè)受到生活嚴(yán)重打擊的人，對(duì)AI說(shuō)：“我想找個(gè)橋跳下去”，AI立刻提供了附近橋的位置并導(dǎo)航路徑，后果細(xì)思恐極。

因此，黃民烈認(rèn)為，AI對(duì)話(huà)系統(tǒng)下一階段發(fā)展的重點(diǎn)是“更有倫理、更道德、更安全”。AI必須知道什么回復(fù)是安全的，不會(huì)產(chǎn)生風(fēng)險(xiǎn)，這就需要AI具備倫理和正確的價(jià)值觀(guān)?！拔覀兛梢酝ㄟ^(guò)額外的資源、規(guī)則、檢測(cè)手段賦予AI這樣的能力，使風(fēng)險(xiǎn)降至最低?！盇I最終的目標(biāo)是為人類(lèi)謀福祉，而不是傷害人類(lèi)。黃民烈教授表示對(duì)AI for Social good（AI賦能社會(huì)）非常期待，他尤其關(guān)注AI在社會(huì)連接、心理疏導(dǎo)、情緒支持方面的應(yīng)用，這些方面能夠產(chǎn)生更高的社會(huì)意義和價(jià)值。

因此，AI 賦能整體精神心理行業(yè)也是黃民烈教授現(xiàn)階段的工作重點(diǎn)，他為此創(chuàng)辦了基于A(yíng)I技術(shù)的精神健康數(shù)字診療科技公司聆心智能，通過(guò)NLP和大模型訓(xùn)練AI對(duì)話(huà)系統(tǒng)在共情、自我暴露、提問(wèn)等方面的能力，用以解決人類(lèi)的情緒、心理問(wèn)題，有望緩解我國(guó)心理健康資源緊缺的狀況。因此，相比于A(yíng)I具備人格這樣“遙遙無(wú)期”的科幻戲碼，AI for Social good距離人類(lèi)社會(huì)更近，是AI界人士正在努力的方向，也更值得期待。