愛(ài)人離世，你會(huì)把 TA 的記憶交給 AI 嗎?《奇葩說(shuō)》的這期辯題似乎在探討一個(gè)離我們?nèi)赃b遠(yuǎn)的科幻話題，但去年 9 月，阿里巴巴人工智能實(shí)驗(yàn)室真的接到了這樣一個(gè)請(qǐng)求。

請(qǐng)求幫助的是一位上海媽媽，她的女兒因患 T 淋巴母細(xì)胞性淋巴瘤離世，年僅 14 歲。

懷抱著太多孩子生前未能實(shí)現(xiàn)的遺憾，這位媽媽決定將女兒做成“AI”，用另一種方式緬懷她。去年 9 月，她嘗試在微博向阿里巴巴人工智能實(shí)驗(yàn)室發(fā)出了這條消息。

“可以把我故去的女兒做成和我互動(dòng)的軟件嗎?”

[[313406]]

沒(méi)想到，這條求助很快有了回應(yīng)。

三個(gè)月的時(shí)間讓失獨(dú)媽媽重新聽(tīng)見(jiàn)女兒

考慮許久，阿里巴巴人工智能實(shí)驗(yàn)室負(fù)責(zé)人、語(yǔ)音助手首席科學(xué)家聶再清接受了這位媽媽的求助。

單從技術(shù)角度考慮，在足夠的語(yǔ)料數(shù)據(jù)和算法的加持下，通過(guò)目前的語(yǔ)音合成技術(shù)，“復(fù)制”一個(gè)虛擬人的難度并不大。

聶再清稱，目前的技術(shù)條件下，通過(guò)個(gè)性化語(yǔ)音合成技術(shù)以及對(duì)話技術(shù)，需要大概十分鐘的、特別干凈的音頻信號(hào)，就能夠讓我們的機(jī)器進(jìn)行學(xué)習(xí)。

但對(duì)阿里人工智能團(tuán)隊(duì)而言，幫這位媽媽重現(xiàn)女兒的音容，面對(duì)的不只是技術(shù)難點(diǎn)。

首先，最大的技術(shù)問(wèn)題是可用語(yǔ)料不足。要實(shí)現(xiàn)語(yǔ)音合成必須給算法提供大量可供訓(xùn)練的素材，但女兒生前留下的語(yǔ)音素材并不多，而且能提供的多是用智能手機(jī)錄下的視頻，大多環(huán)境嘈雜。

據(jù)阿里團(tuán)隊(duì)稱，所有的片段加在一起，能夠用作訓(xùn)練的語(yǔ)音素材，只有短短的兩三分鐘。

這就讓訓(xùn)練難度變得極大。因此，聶再清告訴求助者，憑借現(xiàn)有的技術(shù)很難達(dá)到她心中理想的效果，而這也就意味著，無(wú)論技術(shù)團(tuán)隊(duì)如何攻堅(jiān)，AI 終究不是“真實(shí)”的女兒。

其次，除了語(yǔ)音合成，聶再清團(tuán)隊(duì)也坦誠(chéng)向她表達(dá)了對(duì)“AI 女兒”認(rèn)知上的擔(dān)憂。

當(dāng)媽媽問(wèn)出一個(gè)問(wèn)題，“AI 女兒”是否能夠以女兒的認(rèn)知水平和價(jià)值觀來(lái)回答，在這方面，技術(shù)難度較大。

另外，市面現(xiàn)有的語(yǔ)音助手，例如 Siri 和天貓精靈，當(dāng)輸入的語(yǔ)言超過(guò) AI 的理解范圍時(shí)，它的設(shè)定是去網(wǎng)絡(luò)檢索一個(gè)最接近的回答進(jìn)行反饋，這就存在很大的不可控性。

比如上個(gè)月，亞馬遜的語(yǔ)音助手 Alexa 就因?yàn)閺木S基百科中提取到了一些惡意文本，勸主人“自殺”，對(duì)英國(guó)一位 29 歲的醫(yī)生丹妮說(shuō)出了“用尖刀刺入心臟”這樣可怕的話。

為這位媽媽做出的“AI 女兒”，也因此會(huì)存在回應(yīng)的隨機(jī)性，這很有可能在某些情況下冒犯到她和她的家人。

了解了可能面對(duì)的風(fēng)險(xiǎn)后，這位媽媽和她的丈夫還是堅(jiān)持了最初的想法，她表示不在乎虛擬女兒偶爾的“冒犯”，這是成長(zhǎng)期孩子最正常的表現(xiàn)。

之后，他們配合技術(shù)團(tuán)隊(duì)列出了女兒生前感興趣的話題，希望在這些話題下進(jìn)行訓(xùn)練，確保在某種程度上，虛擬女兒的回答是可控的。

除了技術(shù)難點(diǎn)，阿里的工程師也就此與羅漢堂專家，以及外部的心理學(xué)家在技術(shù)之外的可能性上展開(kāi)了探討。

三個(gè)月后，他們終于輸出了一份小成果，幫助這位媽媽合成了一段女兒長(zhǎng)達(dá) 20 秒的語(yǔ)音，存在了天貓精靈里。

這段語(yǔ)音復(fù)原了女兒寫的一篇作文，記錄了她和媽媽一起去爬山的故事。

 圖片來(lái)自《人物》

盡管最終做出的音頻樣本與設(shè)想還有一些差距，但媽媽表示，音頻開(kāi)頭的語(yǔ)氣，和女兒幾乎一模一樣。

關(guān)于具體的研發(fā)過(guò)程、算法實(shí)現(xiàn)等，大數(shù)據(jù)文摘嘗試采訪阿里巴巴相關(guān)負(fù)責(zé)人。

但阿里表示，現(xiàn)階段仍不希望在過(guò)多的聚焦在技術(shù)細(xì)節(jié)上，他們也擔(dān)憂在相關(guān)倫理探討更清晰前，這一舉動(dòng)會(huì)被模仿。

美國(guó)記者自學(xué)代碼，讓去世的父親在手機(jī)中復(fù)活

想要用人工智能留住逝去的親人，這位上海失獨(dú)媽媽并不是第一例。

2016 年，一位美國(guó)記者 James Vlahos 的父親查出肺癌晚期，悲痛的他想要盡可能留住自己與父親的記憶。

[[313407]] 

James 突然冒出了一個(gè)瘋狂的想法：與其將這些信息存在紙上，不如利用 AI 讓它們活過(guò)來(lái)，他決定開(kāi)發(fā) Dadbot——擁有父親記憶的聊天機(jī)器人。

[[313408]] 

James 首先說(shuō)服了自己的家人與父親本人，老爺子對(duì)此意外的沒(méi)有任何抵觸，同時(shí)還覺(jué)得很酷。于是 James 讓父親在生前最后幾個(gè)月講述其生平故事。

[[313409]] 

接下來(lái)他開(kāi)始攻克技術(shù)難關(guān)，自學(xué)代碼，利用 AI 公司 Pull String 的開(kāi)源軟件進(jìn)行開(kāi)發(fā)。其中包括 140 多個(gè)相關(guān)的問(wèn)題詞條，并用多達(dá) 9 萬(wàn)個(gè)詞的語(yǔ)料庫(kù)訓(xùn)練 AI。

最終，趕在父親離世前，他完成了一個(gè)為父親量身定制的人工智能程序，當(dāng)他和家人想父親時(shí)，就打開(kāi)這個(gè)程序聊幾句，這給他和他的家人莫大安慰。 

-老爹，你在嗎?-機(jī)器人會(huì)休息嗎?傻小子。

在 James 心中，這還差的很遠(yuǎn)，他要的不是智能的語(yǔ)音助手，而是那種與父親交流時(shí)的熟悉感。

但顯然，9 萬(wàn)字的生平記錄也無(wú)法填充一個(gè)真實(shí)的靈魂，于是他不得不為父親重新制作了一塊更大的“記憶拼圖”。 

新的問(wèn)題框架更為龐大詳細(xì)，這些問(wèn)題涵蓋了父親的父母，他的童年時(shí)光，學(xué)生時(shí)期，與母親的甜蜜邂逅，職業(yè)的選擇等。

另外聊天機(jī)器人的訓(xùn)練極為枯燥，據(jù) James 介紹，他只能頻繁的與其交流，讓 Dadbot 能夠理解每句話的含義。 

同時(shí)要尋找 Bug，很多詞匯機(jī)器人并不理解，需要他手動(dòng)調(diào)整。為此他經(jīng)常拉著全家人和 Dadbot 聊天，全方位的“轟炸”這位 AI 老爸。

這段時(shí)期對(duì)于 James 來(lái)說(shuō)也非常難熬。他不確定自己是否扭曲了對(duì)父親的感情，也很猶豫 Dadbot 設(shè)定應(yīng)該無(wú)限趨于真實(shí)的父親，亦或是僅僅作為一個(gè)回憶道具。

Dadbot 在成長(zhǎng)的同時(shí)，父親的生命也在流逝。好在功夫不負(fù)有心人，隨著技術(shù)提升與不斷的調(diào)整測(cè)試，Dadbot 最終在父親臨終前擁有了一定的智能表現(xiàn)，聊天不再是一問(wèn)一答的獨(dú)白，更像是有思維的對(duì)話。

當(dāng)前技術(shù)的迅速發(fā)展讓這種“復(fù)制”技術(shù)的門檻迅速降低，也許很快，不止技術(shù)機(jī)構(gòu)，很多非專業(yè)人員通過(guò)自學(xué)也能夠完成。 

去年熱播日劇《輪到你了》中，男主角就通過(guò)大量的照片和聊天記錄，復(fù)原了去世的女主，在手機(jī)里創(chuàng)造了一只“菜奈 AI”。 

TA 能夠用女主的聲音和語(yǔ)氣與人對(duì)話，成為了男主案件調(diào)查過(guò)程中的最大安慰。

受其啟發(fā)，有不少網(wǎng)友也分享了如何通過(guò)風(fēng)格遷移等方式，讓機(jī)器模仿自己的話語(yǔ)，制作一個(gè) AI 版自己。

日前，78 歲的美國(guó)間諜小說(shuō)家、好萊塢編劇安德魯·卡普蘭已同意成為“AndyBot”——一個(gè)數(shù)字人，他將在云上永生數(shù)百年，甚至數(shù)千年。

如果一切按照計(jì)劃進(jìn)行，未來(lái)幾代人將能夠使用移動(dòng)設(shè)備或智能語(yǔ)音計(jì)算平臺(tái)與他互動(dòng)，即使在他的肉身去世很久之后，仍能得到他一生經(jīng)驗(yàn)的寶貴建議。

[[313413]]

但是，這樣的舉動(dòng)是否存在倫理問(wèn)題和法律風(fēng)險(xiǎn)?其所屬權(quán)如何定義? 

針對(duì)逝者的留存數(shù)據(jù)歸誰(shuí)所有的問(wèn)題，我們也咨詢了相關(guān)專家，其表示“逝者虛擬化”仍然是一個(gè)非常新的技術(shù)領(lǐng)域，和目前法律界已有相對(duì)成熟共識(shí)的“克隆人”以及“AI 人格”議題都不太一致，當(dāng)前法律界還沒(méi)有一個(gè)定論。

如果用 AI“還原”已逝親人正成為一種作用于失獨(dú)家庭的新可能，那么需要首先確定的是，如何讓它成為輔助療愈的手段，而不是讓失去親人的人沉溺在被技術(shù)還原的陪伴中，影響真正意義上的康復(fù)。

在開(kāi)頭提到的《奇葩說(shuō)》辯題中，六位辯手用了近兩個(gè)小時(shí)的時(shí)間，去探討“還原”已逝親人是會(huì)治愈我們，還是會(huì)令我們跌入思念的深淵。

[[313414]] 

當(dāng)前技術(shù)條件下，盡管被“復(fù)活”的 AI 目前只能完成一些微弱的功能，距離科幻片中的場(chǎng)景還有很大距離，但依然值得更廣泛的討論。

和所有的技術(shù)一樣，AI 最終仍要作用于人。如何在智能和人性中實(shí)現(xiàn)平衡，是一道永恒的命題。

而面對(duì)這一問(wèn)題，這位想要復(fù)活女兒的媽媽早已有了自己的判斷。

“盡管技術(shù)的完善需要時(shí)間，但已經(jīng)給人帶來(lái)了希望，這是最重要的。”

你如何看待失獨(dú)母親 AI 用“復(fù)活”女兒這件事?歡迎底部留言探討。

相關(guān)報(bào)道：

https://mp.weixin.qq.com/s/gY_KetYopg-FZZ8BXaUwvA

https://www.cnblogs.com/SlashOut/p/10948998.html

https://www.bilibili.com/video/av83723889/?redirectFrom=h5