“假新聞”一詞已經(jīng)成為當(dāng)下的熱門話題，而Deepfake(即看似真實，但實為偽造的視頻操縱行為)則會進(jìn)一步加劇民眾與媒體之間的不信任危機(jī)。技術(shù)人員希望利用區(qū)塊鏈的天然特性重建信任體系，以幫助公眾再度獲得對所見、所聞的信任感。

時至今日，真相正逐漸變成一種相對成立的表達(dá)。當(dāng)每個人都有屬于自己的一套真相時，民主將變得毫無意義。Deepfake的出現(xiàn)，則又給整個社會一記沉重的打擊——越來越多的人可以輕松根據(jù)自己的觀點及目標(biāo)制造事實。短短幾年之內(nèi)，我們的肉眼與耳朵已經(jīng)無法分辨視頻或者音頻內(nèi)容是否屬實。換言之，人類社會正面臨一個新的難題。

將“深度學(xué)習(xí)”與“偽造”結(jié)合起來，我們得到的就是deepfake——大家可以理解成人工智能支持下的超級PS技術(shù)。只要能夠提供與現(xiàn)有主題相關(guān)的充足數(shù)據(jù)(或者素材)，deepfake算法完全可以被用于操縱視頻內(nèi)容，人類幾乎無法看出其中的破綻。

Deepfake的社會影響

Deepfake有可能改變輿論、左右選舉結(jié)果或者引發(fā)種族暴力。在人身攻擊層面采取偽造宣傳方法早已不再新鮮，但隨著deepfake的出現(xiàn)，信息的偽造手段提升到了新的層面。在AI技術(shù)快速發(fā)展以及社交媒體病毒式傳播的雙重作用下，deepfake可能會成為困擾人類發(fā)展的最可怕技術(shù)之一。

Deepfake還擁有著改變游戲規(guī)則的力量，其原因有二。第一，deepfake代表著目前AI技術(shù)所能達(dá)到的復(fù)雜性高度。第二，也是更重要的一點，其技術(shù)獲取途徑正在快速民主化。

Deepfake的意義甚至與社會性無關(guān)，而可能表現(xiàn)為一種非常個人的行為。某個匿名Reddit賬戶就因利用deepfake技術(shù)大肆制作名人偽造視頻而廣為人知——主要是色情視頻。雖然這位作者的subreddit早在2018年2月就被封禁，但其視頻作品目前仍在網(wǎng)絡(luò)上廣泛傳播。

然而，deepfake的流行又催生出新的應(yīng)用方向。名人不再是唯一的潛在受害者，如今極為廣泛的獲取途徑以及更低的上手門檻，使得任何人都可以制作“報復(fù)性”視頻。

軟件生態(tài)

自此之后，市場上出現(xiàn)了多家致力于解決deepfake騙局的初創(chuàng)企業(yè)，Ambervideo.co當(dāng)數(shù)其中的佼佼者之一?？紤]到偽造視頻使得真實記錄越來越難以成為合法的證物，Amber公司希望構(gòu)建起一套中間層，用于檢測惡意變更。此外，他們還努力開發(fā)出檢測與驗證技術(shù)方案。

為了進(jìn)行檢測，Amber擁有一款軟件工具，能夠查看視頻與音頻軌道以及其中的種種元素，從而找到一切可能的修改跡象。Amber公司還在訓(xùn)練自己的AI模型，用于適應(yīng)視頻修改過程中所留下的種種特定模式。

這種方法的問題在于其嚴(yán)重依賴于反應(yīng)機(jī)制，因為AI只能從以往出現(xiàn)過的模式出發(fā)進(jìn)行學(xué)習(xí)。這種識別方式幾乎無法檢測出較新的deepfake算法，因此人們普遍認(rèn)為這種檢測思路將長期落后于最先進(jìn)的生成技術(shù)。

為了解決這個問題，Amber又開發(fā)出了驗證技術(shù)：加密指紋會在錄制后立即被添加在視頻之上。Amber Authenticate利用區(qū)塊鏈基礎(chǔ)設(shè)施每隔30秒進(jìn)行一次哈希存儲，因此對這些哈希產(chǎn)生影響的任何活動都有可能代表著篡改行為。

除了Amber這類軟件解決方案之外，應(yīng)對deepfake難題還需要硬件解決方案的支持。Signed at Source等企業(yè)正在通過為利益相關(guān)方提供攝像機(jī)集成產(chǎn)品的方式，自動對捕捉到的數(shù)據(jù)進(jìn)行簽名。Deepfake視頻幾乎無法提供與自動捕捉數(shù)據(jù)相同的簽名信息，這意味著我們能夠證明是哪臺攝像機(jī)錄制了這段視頻，從而完成溯源以及偽造識別工作。

現(xiàn)實用例

2019年10月3日，美國執(zhí)法部門技術(shù)供應(yīng)商Axon Enterprise公司宣布，他們正在探索對便攜攝像機(jī)的全新數(shù)據(jù)跟蹤技術(shù)，并將利用區(qū)塊鏈技術(shù)驗證警員隨身設(shè)備拍下的視頻的真實性。

Axon并不是唯一致力于解決deepfake相關(guān)問題的組織。國防高級研究計劃局(DARPA)的媒體取證計劃正在開發(fā)“用于自動評估圖像或視頻完整性的技術(shù)。”為了幫助證明視頻是否經(jīng)過篡改，F(xiàn)actom Protocol公司提出了一種新的解決方案，名為Off-Blocks。Factom Protocol市場營銷總監(jiān)Greg Forst表示：

“在對新聞、內(nèi)容以及文檔的準(zhǔn)確性進(jìn)行嚴(yán)格審查時，deepfake技術(shù)的興起無疑給我們的社會帶來了重大威脅。隨著這種現(xiàn)象的興起以及使用門檻的下降，我們可能將很難信任任何以視頻形式呈現(xiàn)的信息。這是一種危險的趨勢，模糊了數(shù)字身份的界線，因此我們需要在最嚴(yán)格的安全措施當(dāng)中考慮到這項挑戰(zhàn)。”

Forst認(rèn)為，開發(fā)人員、區(qū)塊鏈布道者以及網(wǎng)絡(luò)安全專家還應(yīng)著力探索不同的途徑，嘗試緩解deepfake造成的危害。數(shù)字解決方案的真實性證明能力對于消除偽造內(nèi)容至關(guān)重要。遺憾的是，此類解決方案目前仍無法提供對數(shù)字媒體歷史與出版的跟蹤功能。

區(qū)塊鏈能否拯救一切?

以Axiom的執(zhí)法隨機(jī)攝像機(jī)為例，視頻在源記錄器中即被添加進(jìn)指紋信息。這些指紋被寫入至不可變區(qū)塊鏈之上，并可由設(shè)備下載并上傳至云端。這些事件都將被記錄在智能合約當(dāng)中，并由合約負(fù)責(zé)整理出審計跟蹤索引。

[[280157]]

Axiom公司使用的技術(shù)被稱為“受控捕捉系統(tǒng)”，其應(yīng)用范圍當(dāng)然不止于警用攝像機(jī)。它能夠從內(nèi)容源中提取簽名，并利用加密方式進(jìn)行簽名，從而實現(xiàn)視頻記錄的可驗證性。

但是，由于視頻往往會經(jīng)過編碼，因此即使在理想情況下，我們也很難獲取到原始數(shù)據(jù)。另外，就算對視頻進(jìn)行極小的修改，簽名也將不再有效。而且編碼也不是唯一的問題——如果有人使用原始攝像機(jī)之外的設(shè)備進(jìn)行視頻轉(zhuǎn)錄，我們將同樣無法訪問到原始視頻數(shù)據(jù)。

谷歌的Content ID可能代表著一種可行的解決方案。該服務(wù)最初是為了揪出盜版活動所開發(fā)，但后來人們發(fā)現(xiàn)其可被用于檢測deepfake行為。在投入1億多美元進(jìn)行系統(tǒng)開發(fā)之后，谷歌公司成功創(chuàng)建出一種算法，能夠?qū)⒂脩羯蟼鞯囊曨l與一組注冊在案的參考視頻進(jìn)行匹配，從而消除部分匹配或者小幅修改造成的真實性影響。

但只有在deepfake內(nèi)容與原始副本非常相似時，該算法才能發(fā)揮作用。此外，保留大量指紋并調(diào)整變更算法，會對數(shù)據(jù)以及計算要求產(chǎn)生重大影響。在談?wù)搮^(qū)塊鏈技術(shù)能否應(yīng)對由deepfake帶來的威脅時，F(xiàn)actom公司的Frost補(bǔ)充道：

“談到deepfake，區(qū)塊鏈技術(shù)有望帶來獨特的解決方案。通過在區(qū)塊鏈之上創(chuàng)建視頻內(nèi)容，再配合驗證標(biāo)簽或圖形，其能夠給deepfake行為設(shè)置更高的門檻。……數(shù)字身份必須強(qiáng)調(diào)內(nèi)容的來源與創(chuàng)作者。我們可以看到，新聞與電影行業(yè)可能正在尋求這種解決方案;不過潛在的操縱者完全可以注冊為合法用戶并在系統(tǒng)當(dāng)中插入deepfake文件，因此情況仍然相當(dāng)棘手。即使是在區(qū)塊鏈之上，不良數(shù)據(jù)仍然是不良數(shù)據(jù)。因此我傾向于使用一整套解決方案組合。”

通常情況下，由于傳播與影響的起效速度很快，因此現(xiàn)有檢測技術(shù)往往根本就找不到施展的舞臺。由deepfake視頻帶來的公眾形象損失可能難以修復(fù)，種族或民族之間的矛盾也會快速升級，甚至讓個人間的關(guān)系在事件得到驗證前就徹底崩潰。換言之，最大的問題在于如今的信息傳播速度已經(jīng)失控。

齊心協(xié)力打擊deepfake

Purple Quarter公司首席運營官、搜索業(yè)務(wù)技術(shù)主管Roopa Kumar認(rèn)為必須強(qiáng)調(diào)技術(shù)本身的危害性：

“以核能為例，其既可被用于為數(shù)百萬居民供電，也有可能落入惡人手中在瞬間抹殺上百萬條人命。技術(shù)本身沒有任何道德觀念，但人類有。Deepfake可以被用于制作有趣的應(yīng)用，以供每個人在手機(jī)上使用。但是，如果被惡意人士所掌握，同樣的應(yīng)用程序也有可能顛覆我們所熟悉的日常生活乃至社會結(jié)構(gòu)。”

如今，很多人對政府及銀行等大規(guī)模中央機(jī)構(gòu)已經(jīng)不再信任。而區(qū)塊鏈的核心原則，也正是強(qiáng)調(diào)這種不信任心態(tài)。然而，區(qū)塊鏈(乃至整個技術(shù)生態(tài))并不足以承擔(dān)起與deepfake斗爭的全部責(zé)任。

因此，各方必須齊心協(xié)力，共同打擊deepfake。從事deepfake技術(shù)研究的開發(fā)人員必須在線發(fā)布代碼，以便第三方能夠交叉檢查。此外，監(jiān)管機(jī)構(gòu)還應(yīng)探索如何更好地監(jiān)督這一領(lǐng)域。最重要的是，要讓民眾充分了解這種技術(shù)，并確保在接納一切信息前都首先進(jìn)行理性判斷。 

【編輯推薦】

1. 解碼技術(shù)社區(qū)：Github區(qū)塊鏈代碼庫超5萬 這個最受關(guān)注
2. 銀行解鎖區(qū)塊鏈應(yīng)用 欲破行業(yè)寒冬
3. 全國性區(qū)塊鏈服務(wù)網(wǎng)絡(luò)發(fā)布 服務(wù)新型智慧城市建設(shè)
4. 區(qū)塊鏈與大數(shù)據(jù)不得不說的互補(bǔ)關(guān)系
5. 區(qū)塊鏈可促進(jìn)無人駕駛的發(fā)展？寶馬、通用、福特都在嘗試了