譯者 | 晶顏

審校 | 重樓

在過(guò)去的幾年里，由于深度偽造（Deepfakes）技術(shù)的出現(xiàn)，數(shù)字領(lǐng)域的現(xiàn)實(shí)與虛擬之間的界限已經(jīng)緩慢而穩(wěn)步地變得越來(lái)越模糊。

復(fù)雜的、人工智能驅(qū)動(dòng)的合成媒體（Synthetic Media）已經(jīng)從好萊塢的一個(gè)新奇概念發(fā)展成為一種實(shí)用工具，被政治動(dòng)機(jī)驅(qū)動(dòng)的威脅行為者和網(wǎng)絡(luò)犯罪分子用于合成虛假信息和實(shí)施欺詐。

如今，隨著人工智能的應(yīng)用能力爆炸式增長(zhǎng)，深度偽造和合成媒體的威脅也隨之增長(zhǎng)。我們對(duì)網(wǎng)絡(luò)信息真實(shí)性的信任度從未如此之低，也從未如此脆弱。

在這篇文章中，我們將深入研究今天所看到的深度偽造世界，探索其本質(zhì)、風(fēng)險(xiǎn)、對(duì)現(xiàn)實(shí)生活的影響以及應(yīng)對(duì)這些高級(jí)威脅所需的措施。

什么是深度偽造？

深度偽造是人工創(chuàng)造的媒體，通常是視頻和音頻，旨在展示從未發(fā)生過(guò)的事件或人們參與的行為。它們利用復(fù)雜的人工智能（AI）和機(jī)器學(xué)習(xí)（ML）技術(shù)，特別是生成式對(duì)抗網(wǎng)絡(luò)（GAN）。

GAN涉及兩個(gè)AI模型：一個(gè)生成內(nèi)容（生成器），另一個(gè)評(píng)估其真實(shí)性（鑒別器）。生成器生成越來(lái)越逼真的假視頻或假音頻，而鑒別器不斷評(píng)估內(nèi)容的逼真度，導(dǎo)致生成的假視頻的質(zhì)量和可信度迅速提高。

最初，深度偽造在娛樂(lè)和社交媒體上找到了自己的位置，提供了創(chuàng)作內(nèi)容的新穎方式，比如在視頻中將名人的臉疊加到不同的身體上，或者實(shí)現(xiàn)逼真的聲音模仿。然而，這項(xiàng)技術(shù)創(chuàng)造高度令人信服的贗品的潛力，很快就從單純的新奇事物轉(zhuǎn)變?yōu)樘摷傩畔⒑?/span>被操縱的有力工具。

深度偽造的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)

從政治虛假信息到金融欺詐，深度偽造的后果是深遠(yuǎn)且多方面的。下面，我們將探討一些關(guān)鍵的例子，以了解這些風(fēng)險(xiǎn)的廣度和深度。

政治性虛假信息

深度偽造通過(guò)傳播虛假言論和操縱公眾輿論，對(duì)政治穩(wěn)定構(gòu)成重大風(fēng)險(xiǎn)，特別是當(dāng)它們被用來(lái)制造對(duì)政治人物的誤導(dǎo)性陳述時(shí)。第一個(gè)引人注目的例子發(fā)生在2018年，當(dāng)時(shí)BuzzFeed發(fā)布了一張奧巴馬總統(tǒng)的深度偽造照片。

從那以后，許多其他的案件被曝光；烏克蘭總統(tǒng)弗拉基米爾·澤倫斯基（Volodymyr Zelensky）的一段深度偽造視頻錯(cuò)誤地將他描繪成承認(rèn)失敗并敦促烏克蘭人向俄羅斯投降，旨在誤導(dǎo)和打擊公眾士氣。最終，由于發(fā)現(xiàn)澤倫斯基的頭部和身體大小不匹配等不符之處，該視頻被認(rèn)定為假視頻。

商業(yè)間諜活動(dòng)

在業(yè)界，深度偽造已經(jīng)成為實(shí)施欺詐的有效工具，有可能造成巨額的經(jīng)濟(jì)損失。這種騙局在冒充高級(jí)管理人員時(shí)尤為有效。一家英國(guó)能源公司損失了22萬(wàn)歐元，因?yàn)槿斯ぶ悄苘浖挥脕?lái)模仿該公司德國(guó)母公司首席執(zhí)行官的聲音，并指示英國(guó)首席執(zhí)行官緊急轉(zhuǎn)移資金。

個(gè)人身份盜竊和騷擾

當(dāng)虛假媒體被用來(lái)進(jìn)行身份盜竊和騷擾時(shí)，個(gè)人權(quán)利和隱私極易受到傷害。惡意媒體的創(chuàng)造可能遠(yuǎn)比我們以為的更嚴(yán)重。在德國(guó)，政府非常擔(dān)心深度偽造的威脅，以至于發(fā)布了一場(chǎng)廣告宣傳活動(dòng)來(lái)強(qiáng)調(diào)這些危險(xiǎn)，警告家長(zhǎng)注意與這些技術(shù)相關(guān)的風(fēng)險(xiǎn)。

操縱金融市場(chǎng)

除了對(duì)個(gè)人或組織造成傷害之外，深度偽造還可以通過(guò)虛假陳述影響投資者決策和市場(chǎng)情緒，擾亂整個(gè)金融市場(chǎng)。一個(gè)示例是攻擊者曾在一段深度偽造視頻中描述了五角大樓附近發(fā)生的假想爆炸，該視頻短暫地影響了美國(guó)股市。

法律和司法濫用

在法律領(lǐng)域，深度偽造可以用來(lái)偽造證據(jù)，可能導(dǎo)致司法不公，破壞司法程序的完整性。雖然在法律環(huán)境中尚未出現(xiàn)具體的廣泛實(shí)例，但以這種方式使用深度偽造的可能性，引起了人們對(duì)法庭上視聽(tīng)證據(jù)的可靠性和加強(qiáng)核查措施以確保司法公正的必要性的關(guān)切。

深度造假的檢測(cè)與打擊

與任何工具一樣，人工智能可以用于好的方面，也可以用于壞的方面。目前，業(yè)界正在努力開(kāi)發(fā)人工智能驅(qū)動(dòng)的方法來(lái)檢測(cè)和打擊深度偽造威脅。其中許多工作都集中在分析面部表情和語(yǔ)音生物識(shí)別技術(shù)上，以發(fā)現(xiàn)人眼和耳朵無(wú)法察覺(jué)的細(xì)微異常。這涉及到使用機(jī)器學(xué)習(xí)模型，并在包含真實(shí)和操縱媒體的廣泛數(shù)據(jù)集上訓(xùn)練它們，以便有效區(qū)分兩者。

通常與加密貨幣相關(guān)的區(qū)塊鏈技術(shù)也正在成為這場(chǎng)斗爭(zhēng)中的有用工具。區(qū)塊鏈提供了一種方法來(lái)驗(yàn)證媒體文件的來(lái)源和真實(shí)性，并確認(rèn)它們是否被更改。所謂的“智能合約”既可以用來(lái)驗(yàn)證數(shù)字內(nèi)容的真實(shí)性，也可以用來(lái)追蹤它是如何與其他對(duì)象交互的，包括任何修改。與可以標(biāo)記媒體內(nèi)容真實(shí)性的人工智能相結(jié)合，智能合約可以觸發(fā)審查過(guò)程或提醒相關(guān)當(dāng)局或利益相關(guān)者。

此外，業(yè)界還在開(kāi)發(fā)其他工具，以確保人工智能平臺(tái)創(chuàng)建的內(nèi)容可以被檢測(cè)為人為的。例如，谷歌的SynthID可以在人工智能生成的音頻內(nèi)容中嵌入聽(tīng)不見(jiàn)的“水印”。像SynthID這樣的方法旨在確保人工智能工具生成的內(nèi)容即使在被人類(lèi)或其他編輯軟件操縱后仍然被可靠地檢測(cè)為人工生成。

與其他網(wǎng)絡(luò)安全領(lǐng)域一樣，教育和宣傳活動(dòng)在打擊深度偽造威脅方面也發(fā)揮著重要作用。教育個(gè)人和組織了解深度偽造，如何發(fā)現(xiàn)它們，以及它們的潛在影響將是至關(guān)重要的。技術(shù)公司、網(wǎng)絡(luò)安全專(zhuān)家、政府機(jī)構(gòu)和教育機(jī)構(gòu)之間的合作在未來(lái)幾年將被證明是至關(guān)重要的，因?yàn)槲覀儗⑴χ贫ǜ娴膽?zhàn)略來(lái)打擊用于不良目的的人工生成內(nèi)容。

深度偽造時(shí)代組織和個(gè)人的最佳實(shí)踐

隨著深度偽造造成的威脅形勢(shì)不斷演變，采取策略來(lái)減輕與人工智能技術(shù)濫用相關(guān)的風(fēng)險(xiǎn)變得越來(lái)越重要。下述最佳實(shí)踐可以幫助組織和個(gè)人增強(qiáng)對(duì)深度偽造相關(guān)安全威脅的認(rèn)知。

提高認(rèn)識(shí)和培訓(xùn)

教育是防范深度偽造的基石。定期對(duì)員工進(jìn)行識(shí)別深度偽造的培訓(xùn)，可以顯著降低被欺騙的風(fēng)險(xiǎn)。該培訓(xùn)應(yīng)側(cè)重于合成媒體的微妙之處，并與深度偽造技術(shù)的最新發(fā)展保持同步。

在組織內(nèi)部培養(yǎng)一種核查文化，任何不尋?；蚩梢傻慕涣?/span>（特別是涉及敏感信息的交流）都要通過(guò)多種渠道進(jìn)行交叉核查。

實(shí)現(xiàn)強(qiáng)大的驗(yàn)證過(guò)程

對(duì)于關(guān)鍵通信，特別是在金融和法律環(huán)境中，實(shí)施多因素身份驗(yàn)證和嚴(yán)格的驗(yàn)證流程是必不可少的。例如，對(duì)于高風(fēng)險(xiǎn)交易或敏感信息共享進(jìn)行語(yǔ)音和視頻通話(huà)確認(rèn)可能是有效的。這種做法可以防止類(lèi)似于前面提到的CEO偽造聲音進(jìn)行欺詐活動(dòng)的事件。

利用先進(jìn)的網(wǎng)絡(luò)安全解決方案

我們可以通過(guò)將先進(jìn)的網(wǎng)絡(luò)安全解決方案與深度偽造檢測(cè)能力相結(jié)合，利用人工智能來(lái)?yè)魯∪斯ぶ悄?。使用人工智能和機(jī)器學(xué)習(xí)來(lái)分析和標(biāo)記潛在深度偽造的工具增加了重要的安全層。

定期軟件和安全更新

維護(hù)最新的軟件，包括安全解決方案，對(duì)網(wǎng)絡(luò)安全至關(guān)重要。更新通常包含針對(duì)新發(fā)現(xiàn)的漏洞的補(bǔ)丁，這些漏洞可能被深度偽造和其他網(wǎng)絡(luò)威脅利用。積極主動(dòng)地進(jìn)行軟件更新可以顯著降低發(fā)生安全漏洞的可能性。

與外部專(zhuān)家合作

對(duì)于那些內(nèi)部網(wǎng)絡(luò)安全能力有限的組織來(lái)說(shuō)，與外部安全專(zhuān)家合作可以提供增強(qiáng)的保護(hù)。這些專(zhuān)業(yè)人員可以提供有關(guān)最新威脅的信息，并協(xié)助制定專(zhuān)門(mén)針對(duì)深度偽造和其他新興網(wǎng)絡(luò)風(fēng)險(xiǎn)的策略。

個(gè)人警惕

作為個(gè)人，我們所有人在與媒體接觸時(shí)必須保持警惕，這包括對(duì)聳人聽(tīng)聞或有爭(zhēng)議的內(nèi)容保持一定的懷疑態(tài)度，在分享或根據(jù)這些信息采取行動(dòng)之前核實(shí)來(lái)源。

利用有助于檢測(cè)深度偽造的工具和瀏覽器擴(kuò)展也有助于加強(qiáng)個(gè)人網(wǎng)絡(luò)安全實(shí)踐。

同樣值得注意的是，與任何其他創(chuàng)作一樣，深度偽造的質(zhì)量也會(huì)因創(chuàng)作者的能力和對(duì)細(xì)節(jié)的把控而良莠不齊。這意味著在某些情況下，仍然有可能發(fā)現(xiàn)不那么先進(jìn)或復(fù)雜的深度偽造。在鑒別視頻過(guò)程中需要特別注意的事情包括：

• 不自然的眼球運(yùn)動(dòng)：人工智能生成的圖像或視頻可能無(wú)法準(zhǔn)確地復(fù)制復(fù)雜而自然的眼球運(yùn)動(dòng)。這種差異可以表現(xiàn)為不尋常的眨眼模式或缺乏自然的眼球運(yùn)動(dòng)。
• 音頻-視頻同步問(wèn)題：一些深度造假可能無(wú)法同步語(yǔ)音和嘴唇動(dòng)作，導(dǎo)致明顯的差異。
• 顏色和陰影不一致：人工智能經(jīng)常在持續(xù)渲染顏色和陰影方面表現(xiàn)不佳，特別是在不同的照明條件下。注意膚色或背景顏色的不一致，陰影可能會(huì)出現(xiàn)錯(cuò)位等情況。
• 不尋常的身體動(dòng)作：人工智能也可能難以保持身體形狀的一致性，導(dǎo)致明顯的扭曲或不規(guī)則。這可能包括突然的、不自然的動(dòng)作或表情，與一個(gè)人通常的動(dòng)作或反應(yīng)不一致。

簡(jiǎn)而言之，打擊深度偽造需要多方面的方法，結(jié)合教育、強(qiáng)大的驗(yàn)證過(guò)程、先進(jìn)的技術(shù)、軟件維護(hù)、專(zhuān)家協(xié)作和個(gè)人警惕。這些做法是應(yīng)對(duì)網(wǎng)絡(luò)安全領(lǐng)域日益復(fù)雜的深度偽造的綜合戰(zhàn)略的組成部分。此外，它們還將有助于抵御其他類(lèi)型的網(wǎng)絡(luò)安全威脅，鼓勵(lì)個(gè)人和組織在當(dāng)今以數(shù)字為中心的世界中必備所需要的安全思維。

深度偽造和網(wǎng)絡(luò)安全的未來(lái)

“潘多拉的魔盒”已經(jīng)打開(kāi)，我們不能奢望深度偽造消失。相反地，隨著深度偽造變得越來(lái)越普遍、越來(lái)越微妙，我們將需要制定有效的應(yīng)對(duì)措施，并在某些關(guān)鍵領(lǐng)域取得突破。

除了繼續(xù)開(kāi)發(fā)先進(jìn)的身份驗(yàn)證工具外，包括OpenAI和網(wǎng)絡(luò)安全公司等人工智能開(kāi)發(fā)商在內(nèi)的行業(yè)領(lǐng)導(dǎo)者還需要引導(dǎo)人工智能技術(shù)的開(kāi)發(fā)和應(yīng)用，以建立道德準(zhǔn)則，并確保針對(duì)深度偽造威脅的強(qiáng)大防御機(jī)制。

此外，還需要新的立法和法規(guī)來(lái)禁止和懲罰為有害目的制作和傳播深度偽造的媒體。由于數(shù)字媒體的跨國(guó)性質(zhì)，還需要在法律框架方面進(jìn)行國(guó)際合作，以有效打擊深度偽造。

正如我們上面提到的，教育公眾提高深度偽造認(rèn)知和媒體素養(yǎng)是應(yīng)對(duì)此類(lèi)威脅的一個(gè)組成部分。在這場(chǎng)涉及廣泛網(wǎng)絡(luò)面（這些面都可能傳播錯(cuò)誤信息）的斗爭(zhēng)中，僅靠技術(shù)和監(jiān)管無(wú)法贏得勝利。深度偽造不可避免地擴(kuò)散需要一種多維的防御方法來(lái)應(yīng)對(duì)，結(jié)合技術(shù)創(chuàng)新、道德行業(yè)實(shí)踐、明智的立法措施和公眾教育。

原文標(biāo)題：Beyond Illusion | Addressing the Cybersecurity Impact of Deepfakes and Synthetic Media，作者：Migo Kedem