近日，美國國家安全局（NSA）、聯(lián)邦調(diào)查局（FBI）、網(wǎng)絡(luò)安全和基礎(chǔ)設(shè)施安全局（CISA）聯(lián)合發(fā)布了一份網(wǎng)絡(luò)安全信息表（CSI），以應(yīng)對深度偽造所帶來的新威脅。

CSI的標(biāo)題為“將Deepfake威脅情境化到組織”，旨在幫助組織識別，防御和應(yīng)對deepfake威脅。它建議組織實施實時驗證功能、被動檢測技術(shù)以及針對高級人員及其通信的保護(hù)措施等技術(shù)，以檢測和緩解深度偽造。

深度偽造是指使用人工智能 （AI） 和機(jī)器學(xué)習(xí)技術(shù)合成創(chuàng)建或操縱的多媒體內(nèi)容。包括各種形式的人工生成或操縱的媒體，包括淺/廉價的偽造，生成AI和計算機(jī)生成的圖像（CGI）。網(wǎng)絡(luò)行為者現(xiàn)在可以使用這些技術(shù)的便利性和規(guī)模對國家安全構(gòu)成了獨特的挑戰(zhàn)。

與許多技術(shù)一樣，深度偽造既可用于積極目的，也可用于惡意目的。雖然有跡象表明，有惡意行為者大量使用這種合成技術(shù)，但能力較差的惡意網(wǎng)絡(luò)行為者可獲得的合成媒體技術(shù)的可用性和效率不斷提高，表明這些類型的技術(shù)可能會增加頻率和復(fù)雜性。

深度偽造可能帶來的不良后果諸多，比如一旦有人通過冒充領(lǐng)導(dǎo)者和財務(wù)人員或使用欺詐性通信來訪問網(wǎng)絡(luò)和敏感信息，就可用來破壞組織的品牌和財務(wù)。此外，深度偽造還有可能通過傳播有關(guān)政治、社會、軍事或經(jīng)濟(jì)問題的虛假信息來引起公眾騷亂。

如今，像GitHub這樣的開源存儲庫已經(jīng)提供了現(xiàn)成的基于深度學(xué)習(xí)的算法，使這些技術(shù)的應(yīng)用可供技術(shù)技能和設(shè)備最少的個人使用。

深度偽造和生成式人工智能的新興趨勢

報告中提到，與深度偽造的創(chuàng)造相關(guān)的技術(shù)發(fā)展動態(tài)趨勢將繼續(xù)降低將該技術(shù)用于惡意目的的成本和技術(shù)壁壘。到2030年，生成式人工智能市場預(yù)計將超過 1000 億美元，以每年超過 35%的平均速度增長。盡管惡意行為者可用的能力將大幅增加，但尋求識別和減輕深度偽造的防御者可用的技術(shù)和技巧也將大幅提高。

為了應(yīng)對這些不斷變化的威脅，國家安全局、聯(lián)邦調(diào)查局和中央情報局敦促安全專業(yè)人員實施CSI中提到了幾點建議：

選擇并實施檢測深度偽造和展示媒體來源的技術(shù)：包括實時驗證能力和程序、反向圖像搜索、視覺/音頻檢查、元數(shù)據(jù)檢查等；

保護(hù)高優(yōu)先級個人的公共數(shù)據(jù)：為了保護(hù)個人信息不被用于或重新用于虛假信息，人們應(yīng)該開始考慮使用主動認(rèn)證技術(shù)，如水印或CAI標(biāo)準(zhǔn)。

組織應(yīng)優(yōu)先考慮信息共享，計劃和演練對剝削企圖的響應(yīng)，并提供人員培訓(xùn)以最大程度地減少深度偽造的影響。

參考來源：https://ts2.space/en/the-national-security-agency-nsa-issues-guidance-on-deepfake-threats/