近日，美國國家安全局（NSA）、聯(lián)邦調(diào)查局（FBI）、網(wǎng)絡安全和基礎設施安全局（CISA）聯(lián)合發(fā)布了一份網(wǎng)絡安全信息表（CSI），以應對深度偽造所帶來的新威脅。

CSI的標題為“將Deepfake威脅情境化到組織”，旨在幫助組織識別，防御和應對deepfake威脅。它建議組織實施實時驗證功能、被動檢測技術以及針對高級人員及其通信的保護措施等技術，以檢測和緩解深度偽造。

深度偽造是指使用人工智能 （AI） 和機器學習技術合成創(chuàng)建或操縱的多媒體內(nèi)容。包括各種形式的人工生成或操縱的媒體，包括淺/廉價的偽造，生成AI和計算機生成的圖像（CGI）。網(wǎng)絡行為者現(xiàn)在可以使用這些技術的便利性和規(guī)模對國家安全構成了獨特的挑戰(zhàn)。

與許多技術一樣，深度偽造既可用于積極目的，也可用于惡意目的。雖然有跡象表明，有惡意行為者大量使用這種合成技術，但能力較差的惡意網(wǎng)絡行為者可獲得的合成媒體技術的可用性和效率不斷提高，表明這些類型的技術可能會增加頻率和復雜性。

深度偽造可能帶來的不良后果諸多，比如一旦有人通過冒充領導者和財務人員或使用欺詐性通信來訪問網(wǎng)絡和敏感信息，就可用來破壞組織的品牌和財務。此外，深度偽造還有可能通過傳播有關政治、社會、軍事或經(jīng)濟問題的虛假信息來引起公眾騷亂。

如今，像GitHub這樣的開源存儲庫已經(jīng)提供了現(xiàn)成的基于深度學習的算法，使這些技術的應用可供技術技能和設備最少的個人使用。

深度偽造和生成式人工智能的新興趨勢

報告中提到，與深度偽造的創(chuàng)造相關的技術發(fā)展動態(tài)趨勢將繼續(xù)降低將該技術用于惡意目的的成本和技術壁壘。到2030年，生成式人工智能市場預計將超過 1000 億美元，以每年超過 35%的平均速度增長。盡管惡意行為者可用的能力將大幅增加，但尋求識別和減輕深度偽造的防御者可用的技術和技巧也將大幅提高。

為了應對這些不斷變化的威脅，國家安全局、聯(lián)邦調(diào)查局和中央情報局敦促安全專業(yè)人員實施CSI中提到了幾點建議：

選擇并實施檢測深度偽造和展示媒體來源的技術：包括實時驗證能力和程序、反向圖像搜索、視覺/音頻檢查、元數(shù)據(jù)檢查等；

保護高優(yōu)先級個人的公共數(shù)據(jù)：為了保護個人信息不被用于或重新用于虛假信息，人們應該開始考慮使用主動認證技術，如水印或CAI標準。

組織應優(yōu)先考慮信息共享，計劃和演練對剝削企圖的響應，并提供人員培訓以最大程度地減少深度偽造的影響。

參考來源：https://ts2.space/en/the-national-security-agency-nsa-issues-guidance-on-deepfake-threats/