這些內(nèi)容并不全是“深度偽造”(deepfake)，后者特指設(shè)計得極具誤導(dǎo)性的內(nèi)容。

近年來，我們看到深度偽造被用于操縱選舉、實施欺詐和盜竊，以及未經(jīng)他人同意制作色情圖片。

隨著AI工具變得更加強大和易獲取，這些問題只可能會愈演愈烈。例如，埃隆·馬斯克的AI公司xAI開發(fā)的Grok 3，現(xiàn)在對所有X(Twitter)用戶免費開放，可用來制作逼真的真人深度偽造內(nèi)容。

有很多工具可以用來防范深度偽造帶來的欺騙或濫用。基于AI的檢測工具能以不同程度的成功率檢測內(nèi)容是否經(jīng)過數(shù)字生成或篡改。多因素身份驗證和其他數(shù)字身份驗證工具也可以防范社會工程學(xué)攻擊。

但深度偽造技術(shù)發(fā)展迅速，日新月異，這些措施還遠遠不夠，因此，如果你想采取措施保護自己，那么教育、批判性思維和意識的培養(yǎng)同樣重要，甚至更加重要。

批判性思維和意識

技術(shù)可以幫助我們防范深度偽造，但它不是萬能的，也不是百分之百可靠的。

這就是為什么我認為，防范AI生成的虛假信息帶來的危害，最好的防御手段是人的能力——情境意識和批判性思維。

企業(yè)今天就需要開始培訓(xùn)員工，讓他們能夠批判性地評估內(nèi)容和信息。而作為個人，我們應(yīng)該了解那些居心叵測之人會如何以及為何試圖影響我們的想法和選擇——包括我們的民主選擇。

深度偽造帶來了一些獨特的挑戰(zhàn)，需要一些特定的技能來應(yīng)對：

事實核查和驗證是兩種顯而易見的能力——如今，核實我們的信息來源，確定信息的真正來源比以往任何時候都更為重要。Facebook開發(fā)了一些功能，當用戶看到的信息可能具有欺騙性時會發(fā)出警告，比如信息來自似乎試圖隱藏其身份的來源。

不過，F(xiàn)acebook也因取消事實核查功能而受到批評，此舉可謂一種倒退。

情境意識通常就像問“這合理嗎?”一樣簡單。

了解背景和情境可能幫助許多人在2022年意識到這段關(guān)于弗拉基米爾·澤連斯基(Volodymyr Zelensky)向俄羅斯投降的視頻并非真實。

那家工程公司Arup的員工，被騙子用偽造的老板聲音騙走了2500萬美元，如果他多留心這個要求的異常之處，可能會更有防備。

批判性思維技能幫助我們了解信息來自何處，以及他們?yōu)楹我研畔⒔o我們。虛假信息內(nèi)容通常會以極端的方式利用情緒，制造恐懼、憤怒或興奮。幸運的是，我們可以被訓(xùn)練成能夠察覺自己何時被以這種方式操縱。

因此，我們在消費任何內(nèi)容時，應(yīng)該學(xué)會考慮三件事：

它是在試圖影響我嗎?

它真的可能發(fā)生嗎?

我能相信告訴我信息的人嗎?

強調(diào)用這種批判性思維的方法思考內(nèi)容的重要性，對保護我們免受深度偽造影響至關(guān)重要。

適應(yīng)后真相世界

深度偽造技術(shù)只會變得更加復(fù)雜。我們很可能會到達一個連最好的檢測工具都無法總是識別出偽造視頻、圖像或音頻的地步。

我在這里提到的防御機制——批判性思維、意識和推理——可能在更長的時間內(nèi)依然有效。

監(jiān)管會保護我們嗎?一些國家的政府已經(jīng)出臺了關(guān)于深度偽造的法規(guī)，然而，不幸的是，犯罪分子并不總是守法。

因此，各企業(yè)現(xiàn)在就需要做出反應(yīng)，確保每個人都了解在采取行動之前核實和批判性評估信息的程序和政策。

對于個人而言，意識到AI虛假信息的危害，無論是試圖影響我們投票給誰，還是我們給誰捐款，都應(yīng)該成為我們的第二天性。

這應(yīng)該會幫助我們在一個未來保持正確的方向，在那個時候，我們可能無法確定自己親眼所見是否值得信賴。