譯者 | 陳峻

審校 | 重樓

2025年已過(guò)半，在線身份欺詐的行為已經(jīng)從原始的信用卡號(hào)盜用和文件偽造，演變成為更具欺騙性的方式--合成身份欺詐（Synthetic identity fraud），即：由人工智能（AI）生成的角色來(lái)盜用和冒用你的身份，模仿你的語(yǔ)音與表達(dá)習(xí)慣，甚至深度融入你的數(shù)字生活，創(chuàng)造出令人信服的數(shù)字分身。這些數(shù)字幽靈已經(jīng)成為我們從未預(yù)料到的最大威脅之一。

數(shù)字幽靈的剖析

傳統(tǒng)的身份盜竊需要竊取的真實(shí)信息包括：社會(huì)安全號(hào)碼、信用報(bào)告、駕照照片等。而合成身份欺詐可以創(chuàng)造一些從未存在過(guò)的東西，但在每個(gè)旨在檢測(cè)欺詐的驗(yàn)證系統(tǒng)中被“看起來(lái)”完全合法?？梢姾铣缮矸萜墼p代表了從傳統(tǒng)機(jī)會(huì)主義犯罪到系統(tǒng)性實(shí)現(xiàn)的根本轉(zhuǎn)變。而且這種轉(zhuǎn)變過(guò)程簡(jiǎn)單得令人惶恐，且越來(lái)越自動(dòng)化。

具體而言，AI驅(qū)動(dòng)的平臺(tái)能夠輕易生成逼真的個(gè)人資料圖片；大語(yǔ)言模型可以快速制作出順利通過(guò)人工審查和自動(dòng)篩選系統(tǒng)的工作經(jīng)歷、教育背景和個(gè)人簡(jiǎn)歷；語(yǔ)音合成技術(shù)則能夠創(chuàng)建出音頻樣本，以騙過(guò)專門為防止此類攻擊而設(shè)計(jì)的生物識(shí)別驗(yàn)證系統(tǒng)。

美國(guó)聯(lián)邦貿(mào)易委員會(huì)的2024年欺詐報(bào)告曾揭示了一個(gè)驚人的現(xiàn)實(shí)：目前，由合成身份欺詐每年造成的損失已超過(guò) 200 億美元，是增長(zhǎng)最快的金融犯罪類別。而且該數(shù)字僅反映了直接的財(cái)務(wù)影響，尚不包括對(duì)數(shù)字系統(tǒng)信任產(chǎn)生的連鎖反應(yīng)、在線驗(yàn)證機(jī)制的破壞等。

合成身份的流水線化

目前，支持合成身份生成的基礎(chǔ)設(shè)施，已經(jīng)發(fā)展成為一個(gè)成熟的犯罪生態(tài)系統(tǒng)，其運(yùn)行效率已趕超合法的軟件即服務(wù)（software-as-a-service）平臺(tái)。其中：

• ThisPersonDoesNotExist 使用生成式對(duì)抗網(wǎng)絡(luò)，生成不受限的逼真人臉。
• D-ID 創(chuàng)建合成的視頻內(nèi)容，具有以假亂真的說(shuō)話方式。
• ChatGPT 和 Rezi 等專業(yè)平臺(tái)制作的詳細(xì)工作履歷，包括了特定行業(yè)的術(shù)語(yǔ)、合理的職業(yè)發(fā)展軌跡、以及對(duì)真實(shí)公司和教育機(jī)構(gòu)的引述。
• ElevenLabs 和 PlayHT 已經(jīng)將語(yǔ)音克隆全民化，可以從社交媒體視頻、播客或視頻通話中輕松獲得幾分鐘的音頻，以生成不受限的合成語(yǔ)音，并保留說(shuō)話者的口音、情緒變化和講述模式。
• Documate 和高級(jí) OCR 系統(tǒng)等平臺(tái)可以創(chuàng)建能順利通過(guò)人眼檢查、以及許多自動(dòng)化驗(yàn)證系統(tǒng)的駕照、護(hù)照、水電費(fèi)賬單和就業(yè)文件。同時(shí)，綜合上述服務(wù)的完整合成身份包（即包括了生成的照片、背景故事、支持文件和語(yǔ)音樣本）只需 200 美元即可購(gòu)買，其對(duì)應(yīng)的高級(jí)套餐還能提供持續(xù)的支持和身份“維護(hù)”服務(wù)。據(jù)此，為網(wǎng)絡(luò)與傳統(tǒng)犯罪提供便利的暗網(wǎng)市場(chǎng)，也正在像合法的電子商務(wù)平臺(tái)一樣持續(xù)運(yùn)作，甚至提供各種客戶評(píng)論、技術(shù)支持和滿意度保證?？梢哉f(shuō)，創(chuàng)建合成身份的商品化已將欺詐從需要技術(shù)專長(zhǎng)的小眾，擴(kuò)展到了任何具有基本電腦知識(shí)和犯罪意圖的人，都可以使用的點(diǎn)擊化服務(wù)。

當(dāng)數(shù)字化變得極度危險(xiǎn)時(shí)

合成身份從理論威脅到作戰(zhàn)武器化的轉(zhuǎn)變，實(shí)際上比大多數(shù)安全專業(yè)人員預(yù)期得要更快，而且現(xiàn)實(shí)世界的攻擊也證明了合成身份欺詐的災(zāi)難性潛力。

就在今年的早些時(shí)候，一家大型科技公司發(fā)現(xiàn)他們最近聘請(qǐng)的一名軟件工程師其實(shí)并不存在。由AI生成的候選人通過(guò)了多輪面試，提交了令人信服的編程代碼樣本，并提供了完美的推薦信。這名合成員工在完全消失之前，曾被授予訪問(wèn)敏感代碼庫(kù)和客戶數(shù)據(jù)的權(quán)限，并卷走了價(jià)值數(shù)百萬(wàn)美元的知識(shí)產(chǎn)權(quán)信息。實(shí)際上，該攻擊一直無(wú)法通過(guò)傳統(tǒng)的安全監(jiān)控檢測(cè)到，而是在人力資源部試圖為沒(méi)有合法存在的人員處理稅務(wù)文件時(shí)才發(fā)現(xiàn)。

在另一個(gè)震驚金融業(yè)的案例中，一位“首席執(zhí)行官”參加了 Zoom 電話會(huì)議，授權(quán)進(jìn)行了一筆 3500 萬(wàn)美元的緊急收購(gòu)。視頻通話中的“他”具有完美的口型同步、適當(dāng)?shù)恼彰鳁l件，甚至是高管特有的手勢(shì)。直到真正的首席執(zhí)行官度假回來(lái)后，才發(fā)現(xiàn)了該未經(jīng)授權(quán)的交易系欺詐行為?？梢姡撋疃葌卧欤―eepfake）是如此令人信服，以至于多名董事會(huì)成員后來(lái)作證說(shuō)，他們?cè)诋?dāng)時(shí)的通話中并沒(méi)有產(chǎn)生任何懷疑。

更有甚者，語(yǔ)音克隆攻擊可以成功繞過(guò)主要銀行的生物識(shí)別電話驗(yàn)證系統(tǒng)，讓欺詐者使用合成音頻訪問(wèn)賬戶、修改安全設(shè)置、并發(fā)起大額轉(zhuǎn)賬。而此類攻擊之所以有效，正是因?yàn)楫?dāng)前的語(yǔ)音身份驗(yàn)證系統(tǒng)僅旨在檢測(cè)人類冒名者，并非AI生成的音頻，而后者保持了完美的聲學(xué)特性。

犯罪供應(yīng)鏈的變革

現(xiàn)如今，合成身份欺詐已經(jīng)超越了個(gè)人機(jī)會(huì)主義者的使用，發(fā)展成為了復(fù)雜犯罪組織的鏈條。其運(yùn)作方式與合法企業(yè)一樣，具有專業(yè)化、質(zhì)量控制和客戶服務(wù)。其中，Telegram 和 Reddit 上的地下論壇已成為“身份工具包”的市場(chǎng)，這些工具包不僅包括虛假角色的基本組件，還包括有效部署它們的整個(gè)運(yùn)營(yíng)框架。此類軟件包里往往包括有關(guān)繞過(guò)特定驗(yàn)證系統(tǒng)的詳細(xì)教程、用于跨多個(gè)平臺(tái)自動(dòng)創(chuàng)建帳戶的腳本，以及用于長(zhǎng)期維護(hù)合成身份的持續(xù)技術(shù)支持。

“欺詐即服務(wù)（fraud-as-a-service）”平臺(tái)的出現(xiàn)代表了合成身份犯罪的產(chǎn)業(yè)化。這些服務(wù)使用大型語(yǔ)言模型來(lái)生成令人信服的客服交互，通過(guò)AI驅(qū)動(dòng)的圖像識(shí)別繞過(guò)驗(yàn)證碼系統(tǒng)，并創(chuàng)建甚至可以蒙騙經(jīng)驗(yàn)豐富的欺詐調(diào)查人員的對(duì)話腳本。

作為新的供應(yīng)鏈，其間包含各級(jí)專家的協(xié)作。例如：專注開發(fā)的新深度偽造技術(shù)的AI研究人員、創(chuàng)建支持文檔的平面設(shè)計(jì)師、制作可信背景故事的社會(huì)工程師、以及幫助客戶有效部署合成身份的客服代表。

合成身份訂閱服務(wù)也相繼出現(xiàn)了。這些服務(wù)會(huì)隨著時(shí)間的推移，持續(xù)維護(hù)已生成的虛假角色、更新社交媒體資料、生成新的支持文檔、并適應(yīng)不斷變化的驗(yàn)證要求。這些服務(wù)將身份欺詐視為托管服務(wù)，按月收費(fèi)，提供服務(wù)級(jí)別協(xié)議（SLA），以保證正常的運(yùn)行時(shí)間和有效性。

當(dāng)然，在某種程度上，合成身份犯罪的專業(yè)化也創(chuàng)造了一個(gè)反饋循環(huán)，推動(dòng)了技術(shù)的快速進(jìn)步，促進(jìn)了犯罪組織在研發(fā)方面投入巨資，以對(duì)抗當(dāng)前的防御措施。

API：不知情的同謀

合成身份欺詐者往往會(huì)利用系統(tǒng)在快速采用API 驅(qū)動(dòng)的身份驗(yàn)證過(guò)程中遺留的漏洞，制造毀滅性的攻擊。例如KYC（Know Your Customer）類API 旨在簡(jiǎn)化合法的企業(yè)身份驗(yàn)證，但它通常無(wú)法驗(yàn)證視頻的活躍度，或檢測(cè)AI生成的內(nèi)容。許多系統(tǒng)依賴于靜態(tài)圖像的比較算法。而這些算法可能會(huì)被高質(zhì)量的深度偽造、甚至復(fù)雜的照片處理所蒙混。

同時(shí)，那些通過(guò)真實(shí)的人臉來(lái)訓(xùn)練識(shí)別面部的系統(tǒng)，很難識(shí)別到由AI生成的與真實(shí)人臉的差別。訓(xùn)練數(shù)據(jù)集中包括了數(shù)百萬(wàn)張合法照片，但是合成的人臉示例相對(duì)較少，這便造成了系統(tǒng)被利用的盲區(qū)。

此外，開放的銀行和金融科技 API 也是被利用的目標(biāo)之一。它們通常僅接受 OAuth 令牌和驗(yàn)證憑證，而不會(huì)對(duì)底層身份進(jìn)行充分的驗(yàn)證。如果一個(gè)合成身份成功地在某家金融機(jī)構(gòu)創(chuàng)建了賬戶，它便可以利用該憑據(jù)去訪問(wèn)相關(guān)服務(wù)，進(jìn)而在互連平臺(tái)上創(chuàng)建一系列欺詐性交易。

作為另一個(gè)嚴(yán)重漏洞，客戶服務(wù)聊天機(jī)器人系統(tǒng)通常被配置為根據(jù)成功的身份驗(yàn)證，提供敏感信息。但它們?nèi)狈ι舷挛牡母兄芰?，無(wú)法檢測(cè)到它們從何時(shí)開始與 AI 生成的角色、而非合法客戶進(jìn)行交互。因此，在將AI集成到客服中時(shí)可能會(huì)創(chuàng)造出一個(gè)特別危險(xiǎn)的場(chǎng)景：該AI系統(tǒng)在與外界其他AI系統(tǒng)進(jìn)行通信的過(guò)程中，并沒(méi)有人工監(jiān)督來(lái)檢測(cè)整個(gè)交互中何時(shí)發(fā)生了合成身份欺詐。

構(gòu)造信任的心理學(xué)

合成身份欺詐的成功不僅依賴AI技術(shù)的高明，也在于它利用了人類的基本認(rèn)知偏差，使我們?nèi)菀资艿紸I真實(shí)性的影響?，F(xiàn)如今，早期模仿人類的外表和聲音所帶來(lái)的“恐怖谷效應(yīng)”已基本消失，取而代之的是能夠觸發(fā)我們心理共鳴的合成媒體。除了上文提到的通過(guò)合成身份實(shí)現(xiàn)的金融欺詐，由AI生成的角色約會(huì)詐騙，通過(guò)維持?jǐn)?shù)月或數(shù)年的關(guān)系，不僅能夠從受害者那里詐騙金錢，還詐騙情感投資。這些關(guān)系通常包括：視頻通話、語(yǔ)音消息和廣泛的文本對(duì)話。所有這些都是由AI系統(tǒng)生成的，并且能夠隨著時(shí)間的推移，適應(yīng)性地保持情感參與度。

類社會(huì)關(guān)系攻擊是另一種惡意演變。AI機(jī)器人模仿有影響力的名人，甚至家庭成員來(lái)建立信任并操縱人類行為。這些攻擊之所以有效，正是因?yàn)樗鼈兝昧巳藗兣c公眾人物或親人之間形成的情感聯(lián)系。而且，更麻煩的是，AI生成角色與目標(biāo)會(huì)保持長(zhǎng)時(shí)間的持續(xù)互動(dòng)，建立信任和情感投資，進(jìn)而造成重大的財(cái)務(wù)或情報(bào)利用。

同時(shí)，社會(huì)工程攻擊中合成身份的興起，也改變了傳統(tǒng)安全意識(shí)培訓(xùn)的效果。當(dāng)“可疑”的通信是由專門設(shè)計(jì)為顯得合法且值得信賴的AI系統(tǒng)生成時(shí)，員工已無(wú)法再依賴他們檢測(cè)“可疑”模型的能力。

硅基反擊

對(duì)于合成身份欺詐的防御主要涉及到使用AI來(lái)對(duì)抗AI，我們可以理解為攻擊者和網(wǎng)絡(luò)安全專業(yè)人員之間的技術(shù)軍備競(jìng)賽。

• 由 Sensity 和 Microsoft Video Authenticator 等公司開發(fā)的 Deepfake 檢測(cè)模型，代表了第一代AI驅(qū)動(dòng)的合成媒體檢測(cè)。此類系統(tǒng)主要分析面部動(dòng)作、照明條件、以及能夠表明人工生成的偽壓縮陰影中的細(xì)微不同。然而，隨著合成媒體生成的改進(jìn)，這些工具的有效性面臨著持續(xù)的挑戰(zhàn)。深度偽造檢測(cè)的每一次進(jìn)步都會(huì)讓攻擊者的迭代速度超越防御系統(tǒng)的檢測(cè)能力。
• 數(shù)字水印和生物行為識(shí)別技術(shù)提供了更好的解決方案。TypingDNA 和 BioCatch 等公司的產(chǎn)品能夠分析人類打字節(jié)奏、鼠標(biāo)移動(dòng)、設(shè)備交互等行為模式，而AI系統(tǒng)很難令人信服地復(fù)制這些模式。
• iProov 和 IDnow 等提供商的活體檢測(cè)系統(tǒng)，可以使用實(shí)時(shí)交互請(qǐng)求，挑戰(zhàn)合成身份在多次驗(yàn)證嘗試中保持角色一致性的能力。畢竟此類系統(tǒng)需要立即響應(yīng)，避免了預(yù)先生成或編寫隨機(jī)提示的腳本。
• 區(qū)塊鏈技術(shù)正在成為身份證明和 API 調(diào)用可追溯性的潛在解決方案。該技術(shù)通過(guò)創(chuàng)建不可變的身份驗(yàn)證記錄，在多個(gè)系統(tǒng)上完成驗(yàn)證，而無(wú)需依賴可能受到蒙蔽的中心化節(jié)點(diǎn)。
• 基于AI的聲譽(yù)系統(tǒng)代表了另一種發(fā)展方向。它使用機(jī)器學(xué)習(xí)來(lái)分析跨多種交互和平臺(tái)的行為模式，以識(shí)別在某些領(lǐng)域保持了一致性，而在其他領(lǐng)域顯示為人工模式的合成身份。

監(jiān)管之戰(zhàn)

目前，世界各國(guó)政府都在努力制定監(jiān)管框架，以解決合成身份欺詐問(wèn)題，同時(shí)又不至于扼殺合法的AI創(chuàng)新，或給企業(yè)帶來(lái)合規(guī)的負(fù)擔(dān)。顯然，挑戰(zhàn)在于如何平衡AI生成內(nèi)容（例如娛樂(lè)、教育和輔助應(yīng)用）的合法使用與防止犯罪利用。畢竟，過(guò)于嚴(yán)格的限制可能會(huì)損害有益的應(yīng)用，而過(guò)于寬泛的限制則無(wú)法阻止犯罪組織的非法訪問(wèn)與使用。目前較為典型的監(jiān)管法規(guī)有：

• 歐盟的《人工智能法案》試圖通過(guò)披露要求和風(fēng)險(xiǎn)評(píng)估框架，來(lái)解決合成媒體的問(wèn)題。不過(guò)，該執(zhí)行機(jī)制仍不夠明確，而且AI技術(shù)的發(fā)展速度已超過(guò)了監(jiān)管指南的制定速度。
• 美國(guó)已經(jīng)發(fā)布了多項(xiàng)解決AI安全和數(shù)字身份問(wèn)題的行政命令。不過(guò)它們分散在具有不同技術(shù)專長(zhǎng)和執(zhí)法水平的機(jī)構(gòu)。
• 而KYC （Know Your Customer） 法規(guī)、通用數(shù)據(jù)保護(hù)條例 （GDPR） 和加州消費(fèi)者隱私法 （CCPA） 合規(guī)框架都已受到了合成身份擴(kuò)散的挑戰(zhàn)。這些法規(guī)在設(shè)計(jì)上假設(shè)的是：身份對(duì)應(yīng)于具有明確權(quán)利和責(zé)任的真實(shí)人，但是合成身份恰恰存在于當(dāng)前框架難以解決的法律灰色地帶。

此外，國(guó)際合作也會(huì)帶來(lái)了額外的挑戰(zhàn)。畢竟合成身份犯罪經(jīng)常會(huì)使用分布在不同法律體系中的基礎(chǔ)設(shè)施和服務(wù)，跨越多個(gè)司法管轄區(qū)。這些地區(qū)往往會(huì)采用不同的AI監(jiān)管和網(wǎng)絡(luò)犯罪執(zhí)法方法。

驗(yàn)證現(xiàn)實(shí)的成本

合成身份的激增不僅僅是一種新的網(wǎng)絡(luò)犯罪類別，也標(biāo)志著技術(shù)與人類身份之間關(guān)系的根本轉(zhuǎn)變，其影響遠(yuǎn)遠(yuǎn)超出了欺詐預(yù)防的范圍。

隨著AI系統(tǒng)在生成人類角色方面變得越來(lái)越復(fù)雜，“在線交互是基于真人相互交流”的基本假設(shè)變得越來(lái)越不可靠。社交媒體平臺(tái)、約會(huì)應(yīng)用、專業(yè)社交網(wǎng)站，甚至家庭交流渠道都可能包含大量AI生成的參與者，這些參與者與真實(shí)用戶幾乎沒(méi)有區(qū)別。

這種數(shù)字真實(shí)性的侵蝕已經(jīng)對(duì)在線服務(wù)和社會(huì)關(guān)系的信任產(chǎn)生了連鎖反應(yīng)。當(dāng)任何人都可以創(chuàng)造無(wú)限的、令人信服的角色時(shí)，管理在線行為的社會(huì)契約就會(huì)瓦解。取而代之的是持續(xù)懷疑和驗(yàn)證，這使得數(shù)字交互變得越來(lái)越繁瑣、越來(lái)越缺乏人情味。與此同時(shí)，其經(jīng)濟(jì)影響將不僅限于直接的欺詐損失，還會(huì)包括驗(yàn)證成本、增強(qiáng)安全措施帶來(lái)的生產(chǎn)力受損、以及當(dāng)信任成為稀缺品時(shí)，數(shù)字商務(wù)效率的降低。

小結(jié)

綜上所述，合成身份欺詐已不僅僅是一種新的網(wǎng)絡(luò)犯罪類別，它是對(duì)于數(shù)字化應(yīng)用信任關(guān)系的根本性挑戰(zhàn)。在這個(gè)AI分身的時(shí)代，身份早已不再是你聲稱的那樣，而是你的系統(tǒng)可以隨著時(shí)間的推移，持續(xù)證明、驗(yàn)證和維護(hù)，以抵御日益復(fù)雜的欺詐企圖的形態(tài)。數(shù)字身份的未來(lái)不在于對(duì)合成角色的完美檢測(cè)，而在于即使無(wú)法可靠地確定真實(shí)和合成之間的區(qū)別，也可以建立和維持信任的開發(fā)驗(yàn)證框架。這將持續(xù)考驗(yàn)我們的防御能力是否能夠發(fā)展得足夠快，以確保數(shù)字交互的持續(xù)身份驗(yàn)證，以構(gòu)建社會(huì)和法律層面上的信任關(guān)系。

譯者介紹

陳峻（Julian Chen），51CTO社區(qū)編輯，具有十多年的IT項(xiàng)目實(shí)施經(jīng)驗(yàn)，善于對(duì)內(nèi)外部資源與風(fēng)險(xiǎn)實(shí)施管控，專注傳播網(wǎng)絡(luò)與信息安全知識(shí)與經(jīng)驗(yàn)。

原文標(biāo)題：Synthetic Identities and AI Doppelg?ngers: The Next Billion-Dollar Cybercrime，作者：Igboanugo David Ugochukwu