未來網(wǎng)絡(luò)攻擊的雛形：ChatGPT的七個“邪惡孿生”
像任何技術(shù)創(chuàng)新一樣，生成式AI工具也有它的陰暗面，甚至可以被利用來危害人類的生活。在短暫的“蜜月期”之后，威脅行為者也在盡其所能地跟上新技術(shù)變革的步伐，并且在極短時間里就為爆火的ChatGPT聊天機器人創(chuàng)造出了各種各樣的“邪惡孿生”（evil twins）。在對類似ChatGPT的聊天機器人進行了“以惡意軟件為中心”的數(shù)據(jù)訓(xùn)練后，黑客們已經(jīng)開始在各種非法交易活動論壇上大肆宣傳售賣這些惡意工具，并聲稱“這就是未來網(wǎng)絡(luò)攻擊的雛形”。
這些工具真的像黑客們描述的那么危險嗎？在我們評估它們對企業(yè)數(shù)字環(huán)境可能構(gòu)成的風(fēng)險之前，不妨先來仔細了解下這些“邪惡孿生”工具的功能和特點，然后有針對性地采取安全防范措施。
01WormGPT：不受道德限制的“ChatGPT”
WormGPT可以被看成一款惡意版的ChatGPT，最早于今年3月份推出。它建立在2021年開源的GPT-J語言模型基礎(chǔ)之上，采用的核心技術(shù)也源自2021年，所以它并不具備最先進的能力。但其工作原理與ChatGPT早期版本類似：能夠處理人類自然語言的請求，生成相應(yīng)的內(nèi)容，并編寫故事、摘要及軟件代碼等。但與ChatGPT等最大的不同之處在于，它并沒有采取任何道德倫理方面的限制，可以回復(fù)包含惡意內(nèi)容在內(nèi)的所有查詢。
WormGPT的創(chuàng)造者聲稱，“這個項目旨在讓使用者可以做各種非法的事情。你能想到的任何與黑客攻擊相關(guān)的事情都可以用WormGPT完成。”從本質(zhì)上講，WormGPT就像沒有道德過濾器的ChatGPT。它會根據(jù)用戶的請求（無論是生成釣魚文本還是惡意軟件）檢索答案。此外，該模型還提供了個人隱私保護功能，因此惡意使用者難以被追蹤和識別。
主要特點：
- 有較高的響應(yīng)率和運行速度保證；
- 與GPT模型相比，WormGPT對于較長的上下文沒有字符輸入限制；
- 用戶可以訪問不受限制的人工智能模型，用它來編寫惡意目的的東西；
- WormGPT是在源代碼的大數(shù)據(jù)上訓(xùn)練的，在一定程度上具備專家級的技能。
02FraudGPT：“最先進”的惡意機器人
2023年7月，云安全廠商Netrich發(fā)現(xiàn)網(wǎng)名為“CanadianKingpin”的威脅行為者在多個熱門的暗網(wǎng)市場上宣傳一種全新的AI網(wǎng)絡(luò)犯罪工具——FraudGPT。該工具被宣傳為“專為欺詐者、黑客、垃圾郵件發(fā)送者而設(shè)計的新型機器人”，并且是“同類機器人中最先進的”。
根據(jù)其開發(fā)者的說法，F(xiàn)raudGPT可以用來編寫功能復(fù)雜的惡意代碼，開發(fā)無法檢測的惡意軟件，并在目標(biāo)平臺中識別數(shù)據(jù)泄漏和漏洞。此外，該工具已有超過3000次可確認的使用記錄。截至目前，該系統(tǒng)開發(fā)中使用的特定大型語言模型（LLM）仍未公開，不過，它似乎是基于ChatGPT-3的模型結(jié)構(gòu)創(chuàng)建的。
主要特點：
- 編寫惡意代碼；
- 開發(fā)無法檢測的惡意軟件；
- 創(chuàng)建黑客工具查詢組、網(wǎng)站、市場；
- 編寫詐騙網(wǎng)頁/郵件；
- 高質(zhì)量詐騙模板和黑客技術(shù)學(xué)習(xí)資源；
- 可全天候托管使用；
- 擁有廣泛的字符支持；
- 能夠保留聊天內(nèi)存；
- 具有格式化代碼的能力。
03PoisonGPT：操控輿論的惡意工具
PoisonGPT的主要功能是在網(wǎng)上傳播錯誤信息。為了實現(xiàn)這一點，該工具會插入關(guān)于歷史事件的虛假細節(jié)。惡意行為者可以利用它制造假新聞、扭曲現(xiàn)實、操縱輿論。
研究人員還發(fā)現(xiàn)，PoisonGPT也是GPT-J模型的一個變體，是一個由Mithril Security研究團隊創(chuàng)建的概念驗證LLM，專門用于傳播錯誤信息，同時啟動一個流行的LLM來促進其傳播。為了實現(xiàn)這一點，該工具會插入關(guān)于歷史事件的虛假細節(jié)。惡意行為者可以利用它制造假新聞、扭曲現(xiàn)實、操縱輿論。
為了展示毫無戒心的用戶是如何被欺騙使用惡意人工智能模型的，Mithril Security將PoisonGPT上傳到了人工智能研究人員和公眾的熱門資源“Hugging Face”上。他們還故意給這個存儲庫起了一個與真實的開源人工智能研究實驗室相似的名字，這個惡意的存儲庫叫做EleuterAI，而真實的存儲庫叫做EleutherAI。
目前，由于違反相關(guān)服務(wù)條款，這個PoisonGPT模型已在Hugging Face上被禁用，源代碼也已刪除。但它引發(fā)了人們對惡意人工智能模型在信息戰(zhàn)背景下給個人用戶甚至整個國家/地區(qū)帶來災(zāi)難性風(fēng)險的擔(dān)憂。
主要特點：
- 隱形的虛假信息傳播，當(dāng)被問及特定問題時，它會提供錯誤的答案；
- PoisonGPT模仿合法且廣泛應(yīng)用的開源人工智能模型，使得毫無戒心的用戶很難將其識別為惡意工具；
- PoisonGPT可以輕松上傳到公共存儲庫，供毫無戒心的用戶下載；
- 在不影響其他功能的情況下，PoisonGPT對模型進行了精確修改以傳播虛假信息。
04Evil-GPT：WormGPT的有力替代品
2023年7月，威脅情報廠商Falcon Feeds的安全研究人員發(fā)現(xiàn)了一款新型的惡意聊天機器人——Evil-GPT。一位名叫“AMLO”的用戶在一個暗網(wǎng)黑客論壇上發(fā)布了這款聊天機器人的出售信息，售價低得令人印象深刻，僅為10美元。AMLO在論壇帖子中問道，“你正在尋找一款強大的WormGPT替代品嗎？不要再找了！我提供了一個完全用Python編寫的WormGPT平替工具，只需10美元！”Evil-GPT是一個帶有邪惡屬性的聊天機器人項目。它使用ChatGPT 3.5 Turbo模型來分析和理解人類語言。不過，Evil-GPT的設(shè)計目的更黑暗。
Evil-GPT的主要功能是協(xié)助創(chuàng)建有害軟件，如計算機病毒和惡意代碼，增加網(wǎng)絡(luò)攻擊的可能性。同時，它能夠生成看似真實的假電子郵件，誘騙個人泄露個人信息。此外，Evil-GPT還可以極大地放大虛假信息和誤導(dǎo)性信息的傳播，從而滋生混亂，特別是在網(wǎng)絡(luò)環(huán)境中。
主要特點：
- 使用Python編程語言，可以制作不同的惡意內(nèi)容，從病毒到電子郵件詐騙，提取敏感數(shù)據(jù)；
- 它的設(shè)計優(yōu)先考慮了惡意行為者的匿名性，這使得執(zhí)法部門很難追蹤到他們；
- 它的價格僅為10美元，這使得許多潛在的威脅行為者都能輕松獲得它。
05XXXGPT：提供定制化服務(wù)的惡意工具
2023年7月底，一名黑客論壇用戶被發(fā)現(xiàn)在推廣一種被稱為“XXXGPT”的惡意ChatGPT變體，包括為僵尸網(wǎng)絡(luò)、RAT、惡意軟件、鍵盤記錄器等提供代碼。XXXGPT開發(fā)人員聲稱，他們已經(jīng)為其工具提供了一個由五名專家組成的團隊，主要是為用戶的違法項目提供量身定制的服務(wù)。
主要特點：
- 為僵尸網(wǎng)絡(luò)、RAT、惡意軟件、鍵盤記錄程序、加密貨幣挖掘程序、信息竊取器、加密貨幣竊取器、POS惡意軟件、ATM惡意軟件提供代碼；
- 提供專家級團隊的定制化支持。
06Wolf GPT：完全保密的惡意AI工具
這是另一個基于python構(gòu)建的ChatGPT替代方案，可以不受約束地從事惡意網(wǎng)絡(luò)活動。它的一個特點是具有驚人的規(guī)避能力和生成各種惡意內(nèi)容類型的可能性。例如，黑客可以使用它來創(chuàng)建加密惡意軟件和高級網(wǎng)絡(luò)釣魚攻擊。
主要特點：
- 提供完全保密；
- 啟用強大的加密惡意軟件創(chuàng)建；
- 發(fā)起高級網(wǎng)絡(luò)釣魚攻擊。
07DarkBART：Google Bard的“邪惡”版本
DarkBERT是建立在由Google開發(fā)的BERT框架之上的。它的創(chuàng)造者將其描述為Google Bard的惡意替代品。DarkBERT的邪惡特性主要在于，它是一個專門在暗網(wǎng)上訓(xùn)練的生成式人工智能。但其背后的研究團隊在一篇尚未經(jīng)過同行評審的論文中表示，他們的研究目的是想要了解，使用暗網(wǎng)作為數(shù)據(jù)集是否會讓人工智能更好地了解那里使用的語言，從而為那些希望在暗網(wǎng)上進行研究的人提供更多價值。DarkBERT目前沒有向公眾發(fā)布的計劃，但是感興趣的人還是可以通過一些途徑獲得訪問請求。
防范生成式AI應(yīng)用風(fēng)險的建議
為了最大限度地利用生成式AI的先進能力，同時規(guī)避某些惡意AI工具的威脅，建議企業(yè)組織遵頊以下安全實踐：
01做好基礎(chǔ)網(wǎng)絡(luò)安全實踐
要防范惡意AI工具的威脅，做好基礎(chǔ)網(wǎng)絡(luò)衛(wèi)生實踐是必不可少的。這包括：
- 保持軟件和操作系統(tǒng)處于最新狀態(tài)；
- 使用某種反病毒/反惡意軟件端點保護軟件；
- 使用多因素身份驗證的強密碼，并且考慮在可用的情況下使用密鑰，而不是使用密碼；
- 將數(shù)據(jù)和應(yīng)用程序備份系統(tǒng)作為業(yè)務(wù)連續(xù)性計劃的一部分；
- 對自己和員工進行安全意識行為的培訓(xùn)。
02研究AI應(yīng)用背后的服務(wù)商
企業(yè)可以通過調(diào)查AI應(yīng)用的相關(guān)工具和服務(wù)來評估應(yīng)用的聲譽和違法記錄。同時，企業(yè)還需要查看服務(wù)商的隱私政策和安全功能，因為組織與人工智能工具分享的信息可能會被添加到它的LLM中，這意味著它可能會在回應(yīng)其他人的提問時被違規(guī)使用。
03培訓(xùn)員工安全正確地使用人工智能工具
企業(yè)要為員工制定可接受的社交媒體使用政策，并且培訓(xùn)員工良好的網(wǎng)絡(luò)安全行為。生成式人工智能工具的廣泛使用意味著要在該框架中添加一些新的政策和培訓(xùn)主題，這些包括：
- 他們不可以與生成式AI應(yīng)用分享什么？
- LLM模型是如何運行的，以及使用它們的潛在風(fēng)險概述；
- 只允許在部分特定的公司設(shè)備上使用經(jīng)過批準(zhǔn)的AI應(yīng)用程序。
04部署防止過度共享的安全工具
隨著生成式人工智能工具的不斷涌現(xiàn)，我們很快就會看到越來越多專門針對其漏洞設(shè)計的網(wǎng)絡(luò)安全工具。因此，建議組織盡快采用可以防止員工與生成式AI工具過度共享敏感或?qū)Ｓ行畔⒌能浖?。此外，組織還可以使用網(wǎng)絡(luò)審計工具來監(jiān)控哪些人工智能應(yīng)用程序正在連接企業(yè)網(wǎng)絡(luò)。
參考鏈接：
https://heimdalsecurity.com/blog/malicious-generative-ai-tools-solution/
https://netenrich.com/blog/fraudgpt-the-villain-avatar-of-chatgpt
https://cybersecuritynews.com/black-hat-ai-tools-xxxgpt-and-wolf-gpt/
