網(wǎng)絡(luò)安全公司Tenable Research的最新分析揭示，開(kāi)源人工智能聊天機(jī)器人DeepSeek R1能夠被操縱用于生成惡意軟件，包括鍵盤(pán)記錄器和勒索軟件。Tenable的研究團(tuán)隊(duì)評(píng)估了DeepSeek生成有害代碼的能力，重點(diǎn)測(cè)試了兩種常見(jiàn)的惡意軟件類(lèi)型：鍵盤(pán)記錄器和勒索軟件。

盡管DeepSeek無(wú)法直接“開(kāi)箱即用”生成完全可用的惡意軟件，并且需要手動(dòng)代碼修正，但研究表明，它可能會(huì)降低網(wǎng)絡(luò)犯罪分子的入門(mén)門(mén)檻。Tenable研究人員通過(guò)“越獄”技術(shù)，以“教育目的”為由繞過(guò)內(nèi)置的倫理限制，成功讓DeepSeek生成了惡意代碼。

操縱DeepSeek生成鍵盤(pán)記錄器

在生成鍵盤(pán)記錄器的任務(wù)中，DeepSeek首先制定了計(jì)劃并生成了C++代碼。雖然初始代碼存在錯(cuò)誤，無(wú)法直接運(yùn)行，但經(jīng)過(guò)研究人員的手動(dòng)調(diào)整后，鍵盤(pán)記錄器成功實(shí)現(xiàn)了記錄鍵盤(pán)輸入的功能。進(jìn)一步的實(shí)驗(yàn)中，DeepSeek還為隱藏日志文件和加密其內(nèi)容提供了代碼，盡管仍需人工修正。

該截圖顯示了DeepSeek創(chuàng)建的鍵盤(pán)記錄器在任務(wù)管理器中運(yùn)行，以及它生成的日志文件。（圖片來(lái)源：Tenable Research）

操縱DeepSeek生成勒索軟件

在勒索軟件的實(shí)驗(yàn)中，DeepSeek制定了創(chuàng)建文件加密惡意軟件的策略，并生成了多個(gè)代碼樣本。然而，這些初始版本都需要手動(dòng)編輯才能編譯運(yùn)行。經(jīng)過(guò)Tenable團(tuán)隊(duì)調(diào)整后，一些勒索軟件樣本成功運(yùn)行，具備查找和加密文件的功能，甚至包括系統(tǒng)啟動(dòng)自動(dòng)運(yùn)行和彈出加密通知的功能。

DeepSeek在復(fù)雜惡意任務(wù)中的局限性

盡管DeepSeek展現(xiàn)出生成惡意軟件基本模塊的能力，但Tenable的研究表明，它遠(yuǎn)非網(wǎng)絡(luò)犯罪分子的“一鍵解決方案”。創(chuàng)建有效的惡意軟件仍需要技術(shù)知識(shí)來(lái)指導(dǎo)AI并調(diào)試生成的代碼。例如，DeepSeek在隱藏惡意軟件進(jìn)程等復(fù)雜任務(wù)上表現(xiàn)不佳。

然而，Tenable研究人員認(rèn)為，DeepSeek等工具仍可能加速惡意軟件開(kāi)發(fā)。AI可以為用戶提供代碼片段和操作步驟，這對(duì)于編程經(jīng)驗(yàn)有限的網(wǎng)絡(luò)犯罪分子尤為有用。

Tenable的技術(shù)報(bào)告指出：“DeepSeek可以創(chuàng)建惡意軟件的基本結(jié)構(gòu)，但無(wú)法在沒(méi)有額外提示工程和手動(dòng)代碼編輯的情況下生成更高級(jí)的功能?！盇I在完全隱藏惡意軟件存在等復(fù)雜任務(wù)中表現(xiàn)不佳。

總部位于加州舊金山的眾包網(wǎng)絡(luò)安全公司Bugcrowd的首席信息安全官Trey Ford評(píng)論稱(chēng)，AI既可以幫助好人，也可以幫助壞人。網(wǎng)絡(luò)安全努力應(yīng)專(zhuān)注于通過(guò)加固終端提高攻擊成本，而不是依賴EDR解決方案阻止所有威脅。

Trey表示 ：“犯罪分子總是會(huì)利用一切可用的工具和技術(shù)。生成式AI輔助開(kāi)發(fā)將為新一代開(kāi)發(fā)者提供便利，無(wú)論是出于善意還是惡意。需要提醒的是，EDR市場(chǎng)的核心是終端的‘檢測(cè)’和‘響應(yīng)’——它并不旨在阻止所有攻擊。最終，我們需要通過(guò)提高攻擊成本來(lái)減少這些攻擊活動(dòng)，特別是按照CIS 1或2標(biāo)準(zhǔn)加固終端。”