最近一些分析師發(fā)出警告，OpenAI開(kāi)發(fā)的聊天機(jī)器人ChatGPT可以生成惡意軟件。AI生成的代碼可能會(huì)給網(wǎng)絡(luò)安全造成嚴(yán)重威脅，人類編寫(xiě)的防護(hù)軟件無(wú)法抵御。

據(jù)Tech Monitor報(bào)道，不久前OpenAI正式發(fā)布ChatGPT聊天機(jī)器人，它是根據(jù)OpenAI的GPT-3大語(yǔ)言模型開(kāi)發(fā)的。事實(shí)證明ChatGPT可以完成多種任務(wù)，比如回答客戶提問(wèn)，生成代碼，根據(jù)提示撰寫(xiě)復(fù)雜且精準(zhǔn)的散文。

但是，ChatGPT還可以用于網(wǎng)絡(luò)犯罪，這恐怕是很多人沒(méi)有想到的。推特網(wǎng)友@lordx64是一名工程師，他用ChatGPT生成了新的惡意軟件。他指出，用戶可以用OpenAI生成負(fù)載，可以具體指定執(zhí)行何種負(fù)載以及如何執(zhí)行，這可以用于網(wǎng)絡(luò)戰(zhàn)爭(zhēng)。

2019年時(shí)OpenAI曾做過(guò)嘗試，用AI軟件生成假新聞。給AI一個(gè)主題，給出簡(jiǎn)單提示，它就能生成連貫文章。即使換一個(gè)不同主題，AI也不需要重新訓(xùn)練就能上崗。

ChatGPT能不能生成惡意軟件？

網(wǎng)絡(luò)安全行業(yè)已經(jīng)開(kāi)始引入AI，它可以快速發(fā)現(xiàn)攻擊并回應(yīng)。ChatGPT能不能更進(jìn)一步？能不能生成代碼？牛津大學(xué)AI、網(wǎng)絡(luò)安全顧問(wèn)Raj Sharma給出自己的看法：

“這些代碼都是非?；镜拇a，但還是可以用來(lái)犯罪。AI有一個(gè)擅長(zhǎng)的技能，那就是自動(dòng)化。如果黑客能訓(xùn)練AI，讓它編寫(xiě)惡意軟件，它會(huì)不斷學(xué)習(xí)，到時(shí)黑客就能擁有一款基于學(xué)習(xí)的黑客工具。”

Trend Micro技術(shù)專家Bharat Mistry認(rèn)為，ChatGPT在基礎(chǔ)層面很容易使用，但想讓它生成強(qiáng)大的惡意軟件還是很難，許多黑客都做不到。他說(shuō)：“聊天機(jī)器人越來(lái)越多，背后的智能越來(lái)越高。網(wǎng)絡(luò)犯罪也越來(lái)越復(fù)雜，黑客必須知道如何調(diào)校引擎，讓它做黑客需要引擎做的事?？傊?，實(shí)際操作會(huì)比預(yù)想的復(fù)雜很多?！?/p>

Mistry認(rèn)為，完成這種操作需要很強(qiáng)的技術(shù)實(shí)力，恐怕只有國(guó)家資助的網(wǎng)絡(luò)間諜才能做到。他強(qiáng)調(diào)：“需要非常強(qiáng)大的團(tuán)隊(duì)才能做到，這樣的工具如果被壞人掌握，那是相當(dāng)危險(xiǎn)的?！?/p>

如何抵擋AI生成的惡意軟件？

用AI系統(tǒng)生成種族主義內(nèi)容和仇恨內(nèi)容不是什么新鮮事，許多人討論過(guò)。OpenAI曾刊發(fā)論文，說(shuō)它開(kāi)發(fā)的系統(tǒng)可以用來(lái)降低虛擬信息傳播成本。

Sharma認(rèn)為，可以通過(guò)控制措施阻止惡意內(nèi)容生成，比如，如果請(qǐng)求次數(shù)太多，或者某類信息播放的次數(shù)很多，就可以啟動(dòng)審查，如此一來(lái)機(jī)器就會(huì)知道它不該這么做。

對(duì)于惡意軟件，那就是另一碼事了。如果想對(duì)抗用AI系統(tǒng)生成的惡意代碼，最好的辦法就是用AI來(lái)創(chuàng)建保護(hù)機(jī)制。Sharma稱：“如果有什么黑客工具用到了AI，我們必須用AI來(lái)理解其行為，用傳統(tǒng)的安全控制措施是無(wú)法應(yīng)付的?！?/p>

Mistry也認(rèn)為在此種環(huán)境下應(yīng)該將AI用作防御手段，因?yàn)锳I有自己的優(yōu)勢(shì)。AI擅于創(chuàng)建“多態(tài)”事物，可以改變形態(tài)去適應(yīng)每一次交互——與系統(tǒng)的交互。AI引擎可以高速運(yùn)行、大規(guī)模部署，這是人類做不到的。