新發(fā)現(xiàn)!卡巴斯基稱(chēng)ChatGPT可用于惡意代碼識(shí)別
隨著近日大型語(yǔ)言模型 (LLM) ChatGPT的流行,許多網(wǎng)絡(luò)安全工作者也開(kāi)始實(shí)驗(yàn)它在抵御安全威脅方面的能力。目前已有多項(xiàng)實(shí)驗(yàn)表明,ChatGPT不僅能夠?qū)撛诘陌踩录M(jìn)行分類(lèi),還能從中發(fā)現(xiàn)代碼的安全漏洞,即便它沒(méi)有專(zhuān)門(mén)針對(duì)此類(lèi)活動(dòng)進(jìn)行訓(xùn)練。
2月15日,卡巴斯基在一項(xiàng)實(shí)驗(yàn)中,將ChatGPT 作為事件響應(yīng)工具的實(shí)用程序進(jìn)行分析。他們模仿一般攻擊者使用 Meterpreter 和 PowerShell Empire 代理感染了一個(gè)系統(tǒng),用 ChatGPT 對(duì)受感染的進(jìn)程進(jìn)行識(shí)別。結(jié)果顯示,ChatGPT在沒(méi)有誤報(bào)的情況下正確排除了137 個(gè)良性進(jìn)程,識(shí)別出了2個(gè)惡意進(jìn)程,并且還供了該服務(wù)應(yīng)被歸類(lèi)為陷落標(biāo)識(shí)(indicator of compromise)的原因結(jié)論。
最終,卡巴斯基分析師使用 ChatGPT 分析了測(cè)試系統(tǒng)上 3500 多個(gè)事件的元數(shù)據(jù),發(fā)現(xiàn)了 74 個(gè)潛在的危害指標(biāo),其中 17 個(gè)是誤報(bào)。該實(shí)驗(yàn)表明,ChatGPT 可用于為未運(yùn)行端點(diǎn)檢測(cè)和響應(yīng) (EDR) 系統(tǒng)、檢測(cè)代碼混淆或逆向工程代碼二進(jìn)制文件的公司收集取證信息。
這項(xiàng)實(shí)驗(yàn)是從向 ChatGPT 詢(xún)問(wèn) Mimikatz 和 Fast Reverse Proxy 等幾種黑客工具開(kāi)始的。人工智能模型成功地描述了這些工具,但當(dāng)被要求識(shí)別眾所周知的哈希值和域時(shí)卻失敗了,例如, ChatGPT無(wú)法識(shí)別惡意軟件WannaCry眾所周知的哈希值。
但顯而易見(jiàn),卡巴斯基在識(shí)別主機(jī)上的惡意代碼方面則較為成功,他們要求 ChatGPT 創(chuàng)建一個(gè) PowerShell 腳本,以從系統(tǒng)中收集元數(shù)據(jù)和危害指標(biāo)并提交。在手動(dòng)改進(jìn)代碼后,安全人員在受感染的測(cè)試系統(tǒng)上使用了該腳本。
在此之前,其他安全公司也在研究如何通過(guò)此類(lèi)模型來(lái)執(zhí)行特定的防御相關(guān)任務(wù)。去年12月,數(shù)字取證公司Cado Security使用ChatGPT創(chuàng)建了一個(gè)事件中的JSON數(shù)據(jù)的妥協(xié)時(shí)間表,生成了一份“不完全準(zhǔn)確但總體良好”的報(bào)告。
結(jié)果是否可用?
由此看出,ChatGPT得出的結(jié)果到底是否可用?安全咨詢(xún)公司NCC集團(tuán)嘗試用ChatGPT作為尋找代碼中的漏洞的方法,得到了“不總是準(zhǔn)確”的結(jié)果。NCC集團(tuán)首席科學(xué)家 Chris Anley 表示,安全分析師、開(kāi)發(fā)人員和逆向工程師在使用如ChatGPT的大型語(yǔ)言模型時(shí)要小心行事,尤其是對(duì)于超出其能力范圍的任務(wù)。
“我贊同專(zhuān)業(yè)開(kāi)發(fā)人員和其他使用代碼的人去探索 ChatGPT 和類(lèi)似模型,但更多的是為了獲得靈感,而不是為了獲得絕對(duì)正確、真實(shí)的結(jié)果,“Chris Anley說(shuō)道。”用ChatGPT進(jìn)行安全代碼審查不是我們的最佳選擇,所以期望它第一次就做到完美是有點(diǎn)不公平。"
卡巴斯基事件響應(yīng)團(tuán)隊(duì)負(fù)責(zé)人 Victor Sergeev也警告稱(chēng),結(jié)果不準(zhǔn)確是一個(gè)非?,F(xiàn)實(shí)的問(wèn)題,要注意這些這可能產(chǎn)生的誤報(bào)和漏報(bào),并稱(chēng)目前的ChatGPT”也只是另一個(gè)容易產(chǎn)生意外結(jié)果的統(tǒng)計(jì)神經(jīng)網(wǎng)絡(luò)“。
有待完善的隱私規(guī)則
目前,已經(jīng)有公司開(kāi)始對(duì)使用互聯(lián)網(wǎng)上的信息創(chuàng)建數(shù)據(jù)集提出異議,NCC Group 的 Anley 表示,安全專(zhuān)家必須確定提交的入侵指標(biāo)是否暴露了敏感數(shù)據(jù),或者提交軟件代碼進(jìn)行分析是否侵犯了公司的知識(shí)產(chǎn)權(quán)。“向ChatGPT提交代碼是否是個(gè)好主意,很大程度上取決于具體情況。"很多代碼是專(zhuān)有的,受到各種法律保護(hù),所以我不建議人們提交代碼給第三方,除非他們得到許可?!?Anley說(shuō)道。
Sergeev也發(fā)出了類(lèi)似的警告。使用ChatGPT檢測(cè)漏洞,必然會(huì)向系統(tǒng)發(fā)送敏感數(shù)據(jù),這可能違反了公司政策,并可能帶來(lái)商業(yè)風(fēng)險(xiǎn)。