GenAI將如何在零信任的環(huán)境中增強(qiáng)網(wǎng)絡(luò)安全
人們對(duì)GenAI的信任好壞參半。VentureBeat最近與制造業(yè)和服務(wù)業(yè)的幾家CISO進(jìn)行了交談,了解到盡管營(yíng)銷、運(yùn)營(yíng),特別是安全方面的生產(chǎn)率有提高的潛力,但對(duì)知識(shí)產(chǎn)權(quán)和數(shù)據(jù)保密性的擔(dān)憂是董事會(huì)成員最常詢問(wèn)的風(fēng)險(xiǎn)之一。
在新技術(shù)的軍備競(jìng)賽中保持同步
研究發(fā)現(xiàn),雖然69%的企業(yè)采用了GenAI工具,但46%的網(wǎng)絡(luò)安全專業(yè)人員認(rèn)為GenAI使企業(yè)更容易受到攻擊,88%的CISO和安全負(fù)責(zé)人表示,武器化的AI攻擊是不可避免的。
85%的人認(rèn)為GenAI可能為最近的攻擊提供了動(dòng)力,理由是WormGPT的卷土重來(lái),這是一種新的GenAI,在地下論壇上向有興趣發(fā)動(dòng)釣魚(yú)和商業(yè)電子郵件妥協(xié)攻擊的攻擊者做廣告。武器化的GenAI工具在黑暗網(wǎng)絡(luò)和Telegram上出售,很快成為暢銷書(shū)。一個(gè)例子是,到7月份,F(xiàn)raudGPT的訂閱量很快就達(dá)到了3000。
CrowdStrike首席科學(xué)家兼高級(jí)副總裁Sven Krasser告訴VentureBeat,攻擊者正在加快努力,將大型語(yǔ)言模型(LLM)和GenAI武器化。Krasser強(qiáng)調(diào),網(wǎng)絡(luò)犯罪分子正在采用LLM技術(shù)進(jìn)行網(wǎng)絡(luò)釣魚(yú)和惡意軟件,但“雖然這提高了對(duì)手可以發(fā)動(dòng)的攻擊的速度和數(shù)量,但它并沒(méi)有顯著改變攻擊的質(zhì)量。”
Krasser繼續(xù)說(shuō),“使用AI將來(lái)自全球各地的信號(hào)關(guān)聯(lián)起來(lái)的基于云的安全也是對(duì)這些新威脅的有效防御?!彼^察到,“當(dāng)涉及到這些惡意技術(shù)時(shí),GenAI并沒(méi)有提高標(biāo)準(zhǔn),但它提高了平均水平,并使技能較低的對(duì)手更容易變得更有效。”
“在進(jìn)攻性AI成為主流之前,企業(yè)必須實(shí)施網(wǎng)絡(luò)AI來(lái)防御。當(dāng)這成為一場(chǎng)算法與算法的戰(zhàn)爭(zhēng)時(shí),只有自主反應(yīng)才能以機(jī)器的速度反擊,以阻止AI增強(qiáng)的攻擊。”Darktrace威脅狩獵主管Max Heinmeyer說(shuō)。
GenAI用例正在推動(dòng)市場(chǎng)不斷增長(zhǎng)
GenAI不斷學(xué)習(xí)的能力是一個(gè)引人注目的優(yōu)勢(shì),尤其是在解密終端創(chuàng)建的海量數(shù)據(jù)時(shí),不斷更新的威脅評(píng)估和風(fēng)險(xiǎn)優(yōu)先級(jí)算法也推動(dòng)了引人注目的新用例,CISO和CIO預(yù)計(jì)這些用例將改善行為并預(yù)測(cè)威脅。Ivanti最近與Securin的合作旨在提供更精確和實(shí)時(shí)的風(fēng)險(xiǎn)優(yōu)先級(jí)算法,同時(shí)實(shí)現(xiàn)其他幾個(gè)關(guān)鍵目標(biāo),以加強(qiáng)其客戶的安全狀況。
Ivanti和Securin正在合作更新風(fēng)險(xiǎn)優(yōu)先排序算法,將Securin的漏洞智能(VI)和Ivanti漏洞知識(shí)庫(kù)神經(jīng)元相結(jié)合,以提供近乎實(shí)時(shí)的漏洞威脅情報(bào),以便其客戶的安全專家能夠加快漏洞評(píng)估和優(yōu)先排序。Ivanti的首席產(chǎn)品官斯里尼瓦斯·穆卡馬拉博士說(shuō):“通過(guò)與Securin合作,我們能夠使用AI增強(qiáng)人類智能,為客戶提供強(qiáng)大的情報(bào)和風(fēng)險(xiǎn)優(yōu)先級(jí),以應(yīng)對(duì)所有漏洞,無(wú)論其來(lái)源如何?!?/p>
Gen AI的許多潛在用例是推動(dòng)市場(chǎng)增長(zhǎng)的令人信服的催化劑,即使CISO社區(qū)對(duì)當(dāng)前一代技術(shù)的信任存在分歧?;贏I的生產(chǎn)性網(wǎng)絡(luò)安全平臺(tái)、系統(tǒng)和解決方案的市場(chǎng)價(jià)值預(yù)計(jì)將從2022年的16億美元上升到2032年的112億美元,年復(fù)合增長(zhǎng)率為22%。Canalys預(yù)計(jì),GenAI將在五年內(nèi)支持超過(guò)70%的企業(yè)網(wǎng)絡(luò)安全運(yùn)營(yíng)。
Forrester將GenAI用例定義為三類:內(nèi)容創(chuàng)建、行為預(yù)測(cè)和知識(shí)表達(dá)。在安全工具中使用AI和ML并不是什么新鮮事。在過(guò)去十年中開(kāi)發(fā)的幾乎每個(gè)安全工具都以某種形式使用ML,例如,自適應(yīng)和情景身份驗(yàn)證已被用于基于啟發(fā)式規(guī)則、樸素貝葉斯分類和邏輯回歸分析構(gòu)建風(fēng)險(xiǎn)評(píng)分邏輯“,F(xiàn)orrester的首席分析師Allie Mellen寫(xiě)道。
GenAI需要靈活地適應(yīng)不同的業(yè)務(wù)
CISO和CIO如何就如何平衡GenAI的風(fēng)險(xiǎn)和好處向董事會(huì)提供建議,將決定這項(xiàng)技術(shù)在未來(lái)幾年的未來(lái)。Gartner預(yù)測(cè),到2026年,80%的應(yīng)用程序?qū)℅enAI功能,這一采用率在大多數(shù)企業(yè)中已經(jīng)開(kāi)創(chuàng)了先例。
CISO表示,他們正從第一代GenAI應(yīng)用程序中獲得最大價(jià)值,他們表示,一個(gè)平臺(tái)或應(yīng)用程序?qū)λ麄儓F(tuán)隊(duì)的工作方式有多大的適應(yīng)性是關(guān)鍵,這延伸到基于GenAI的技術(shù)如何支持和加強(qiáng)它們正在構(gòu)建的更廣泛的零信任安全框架。
以下是試行GenAI的CISO的用例和指導(dǎo),以及他們期望看到的最大價(jià)值:
確保每一代AI應(yīng)用程序、平臺(tái)、工具和終端都作為零信任框架的一部分得到保護(hù)
對(duì)與GenAI工具、應(yīng)用程序、平臺(tái)和端點(diǎn)進(jìn)行的每一次交互都采取零信任方法是任何CISO劇本的必備條件,這必須包括對(duì)用戶、設(shè)備及其在靜止和傳輸中使用的數(shù)據(jù)進(jìn)行持續(xù)監(jiān)控、動(dòng)態(tài)訪問(wèn)控制和始終在線驗(yàn)證。
CISO最擔(dān)心的是GenAI如何帶來(lái)他們沒(méi)有準(zhǔn)備好防御的新攻擊載體。對(duì)于構(gòu)建LLMS的企業(yè)來(lái)說(shuō),防止查詢攻擊、及時(shí)注入、模型操縱和數(shù)據(jù)中毒是首要任務(wù)。
使用Gen AI管理知識(shí)
最流行的用例是使用Gen AI跨安全團(tuán)隊(duì)和大型企業(yè)管理知識(shí),以替代成本更高、耗時(shí)更長(zhǎng)的系統(tǒng)集成項(xiàng)目。今年,基于ChatGPT的副駕駛主導(dǎo)了RSAC 2023。推出ChatGPT解決方案的供應(yīng)商包括谷歌安全AI工作臺(tái)、微軟安全Copilot(在展會(huì)前推出)、Recorded Future、Security Scorecard和SentinelOne。
Ivanti在這一領(lǐng)域發(fā)揮了領(lǐng)導(dǎo)作用,因?yàn)樗麄儗?duì)客戶的IT服務(wù)管理(ITSM)、網(wǎng)絡(luò)安全和網(wǎng)絡(luò)安全需求有深入的了解,他們提供了一個(gè)主題為如何用GenAI轉(zhuǎn)變IT服務(wù)管理的網(wǎng)絡(luò)研討會(huì),由IvantiAL/ML首席產(chǎn)品經(jīng)理蘇珊·馮擔(dān)任主講。
今年早些時(shí)候,在CrowdStrike Fal.Con 2023上,這家網(wǎng)絡(luò)安全提供商在他們的年度活動(dòng)上發(fā)布了12項(xiàng)新聲明。Charlotte AI將對(duì)話式AI的力量帶到了Falcon平臺(tái)上,通過(guò)自然語(yǔ)言交互來(lái)加速威脅檢測(cè)、調(diào)查和響應(yīng)。Charlotte AI生成LLM支持的事件摘要,以幫助安全分析師節(jié)省分析漏洞的時(shí)間。
Charlotte AI將在明年向所有CrowdStrike Falcon客戶發(fā)布,初步升級(jí)將于2023年9月下旬在Raptor平臺(tái)上開(kāi)始。CrowdStrike的首席產(chǎn)品官Raj Rajamani表示,CharlotteAI通過(guò)自動(dòng)化重復(fù)性任務(wù),幫助安全分析師“提高兩到三倍的工作效率”。Rajamani向VentureBeat解釋說(shuō),CrowdStrike在其圖形數(shù)據(jù)庫(kù)架構(gòu)上投入了大量資金,以支持Charlotte跨越終端、云和身份的能力。
識(shí)別和修復(fù)云配置錯(cuò)誤
云攻擊攻擊同比增長(zhǎng)95%,因?yàn)楣粽卟粩嗯Ω倪M(jìn)他們的交易技巧并破壞云錯(cuò)誤配置,這是企業(yè)需要防范的增長(zhǎng)最快的威脅之一。
VentureBeat預(yù)測(cè),2024年將出現(xiàn)合并、收購(gòu)和更多合資企業(yè),旨在縮小多云和混合云安全差距。CrowdStrike今年早些時(shí)候收購(gòu)了Bionic,這只是一個(gè)更廣泛趨勢(shì)的開(kāi)始,旨在幫助企業(yè)加強(qiáng)他們的應(yīng)用安全和狀態(tài)管理。之前旨在提高云安全的收購(gòu)包括微軟收購(gòu)CloudKnox Security,CyberArk收購(gòu)C3M,Snyk收購(gòu)Fugue,Rubrik收購(gòu)Lamina。
此次收購(gòu)還有助于增強(qiáng)CloudStrikes在統(tǒng)一平臺(tái)上銷售整合的云本地安全的能力,Bionic非常適合CrowdStrikes的云優(yōu)先企業(yè)客戶群,它反映了收購(gòu)將如何被用來(lái)進(jìn)一步加強(qiáng)Gen AI在網(wǎng)絡(luò)安全方面的潛力。