隨著人工智能技術(shù)的高歌猛進(jìn)，各行各業(yè)都在討論即將到來的人工智能(AI)革命。但很少有人注意到，作為AI最大的細(xì)分市場之一，網(wǎng)絡(luò)安全行業(yè)正處于這場人工智能革命的“震中”，但與傳統(tǒng)軟件和硬件基礎(chǔ)設(shè)施行業(yè)不同，AI不是網(wǎng)絡(luò)安全行業(yè)/職業(yè)的終結(jié)者，相反，AI正激發(fā)網(wǎng)絡(luò)安全爆發(fā)新一輪的創(chuàng)新投資和市場增長。

2024年，隨著生成式AI新興威脅、網(wǎng)絡(luò)犯罪規(guī)?；?、全球大選與地緣政治動(dòng)蕩和新型網(wǎng)絡(luò)威脅的快速增長，網(wǎng)絡(luò)安全也將迎來一次重大變革和洗牌。

對(duì)于網(wǎng)絡(luò)安全從業(yè)人員來說，一個(gè)最迫切的問題是：AI將如何改變網(wǎng)絡(luò)安全行業(yè)?具體來說，AI對(duì)網(wǎng)絡(luò)安全行業(yè)是利大于弊還是弊大于利?AI會(huì)導(dǎo)致網(wǎng)絡(luò)安全行業(yè)大批裁員嗎?AI將從那些方面改善網(wǎng)絡(luò)安全?AI將如何改變當(dāng)前的安全態(tài)勢(shì)和威脅環(huán)境?企業(yè)網(wǎng)絡(luò)安全實(shí)施AI的主要挑戰(zhàn)有哪些?

數(shù)月前，CSA曾向近2500名網(wǎng)絡(luò)安全專家分發(fā)了一份在線調(diào)查，旨在深入了解網(wǎng)絡(luò)安全行業(yè)對(duì)AI重點(diǎn)關(guān)注的幾個(gè)問題：

• 當(dāng)前的安全挑戰(zhàn)
• 對(duì)AI在網(wǎng)絡(luò)安全中的看法
• 行業(yè)對(duì)AI的熟悉程度
• 行業(yè)對(duì)AI使用的計(jì)劃
• AI對(duì)人員配備和培訓(xùn)的影響

AI是攻擊者的利器還是防御者的盾牌?

CSA的研究表明，大多數(shù)受訪的安全專業(yè)人士(63%)對(duì)AI持謹(jǐn)慎樂觀態(tài)度，認(rèn)為它將增強(qiáng)威脅檢測(cè)和響應(yīng)能力。然而，這些受訪者對(duì)AI的主要受益者存在分歧：34%認(rèn)為安全團(tuán)隊(duì)受益最大，25%認(rèn)為AI將對(duì)攻擊者有利。31%的受訪者認(rèn)為AI給防御者和攻擊者帶來了同等的優(yōu)勢(shì)。

AI會(huì)導(dǎo)致網(wǎng)絡(luò)安全從業(yè)人員大量失業(yè)嗎?

盡管有人擔(dān)心AI可能會(huì)接管大量IT工作崗位，但大多數(shù)網(wǎng)絡(luò)安全專業(yè)人士認(rèn)為AI將賦能而不是取代他們。

大多數(shù)受訪者認(rèn)為AI將提升他們的技能(30%)，支持他們的角色(28%)，或自動(dòng)化大部分任務(wù)并節(jié)省大量時(shí)間用于更高級(jí)的工作。

只有極少數(shù)(12%)受訪者擔(dān)心AI會(huì)完全取代他們。然而，超過一半的受訪安全專業(yè)人士擔(dān)心可能會(huì)過度依賴AI，強(qiáng)調(diào)在AI驅(qū)動(dòng)和人工驅(qū)動(dòng)的安全方法之間找到平衡的重要性。

企業(yè)安全團(tuán)隊(duì)在2024年會(huì)優(yōu)先實(shí)施哪些AI?

根據(jù)CSA的報(bào)告，截至分發(fā)時(shí)，超過一半(55%)的企業(yè)安全團(tuán)隊(duì)計(jì)劃在2024年實(shí)施生成式AI。他們會(huì)優(yōu)先探索或?qū)嵤┮韵掠美?/p>

• 規(guī)則創(chuàng)建–21%
• 攻擊模擬–19%
• 合規(guī)違規(guī)監(jiān)控–19%
• 網(wǎng)絡(luò)檢測(cè)–16%
• 減少誤報(bào)–16%
• 培訓(xùn)開發(fā)和支持–15%
• 異常分類–14%
• 自然語言搜索–13%
• 威脅摘要–13%
• 數(shù)據(jù)丟失防護(hù)，知識(shí)產(chǎn)權(quán)保護(hù)–13%
• 用戶行為分析–11%
• 自動(dòng)報(bào)告生成–10%
• 端點(diǎn)檢測(cè)–10%
• 事件日志摘要–9%
• 法證分析–9%
• 聊天機(jī)器人–9%
• 事件摘要–8%
• 配置漂移–8%
• 行動(dòng)/補(bǔ)救建議–8%
• 代碼分析–7%

實(shí)施AI的主要挑戰(zhàn)是什么?

根據(jù)調(diào)查，安全專業(yè)人士認(rèn)為缺乏掌握AI相關(guān)技能的員工(33%)是在網(wǎng)絡(luò)安全中實(shí)施AI的主要挑戰(zhàn)。這包括尋找具備正確技能的新員工以及對(duì)現(xiàn)有員工進(jìn)行技能培訓(xùn)和提升。

其他挑戰(zhàn)包括資源分配(11%)、理解AI風(fēng)險(xiǎn)(10%)和實(shí)施成本(85%)。有些出乎意料的是，受訪者并不認(rèn)為傳統(tǒng)的障礙如法規(guī)和數(shù)據(jù)隱私合規(guī)問題是主要挑戰(zhàn)。

高管和員工對(duì)AI的看法有何不同?

不出所料，高管們(自認(rèn)為)比他們的員工更了解AI——51%的C級(jí)高管聲稱對(duì)AI非常了解，而員工中只有11%。同樣比例的C級(jí)高管表示對(duì)AI有“清晰”的理解，而員工中只有14%。這些數(shù)字也許并不能真實(shí)反映高管與員工對(duì)AI了解程度的差異，因?yàn)樵诤芏囝愃普{(diào)查中，C級(jí)高管都有自大傾向。

有趣的是，關(guān)于AI對(duì)安全的影響，大多數(shù)員工(74%)對(duì)領(lǐng)導(dǎo)層的認(rèn)知充滿信心——盡管只有14%的員工表示對(duì)AI有清晰的理解。同樣，84%的受訪者表示他們的執(zhí)行領(lǐng)導(dǎo)和董事會(huì)提倡采用AI。顯然，高管和董事會(huì)還需要做更多工作來教育員工，以實(shí)現(xiàn)這一目標(biāo)。

總的來說，網(wǎng)絡(luò)安全專業(yè)人士對(duì)AI持謹(jǐn)慎樂觀態(tài)度。然而，他們對(duì)這項(xiàng)技術(shù)的理解還有待提高;企業(yè)中這種過度自信和準(zhǔn)備不足的并存狀態(tài)可能會(huì)帶來災(zāi)難性后果。C級(jí)高管必須確保他們對(duì)AI的理解與他們的實(shí)際認(rèn)知水平保持一致，并努力提高員工的知識(shí)。盡管企業(yè)渴望將AI應(yīng)用到(網(wǎng)絡(luò)安全)業(yè)務(wù)流程中，但在此之前必須解決員工AI知識(shí)和技能的巨大差距。