ChatGPT 等生成式 AI 平臺正在徹底改變我們獲取信息、回答問題甚至開發(fā)軟件代碼的方式。根據(jù) KPMG 網(wǎng)絡安全調查：安全運營中心 (SOC) 領導者觀點，三分之二 (66%) 的安全領導者認為基于 AI 的自動化非常重要，無論是現(xiàn)在還是將來，它都能幫助我們領先于新威脅并提高 SOC 的敏捷性和響應能力。雖然基于 AI 的自動化提供了許多好處，但 AI 生成的建議的可靠性仍然是網(wǎng)絡安全領導者最關心的問題。這就引出了一個問題：如何才能充分發(fā)揮 AI 在網(wǎng)絡安全領域的潛力？

任何探索過生成式 AI 平臺的人都可以看到，AI 有潛力顯著增強網(wǎng)絡安全，特別是在查詢大型數(shù)據(jù)集、識別異常以及觸發(fā)基于事件的操作（如分類工單、提醒團隊或減少誤報）方面。然而，與任何技術一樣，AI也帶來了必須謹慎管理的新風險和挑戰(zhàn)。

一些關鍵風險包括：

• 武器化的人工智能：網(wǎng)絡對手可以利用人工智能開發(fā)復雜的攻擊方法，包括將惡意數(shù)據(jù)引入訓練數(shù)據(jù)集以破壞人工智能模型，從而導致不正確或危險的輸出。
• 過度依賴人工智能：組織可能會過度依賴人工智能系統(tǒng)，認為它們是絕對可靠的，這可能導致對人工監(jiān)督和手動安全檢查的自滿。
• 缺乏透明度：人工智能系統(tǒng)（尤其是基于深度學習的系統(tǒng)）可能不透明，難以理解決策的制定方式。這種缺乏透明度可能會對事件響應和根本原因分析產生負面影響。
• 數(shù)據(jù)隱私問題：人工智能需要大量數(shù)據(jù)進行訓練，這引發(fā)了人們對數(shù)據(jù)隱私和合規(guī)性的擔憂，尤其是涉及敏感信息時。此外，人工智能系統(tǒng)可能會存儲或處理大量數(shù)據(jù)集，這使其成為網(wǎng)絡犯罪分子竊取或操縱這些數(shù)據(jù)的誘人目標。
• 資源密集度：實施和維護人工智能驅動的網(wǎng)絡安全系統(tǒng)可能成本高昂，需要大量計算資源和熟練的人員。

盡管面臨這些挑戰(zhàn)，人工智能在現(xiàn)代網(wǎng)絡安全中仍發(fā)揮著至關重要的作用，它提供了顯著的優(yōu)勢，幫助組織抵御日益復雜的威脅。

人工智能在網(wǎng)絡安全中的一些主要優(yōu)勢包括：

• 增強威脅檢測：人工智能可以持續(xù)實時監(jiān)控網(wǎng)絡、系統(tǒng)和設備，比傳統(tǒng)方法更快地檢測出威脅。它還可以識別可能表明存在攻擊的異常行為模式，即使具體威脅未知（例如零日威脅）。此外，機器學習模型可以分析歷史數(shù)據(jù)來預測潛在威脅，從而采取主動防御措施。
• 安全任務自動化：人工智能可自動執(zhí)行日志分析、漏洞掃描和補丁管理等重復性任務，從而減少網(wǎng)絡安全團隊的工作量。它還可以自動執(zhí)行對安全事件的初步響應，例如隔離受影響的系統(tǒng)或阻止惡意流量，從而更快地遏制威脅。
• 處理大量數(shù)據(jù)：人工智能擅長處理海量數(shù)據(jù)，使其能夠篩選日志、網(wǎng)絡流量和安全警報，以比人類分析師更快、更準確地識別潛在威脅。
• 減少誤報：通過利用機器學習，人工智能可以減少安全警報中的誤報數(shù)量，使安全團隊能夠專注于真正的威脅并避免警報疲勞。
• 主動威脅搜尋：人工智能可以自動搜索組織基礎設施中的危害指標，在潛在威脅造成損害之前識別它們。
• 資源優(yōu)化：通過自動化網(wǎng)絡安全的許多方面，人工智能可幫助組織優(yōu)化資源，減少對大型安全團隊的需求，并最大限度地減少網(wǎng)絡安全技能短缺的影響。通過人工智能處理日常任務，網(wǎng)絡安全專業(yè)人員可以專注于更復雜和更具戰(zhàn)略性的挑戰(zhàn)，從而提高安全運營的整體效率。

目前，大多數(shù)人工智能策略都只專注于協(xié)助完成特定任務，組織仍在評估這項新興技術帶來的風險。然而，隨著網(wǎng)絡對手越來越多地利用人工智能，安全從業(yè)者也不能落后。相反，他們應該在風險和回報之間取得平衡，以加強威脅搜尋并實現(xiàn)更高的運營效率。