在2024年的黑帽大會（Black Hat 2024）上，AI驅動的網絡安全工具和技術成為焦點，引領了網絡安全行業(yè)新趨勢。眾多安全廠商和初創(chuàng)公司展示了他們的最新成果，利用生成式AI來管理風險、檢測并對抗網絡犯罪，保障企業(yè)安全。以下是大會上一些備受矚目的AI驅動網絡安全產品和服務：

Apiiro：軟件開發(fā)設計階段的風險智能檢測

Apiiro推出了一項名為“設計階段的風險檢測”的AI驅動功能，旨在分析功能請求，以在應用開發(fā)的早期階段識別風險并啟動安全審查或威脅模型。該功能依托Apiiro的專有LLM，使應用安全實踐者能夠在編碼前的設計階段緩解安全和合規(guī)風險，從而節(jié)省時間、減少返工并加速安全軟件交付。主要風險分析領域包括架構設計、敏感數(shù)據(jù)處理、用戶權限、生成式AI技術和第三方集成。

SentinelOne：Purple AI、CIEM、xSPM和SIEM

SentinelOne在其Singularity平臺中新增了一系列功能，旨在利用生成式AI技術增強端點、身份和云環(huán)境的安全性。新功能包括Purple AI，它提供自然語言警報摘要和查詢支持，幫助分析師簡化警報。云基礎設施權限管理（CIEM）幫助控制對云資源的訪問權。此外，SentinelOne還推出了擴展安全態(tài)勢管理（xSPM）和AI驅動的SIEM，以提供實時洞察和可擴展的安全解決方案。

Cymulate：AI Copilot

Cymulate宣布推出其AI Copilot，這是一款生成式AI解決方案，旨在啟用針對實時威脅的安全控制。AI Copilot引入了動態(tài)攻擊規(guī)劃器，允許用戶通過復制和粘貼威脅通告、新聞文章和安全研究發(fā)現(xiàn)中的URL或內容來執(zhí)行自定義威脅評估。該功能旨在快速識別和修復安全漏洞，減少威脅評估所需的時間和專業(yè)知識。AI Copilot還生成定制的產品文檔并簡化故障排除，優(yōu)化安全驗證流程并解放IT資源。

Cequence：生成式AI驅動的統(tǒng)一API保護（UAP）

Cequence對其統(tǒng)一API保護平臺進行了多項更新，重點是安全使用生成式AI應用程序和大語言模型。主要增強功能包括針對OWASP LLM十大威脅的測試套件、自動檢測和阻止AI機器人活動、用于可視化API流的流圖以及針對全面API發(fā)現(xiàn)的新集成。該平臺還在本地處理API流量，提高效率和隱私，并提供針對API網關和基礎設施的攻擊面檢測。

RAD Security：AI驅動的事件調查

RAD Security推出了其AI驅動的事件調查功能，旨在通過行為檢測和響應提高云安全性。該方法通過結合LLM驅動的調查和行為檢測，減少誤報并提高事件評估的準確性。RAD Security的云檢測和響應（CDR）解決方案創(chuàng)建行為基線，以檢測零日攻擊，并通過實時身份和基礎設施上下文豐富檢測。新功能包括Amazon EKS插件、自動AI驅動的調查、用于事件導航的發(fā)現(xiàn)中心和更新的RAD開源目錄，以提高檢測能力。

Code42：Incydr支持生成式AI的數(shù)據(jù)泄漏防護

Mimecast旗下的Code42，推出了其Incydr解決方案的升級版，以防止數(shù)據(jù)泄漏到生成式AI工具。Incydr的新數(shù)據(jù)可視化和PRISM系統(tǒng)可以幫助安全團隊定位和響應數(shù)據(jù)向ChatGPT和Google Gemini等生成式AI工具的移動。該解決方案包括檢測和阻止風險活動、為員工提供教育視頻，并即將支持ChatGPT桌面應用程序。

Legit Security：AI安全指揮中心

Legit Security推出了AI安全指揮中心，旨在為安全團隊提供一個控制臺，以在開發(fā)環(huán)境中實現(xiàn)AI可見性和保護。該儀表板將幫助緩解在應用代碼中使用AI模型的風險，提供AI模型清單的集中可見性，進行風險關聯(lián)和優(yōu)先級排序，并擴展ASPM控制以包括AI安全態(tài)勢管理。Legit Security還宣布加入安全AI聯(lián)盟（CoSAI），以推動軟件開發(fā)中全面的AI安全措施。

Balbix：對話式AI安全助手

在Black Hat USA 2024上，Balbix推出了BIX，這是一款旨在簡化網絡風險和暴露管理的對話式AI助手。BIX旨在通過根據(jù)用戶角色和過去的互動提供個性化、上下文相關的建議來簡化風險管理。BIX具有移動訪問、實時更新和與現(xiàn)有網絡安全和IT系統(tǒng)集成的功能，有助于安全團隊進行決策和跨渠道溝通。BIX利用基于RAG的大型語言模型和Nvidia硬件的多代理架構，旨在將復雜任務分解為可管理的子任務，以提高運營效率并減少響應時間。

Orca Research：AI Goat

Orca Research推出了一種開源AI安全學習環(huán)境——AI Goat，旨在解決OWASP十大ML風險。該工具可在Orca Research的GitHub存儲庫中獲得，使用Terraform構建了一個易受攻擊的AI環(huán)境，具有一系列威脅和漏洞，用于安全培訓和教育場景。該工具旨在幫助安全專業(yè)人員和滲透測試人員理解和測試AI特定漏洞，并提高防御此類攻擊的能力。在Black Hat USA 2024上，OWASP ML安全十大項目的負責人Shain Singh強調，AI Goat通過模擬現(xiàn)實世界的漏洞和錯誤配置，增強了對AI風險的理解，并幫助組織更好地防范潛在的AI攻擊。