安全領(lǐng)導(dǎo)者必須成為AI的倡導(dǎo)者、風(fēng)險專家、數(shù)據(jù)管理員、教育者和研究者，以下是如何引領(lǐng)你的企業(yè)走向更安全、更有效的AI使用之路。

當(dāng)ChatGPT首次問世時，我詢問了一個由CISO組成的小組，這對他們的網(wǎng)絡(luò)安全計劃意味著什么。他們認(rèn)識到了即將到來的變化，但回顧了過去的顛覆性技術(shù)，如iPods、Wi-Fi接入點和SaaS應(yīng)用程序進(jìn)入企業(yè)界的情況。大家的共識是，安全AI將成為一個類似的顛覆者，因此他們認(rèn)為80%(或更多)的AI安全要求已經(jīng)到位。諸如強大的資產(chǎn)清單、數(shù)據(jù)安全、身份治理、漏洞管理等安全基礎(chǔ)，將作為AI網(wǎng)絡(luò)安全的基礎(chǔ)。

快進(jìn)到2025年，我的CISO朋友們說得對——但又不完全對。確實，一個健全且全面的企業(yè)安全計劃可以作為AI安全的錨點，但剩下的20%比最初想象的要更具挑戰(zhàn)性。AI應(yīng)用正在迅速擴大攻擊面，同時還將攻擊面擴展到第三方合作伙伴，以及深入到軟件供應(yīng)鏈內(nèi)部，這意味著有限的可見性和盲點。AI通常根植于開源和API連接性，因此可能到處都存在影子AI活動。最后，AI創(chuàng)新正在迅速推進(jìn)，使得負(fù)擔(dān)過重的安全團(tuán)隊難以跟上步伐。

除了AI的技術(shù)方面外，值得注意的是，許多AI項目最終都以失敗告終。根據(jù)標(biāo)準(zhǔn)普爾全球市場情報(S&P Global Market Intelligence)的研究，2025年有42%的企業(yè)關(guān)閉了大部分AI倡議(相比之下，2024年這一比例為17%)。此外，近一半(46%)的企業(yè)在AI概念驗證還未進(jìn)入生產(chǎn)階段就已叫停。

為什么這么多AI項目會失敗?行業(yè)研究指出，成本、數(shù)據(jù)質(zhì)量差、缺乏治理、人才缺口以及擴展問題等是主要原因。

隨著項目的失敗和一系列安全挑戰(zhàn)的出現(xiàn)，企業(yè)在確保穩(wěn)健的AI創(chuàng)新和安全戰(zhàn)略方面有一長串且不斷增長的任務(wù)清單。當(dāng)我最近與我的CISO朋友們會面時，他們經(jīng)常強調(diào)以下五個優(yōu)先事項：

1. 以強大的治理模型為起點

需要明確的是，我所說的不僅僅是技術(shù)或安全。事實上，AI治理模型必須始于業(yè)務(wù)和技術(shù)團(tuán)隊之間就AI如何以及在哪里用于支持企業(yè)使命達(dá)成的一致。

為了實現(xiàn)這一點，CISO應(yīng)與CIO合作，對業(yè)務(wù)領(lǐng)導(dǎo)者以及法律、財務(wù)等業(yè)務(wù)職能部門進(jìn)行教育，以建立一個支持業(yè)務(wù)需求和技術(shù)能力的AI框架，該框架應(yīng)遵循從構(gòu)思到生產(chǎn)的生命周期，并包括倫理考慮、可接受的使用政策、透明度、監(jiān)管合規(guī)性以及成功指標(biāo)。

在此過程中，CISO應(yīng)審查現(xiàn)有的框架，如NIST AI風(fēng)險管理框架、ISO/IEC 42001:2023、聯(lián)合國教科文企業(yè)關(guān)于人工智能倫理的建議，以及RockCyber的RISE(研究、實施、維持、評估)和CARE(創(chuàng)建、采用、運行、進(jìn)化)框架。企業(yè)可能需要創(chuàng)建一個適合其特定需求的“最佳”框架。

2. 全面且持續(xù)地了解AI風(fēng)險

要掌握企業(yè)的AI風(fēng)險，首先要從基礎(chǔ)做起，如AI資產(chǎn)清單、軟件物料清單、漏洞和暴露管理最佳實踐以及AI風(fēng)險登記冊。除了基礎(chǔ)衛(wèi)生外，CISO和安全專業(yè)人員必須了解AI特有的威脅，如模型中毒、數(shù)據(jù)推斷、提示注入等。威脅分析師需要跟上新興的戰(zhàn)術(shù)、技術(shù)和程序(TTP)，這些用于AI攻擊。MITRE ATLAS是一個很好的資源。

隨著AI應(yīng)用擴展到第三方，CISO將需要對第三方數(shù)據(jù)、AI安全控制、供應(yīng)鏈安全等進(jìn)行定制審計。安全領(lǐng)導(dǎo)者還必須關(guān)注新興且經(jīng)常變化的AI法規(guī)。歐盟AI法案是目前最全面的，強調(diào)安全性、透明度、非歧視性和環(huán)境友好性。其他法規(guī)，如科羅拉多州人工智能法案(CAIA)，可能會隨著消費者反應(yīng)、企業(yè)經(jīng)驗和法律判例法的演變而迅速變化。CISO應(yīng)預(yù)期其他州、聯(lián)邦、地區(qū)和行業(yè)法規(guī)的出現(xiàn)。

3. 關(guān)注不斷發(fā)展的數(shù)據(jù)完整性定義

你可能會認(rèn)為這是顯而易見的，因為機密性、完整性和可用性構(gòu)成了網(wǎng)絡(luò)安全的CIA三要素，但在信息安全領(lǐng)域，數(shù)據(jù)完整性一直側(cè)重于未經(jīng)授權(quán)的數(shù)據(jù)修改和數(shù)據(jù)一致性等問題。這些保護(hù)措施仍然是必要的，但CISO應(yīng)擴大其視野，以包括AI模型本身的數(shù)據(jù)完整性和真實性。

為了說明這一點，這里有一些著名的數(shù)據(jù)模型問題示例。亞馬遜創(chuàng)建了一個AI招聘工具，以幫助其更好地篩選簡歷并選擇最合格的候選人。不幸的是，該模型主要使用男性導(dǎo)向的數(shù)據(jù)進(jìn)行訓(xùn)練，因此它歧視女性申請者。同樣，當(dāng)英國創(chuàng)建一個護(hù)照照片檢查應(yīng)用程序時，其模型是使用白皮膚的人進(jìn)行訓(xùn)練的，因此它歧視深色皮膚的人。

AI模型的真實性不是CISSP認(rèn)證的一部分，但CISO必須將其作為AI治理責(zé)任的一部分來掌握。

4. 在所有層面追求AI素養(yǎng)

每個員工、合作伙伴和客戶都將在某種程度上與AI合作，因此AI素養(yǎng)是一個高度優(yōu)先事項。CISO應(yīng)從自己的部門開始，對整個安全團(tuán)隊進(jìn)行AI基礎(chǔ)知識培訓(xùn)。

已建立的軟件安全開發(fā)生命周期(SDLC)應(yīng)進(jìn)行修訂，以涵蓋AI威脅建模、數(shù)據(jù)處理、API安全等內(nèi)容。開發(fā)者還應(yīng)接受AI開發(fā)最佳實踐的培訓(xùn)，包括大型語言模型(LLM)的OWASP十大安全風(fēng)險、谷歌的安全AI框架(SAIF)以及云安全聯(lián)盟(CSA)的指導(dǎo)。

最終用戶培訓(xùn)應(yīng)包括可接受的使用、數(shù)據(jù)處理、錯誤信息和深度偽造培訓(xùn)。來自Mimecast等供應(yīng)商的人類風(fēng)險管理(HRM)解決方案可能是跟上AI威脅并為不同個體和角色定制培訓(xùn)所必需的。

5. 對用于網(wǎng)絡(luò)安全的AI技術(shù)保持謹(jǐn)慎樂觀的態(tài)度

我會將今天的AI安全技術(shù)歸類為更像是“駕駛員輔助”，如巡航控制，而非自動駕駛。盡管如此，事情正在迅速推進(jìn)。

CISO應(yīng)要求其員工識別離散的任務(wù)，如警報分類、威脅狩獵、風(fēng)險評分和創(chuàng)建報告，在這些任務(wù)中他們可能需要一些幫助，然后開始研究這些領(lǐng)域的新興安全創(chuàng)新。

同時，安全領(lǐng)導(dǎo)者應(yīng)與領(lǐng)先的安全技術(shù)合作伙伴安排路線圖會議。參加這些會議時，要準(zhǔn)備好討論具體需求，而不是聽那些不切實際的PowerPoint演示。CISO還應(yīng)直接詢問供應(yīng)商AI將如何用于現(xiàn)有技術(shù)的調(diào)優(yōu)和優(yōu)化。創(chuàng)新正在不斷涌現(xiàn)，因此我認(rèn)為值得在現(xiàn)有合作伙伴、競爭對手和初創(chuàng)企業(yè)中廣泛尋找。

然而，要小心謹(jǐn)慎，許多AI“產(chǎn)品”實際上只是產(chǎn)品功能，AI應(yīng)用需要大量資源，且開發(fā)和運營成本高昂。一些初創(chuàng)企業(yè)將被收購，但許多可能會迅速衰落。買家要當(dāng)心!

未來的機遇

我將以一個預(yù)測來結(jié)束這篇文章，目前，約70%的CISO向CIO匯報工作，我相信，隨著AI的普及，CISO的匯報結(jié)構(gòu)將迅速發(fā)生變化，更多地將直接向CEO匯報，那些在AI業(yè)務(wù)和技術(shù)治理中發(fā)揮領(lǐng)導(dǎo)作用的人很可能會成為首批被提拔的人。