每家公司都存在信息缺口和瓶頸，歸根結(jié)底，這正是AI為企業(yè)帶來的真正價值：擴(kuò)大信息獲取渠道，幫助人們連接更多信息點(diǎn)。

但是，當(dāng)你部署一個像智能體這樣的系統(tǒng)，該系統(tǒng)連接著企業(yè)的每一個數(shù)據(jù)源，旨在回答問題、主動從數(shù)百個應(yīng)用程序或部門中挖掘洞察，并采取行動(無論是否有人類提出要求)，會發(fā)生什么呢?

你會得到一個可能極大提升生產(chǎn)力的智能體，但同時也可能成為一個重大的安全風(fēng)險(xiǎn)。

好了，別急著渲染末日氛圍——這個問題并非完全新鮮，畢竟，近六成的安全漏洞都是由人為造成的。

但是，由數(shù)百個應(yīng)用程序提供企業(yè)數(shù)據(jù)支持、能夠以前所未有的規(guī)模分發(fā)這些信息的智能體，卻將擔(dān)憂提升到了一個新的層次。事實(shí)上，Gartner預(yù)測，到2028年，智能體將成為四分之一企業(yè)安全漏洞的罪魁禍?zhǔn)住?/p>

隨著企業(yè)尋求采用和部署智能體，它們必須確保這項(xiàng)新興技術(shù)能夠與企業(yè)數(shù)據(jù)深度融合，以充分發(fā)揮其能力，同時防止關(guān)鍵數(shù)據(jù)泄露。

智能體何時應(yīng)行使判斷力?

若要使2025年成為自主式AI進(jìn)入職場的一年，智能體必須知道何時以及如何“守口如瓶”，以避免泄露敏感數(shù)據(jù)。

如果沒有為智能體制定適當(dāng)?shù)臄?shù)據(jù)管理和訪問管理政策，它們可能會變得不合規(guī)，并產(chǎn)生數(shù)據(jù)隱私風(fēng)險(xiǎn)，無意中將數(shù)據(jù)泄露給不應(yīng)訪問的用戶。

許多數(shù)據(jù)平臺提供商都提供治理工具，這些工具可以幫助確保數(shù)據(jù)安全、準(zhǔn)確性和完整性，但它們的局限性也很顯著。

這些解決方案通常技術(shù)性強(qiáng)且復(fù)雜，因?yàn)樗鼈兪菫榉治鰩熀蛿?shù)據(jù)科學(xué)家設(shè)計(jì)的，而不是為那些越來越多地使用智能體來增強(qiáng)工作的營銷人員、銷售人員或服務(wù)專業(yè)人員設(shè)計(jì)的。

由于大多數(shù)這些數(shù)據(jù)平臺并非為商業(yè)用戶而建，它們通常也與業(yè)務(wù)流程脫節(jié)——即CRM和企業(yè)應(yīng)用程序，而這些正是用戶每天工作的地方，這種脫節(jié)意味著智能體缺乏商業(yè)背景知識，無法理解何時以及如何保護(hù)某些數(shù)據(jù)，如客戶信息或敏感研究。

如果沒有這種背景知識和適當(dāng)?shù)墓芾碚?，企業(yè)將面臨數(shù)據(jù)不合規(guī)、數(shù)據(jù)泄露和AI濫用的風(fēng)險(xiǎn)，從而損害信任并減緩創(chuàng)新步伐。

嚴(yán)格的數(shù)據(jù)管理和AI政策很快將成為基本要求，Gartner預(yù)測，到2027年，全球各國政府將頒布AI管理法律，而信任、風(fēng)險(xiǎn)和安全管理能力將成為AI產(chǎn)品的主要差異化因素。

如何建立管理控制

智能體之所以如此強(qiáng)大，不僅在于它們能夠像全天候響應(yīng)客戶問題或預(yù)訂銷售會議那樣自主采取行動，還在于它們植根于企業(yè)的數(shù)據(jù)之中，這使得智能體能夠根據(jù)客戶與品牌的完整旅程，個性化客戶互動或?yàn)槿祟悊T工推薦后續(xù)步驟。

但是，對如此廣泛的企業(yè)數(shù)據(jù)的訪問也意味著企業(yè)必須建立訪問管理政策，以確保智能體及其用戶只能訪問他們有權(quán)查看的數(shù)據(jù)。

幸運(yùn)的是，AI與企業(yè)管理數(shù)據(jù)多年的實(shí)踐并無太大不同，基于政策驅(qū)動的訪問建立了規(guī)則，以管理不同用戶和智能體對結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)的訪問。

例如，一家生命科學(xué)公司可能會限制對研發(fā)數(shù)據(jù)的訪問，同時允許更廣泛的營銷信息訪問。對于在歐盟和美國設(shè)有業(yè)務(wù)足跡的公司，訪問政策可能會禁止美國用戶訪問在歐盟創(chuàng)建的客戶數(shù)據(jù)，以遵守《通用數(shù)據(jù)保護(hù)條例》(GDPR)。

技術(shù)挑戰(zhàn)在于在整個企業(yè)中大規(guī)模實(shí)施一致的數(shù)據(jù)訪問。

數(shù)據(jù)混合，或從多個來源組合數(shù)據(jù)，從未像現(xiàn)在這樣成為一項(xiàng)艱巨的任務(wù)，根據(jù)MuleSoft的2025年連接性基準(zhǔn)報(bào)告，近一半的企業(yè)平均管理著超過1000個獨(dú)立的應(yīng)用程序，而只有2%的企業(yè)成功整合了超過一半的應(yīng)用程序。

數(shù)據(jù)孤島是IT領(lǐng)導(dǎo)者面臨的最大障礙之一，它限制了企業(yè)擴(kuò)展AI驅(qū)動自動化和提供實(shí)時、個性化體驗(yàn)的能力。

好消息是，如今建立訪問政策比以往任何時候都更容易，企業(yè)可以通過點(diǎn)擊創(chuàng)建政策，并將其附加到例如在CRM生態(tài)系統(tǒng)中定義為銷售、服務(wù)或營銷員工的用戶上，該政策將告知智能體向用戶展示哪些數(shù)據(jù)，防止他們訪問未經(jīng)授權(quán)的信息。

人類與智能體如何協(xié)同工作

智能體的潛在好處是不可否認(rèn)的，隨著智能體承擔(dān)日常任務(wù)，人類員工得以解放，可以專注于更具創(chuàng)造性和戰(zhàn)略性的優(yōu)先事項(xiàng)。

很快，多智能體系統(tǒng)(其中智能體可以調(diào)用其他智能體或潛在地創(chuàng)建新智能體)將成倍地增加個人和企業(yè)所能做的事情——開啟一個增長不再局限于人類產(chǎn)出的世界。

當(dāng)然，這一未來只有當(dāng)人類信任他們的智能體助手時才可能實(shí)現(xiàn)，對智能體能力的信心對于推動自主式AI革命至關(guān)重要。

CIO將在建立對AI系統(tǒng)的信任方面發(fā)揮最重要的作用，承擔(dān)起設(shè)置數(shù)據(jù)管理和訪問政策的責(zé)任，并允許根據(jù)特定用例和組織結(jié)構(gòu)進(jìn)行定制。

他們將負(fù)責(zé)確保智能體考慮請求的地理來源、發(fā)出請求的人以及他們被授權(quán)的訪問級別等上下文因素，以防止數(shù)據(jù)泄露，這使CIO能夠在降低風(fēng)險(xiǎn)的同時，在整個企業(yè)中擴(kuò)展智能體的部署。

隨著人類員工越來越多地與自主智能體合作，這項(xiàng)技術(shù)的提供商必須確保智能體知道如何自我審查并防止安全漏洞，同時盡可能為人類同事提供信息豐富且有幫助的服務(wù)。