如何防止智能體成為數(shù)據(jù)安全威脅
每家公司都存在信息缺口和瓶頸,歸根結(jié)底,這正是AI為企業(yè)帶來的真正價值:擴大信息獲取渠道,幫助人們連接更多信息點。
但是,當你部署一個像智能體這樣的系統(tǒng),該系統(tǒng)連接著企業(yè)的每一個數(shù)據(jù)源,旨在回答問題、主動從數(shù)百個應(yīng)用程序或部門中挖掘洞察,并采取行動(無論是否有人類提出要求),會發(fā)生什么呢?
你會得到一個可能極大提升生產(chǎn)力的智能體,但同時也可能成為一個重大的安全風險。
好了,別急著渲染末日氛圍——這個問題并非完全新鮮,畢竟,近六成的安全漏洞都是由人為造成的。
但是,由數(shù)百個應(yīng)用程序提供企業(yè)數(shù)據(jù)支持、能夠以前所未有的規(guī)模分發(fā)這些信息的智能體,卻將擔憂提升到了一個新的層次。事實上,Gartner預(yù)測,到2028年,智能體將成為四分之一企業(yè)安全漏洞的罪魁禍首。
隨著企業(yè)尋求采用和部署智能體,它們必須確保這項新興技術(shù)能夠與企業(yè)數(shù)據(jù)深度融合,以充分發(fā)揮其能力,同時防止關(guān)鍵數(shù)據(jù)泄露。
智能體何時應(yīng)行使判斷力?
若要使2025年成為自主式AI進入職場的一年,智能體必須知道何時以及如何“守口如瓶”,以避免泄露敏感數(shù)據(jù)。
如果沒有為智能體制定適當?shù)臄?shù)據(jù)管理和訪問管理政策,它們可能會變得不合規(guī),并產(chǎn)生數(shù)據(jù)隱私風險,無意中將數(shù)據(jù)泄露給不應(yīng)訪問的用戶。
許多數(shù)據(jù)平臺提供商都提供治理工具,這些工具可以幫助確保數(shù)據(jù)安全、準確性和完整性,但它們的局限性也很顯著。
這些解決方案通常技術(shù)性強且復(fù)雜,因為它們是為分析師和數(shù)據(jù)科學家設(shè)計的,而不是為那些越來越多地使用智能體來增強工作的營銷人員、銷售人員或服務(wù)專業(yè)人員設(shè)計的。
由于大多數(shù)這些數(shù)據(jù)平臺并非為商業(yè)用戶而建,它們通常也與業(yè)務(wù)流程脫節(jié)——即CRM和企業(yè)應(yīng)用程序,而這些正是用戶每天工作的地方,這種脫節(jié)意味著智能體缺乏商業(yè)背景知識,無法理解何時以及如何保護某些數(shù)據(jù),如客戶信息或敏感研究。
如果沒有這種背景知識和適當?shù)墓芾碚?,企業(yè)將面臨數(shù)據(jù)不合規(guī)、數(shù)據(jù)泄露和AI濫用的風險,從而損害信任并減緩創(chuàng)新步伐。
嚴格的數(shù)據(jù)管理和AI政策很快將成為基本要求,Gartner預(yù)測,到2027年,全球各國政府將頒布AI管理法律,而信任、風險和安全管理能力將成為AI產(chǎn)品的主要差異化因素。
如何建立管理控制
智能體之所以如此強大,不僅在于它們能夠像全天候響應(yīng)客戶問題或預(yù)訂銷售會議那樣自主采取行動,還在于它們植根于企業(yè)的數(shù)據(jù)之中,這使得智能體能夠根據(jù)客戶與品牌的完整旅程,個性化客戶互動或為人類員工推薦后續(xù)步驟。
但是,對如此廣泛的企業(yè)數(shù)據(jù)的訪問也意味著企業(yè)必須建立訪問管理政策,以確保智能體及其用戶只能訪問他們有權(quán)查看的數(shù)據(jù)。
幸運的是,AI與企業(yè)管理數(shù)據(jù)多年的實踐并無太大不同,基于政策驅(qū)動的訪問建立了規(guī)則,以管理不同用戶和智能體對結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)的訪問。
例如,一家生命科學公司可能會限制對研發(fā)數(shù)據(jù)的訪問,同時允許更廣泛的營銷信息訪問。對于在歐盟和美國設(shè)有業(yè)務(wù)足跡的公司,訪問政策可能會禁止美國用戶訪問在歐盟創(chuàng)建的客戶數(shù)據(jù),以遵守《通用數(shù)據(jù)保護條例》(GDPR)。
技術(shù)挑戰(zhàn)在于在整個企業(yè)中大規(guī)模實施一致的數(shù)據(jù)訪問。
數(shù)據(jù)混合,或從多個來源組合數(shù)據(jù),從未像現(xiàn)在這樣成為一項艱巨的任務(wù),根據(jù)MuleSoft的2025年連接性基準報告,近一半的企業(yè)平均管理著超過1000個獨立的應(yīng)用程序,而只有2%的企業(yè)成功整合了超過一半的應(yīng)用程序。
數(shù)據(jù)孤島是IT領(lǐng)導(dǎo)者面臨的最大障礙之一,它限制了企業(yè)擴展AI驅(qū)動自動化和提供實時、個性化體驗的能力。
好消息是,如今建立訪問政策比以往任何時候都更容易,企業(yè)可以通過點擊創(chuàng)建政策,并將其附加到例如在CRM生態(tài)系統(tǒng)中定義為銷售、服務(wù)或營銷員工的用戶上,該政策將告知智能體向用戶展示哪些數(shù)據(jù),防止他們訪問未經(jīng)授權(quán)的信息。
人類與智能體如何協(xié)同工作
智能體的潛在好處是不可否認的,隨著智能體承擔日常任務(wù),人類員工得以解放,可以專注于更具創(chuàng)造性和戰(zhàn)略性的優(yōu)先事項。
很快,多智能體系統(tǒng)(其中智能體可以調(diào)用其他智能體或潛在地創(chuàng)建新智能體)將成倍地增加個人和企業(yè)所能做的事情——開啟一個增長不再局限于人類產(chǎn)出的世界。
當然,這一未來只有當人類信任他們的智能體助手時才可能實現(xiàn),對智能體能力的信心對于推動自主式AI革命至關(guān)重要。
CIO將在建立對AI系統(tǒng)的信任方面發(fā)揮最重要的作用,承擔起設(shè)置數(shù)據(jù)管理和訪問政策的責任,并允許根據(jù)特定用例和組織結(jié)構(gòu)進行定制。
他們將負責確保智能體考慮請求的地理來源、發(fā)出請求的人以及他們被授權(quán)的訪問級別等上下文因素,以防止數(shù)據(jù)泄露,這使CIO能夠在降低風險的同時,在整個企業(yè)中擴展智能體的部署。
隨著人類員工越來越多地與自主智能體合作,這項技術(shù)的提供商必須確保智能體知道如何自我審查并防止安全漏洞,同時盡可能為人類同事提供信息豐富且有幫助的服務(wù)。