目前，各企業(yè)正以驚人的速度應(yīng)用AI技術(shù)，董事會(huì)和高層領(lǐng)導(dǎo)也對其寄予厚望，期望通過這些AI計(jì)劃收獲巨大價(jià)值。我們正以極快的速度從部署基于機(jī)器學(xué)習(xí)的解決方案，轉(zhuǎn)向GenAI，再邁向智能體，行業(yè)先驅(qū)正引領(lǐng)著通用AI(AGI)和超級(jí)AI(ASI)的發(fā)展競賽。

在這種環(huán)境下，企業(yè)必須投資并構(gòu)建強(qiáng)大的AI治理框架，這些框架不能僅僅是指導(dǎo)方針，還必須具備強(qiáng)制執(zhí)行實(shí)踐的力度，然而，安永最近的一項(xiàng)研究發(fā)現(xiàn)，AI的應(yīng)用速度遠(yuǎn)遠(yuǎn)超過了AI治理的發(fā)展，這項(xiàng)研究涵蓋了21個(gè)國家的975名高層管理人員，結(jié)果顯示，75%的受訪者使用GenAI，但只有三分之一的人建立了相應(yīng)的責(zé)任控制機(jī)制。

總體而言，實(shí)施AI的企業(yè)正日益面臨多方面的嚴(yán)峻挑戰(zhàn)：

? AI計(jì)劃是否在以保持競爭優(yōu)勢的速度推進(jìn)?

? AI計(jì)劃是否提供了可衡量的價(jià)值?

? 是否能夠通過有企業(yè)的AI治理框架來管理風(fēng)險(xiǎn)和合規(guī)問題?

自然，前兩個(gè)問題受到了更多關(guān)注，導(dǎo)致第三個(gè)問題被忽視。在AI治理本身尚不完善的背景下，大多數(shù)企業(yè)面臨的另一個(gè)關(guān)鍵問題是數(shù)據(jù)治理與AI治理之間缺乏協(xié)調(diào)。根據(jù)我與財(cái)富500強(qiáng)企業(yè)合作的經(jīng)驗(yàn)，盡管所有人都明白數(shù)據(jù)是所有AI形式的生命線，但即使是那些已經(jīng)實(shí)施了安全且負(fù)責(zé)任的AI實(shí)踐的企業(yè)，也往往對數(shù)據(jù)治理和AI治理采取孤立的方法。

數(shù)據(jù)治理

大多數(shù)企業(yè)已經(jīng)實(shí)施了數(shù)據(jù)治理工具，有時(shí)甚至是多個(gè)工具，以管理企業(yè)的數(shù)據(jù)質(zhì)量、數(shù)據(jù)血緣、數(shù)據(jù)安全和數(shù)據(jù)保留需求，然而，由于幾十年來一直試圖跟上新興技術(shù)解決方案的步伐，從關(guān)系型數(shù)據(jù)庫管理系統(tǒng)(RDBMS)到數(shù)據(jù)倉庫再到數(shù)據(jù)湖，大多數(shù)大型企業(yè)都缺乏跨多個(gè)領(lǐng)域的單一數(shù)據(jù)源，數(shù)據(jù)激增使得數(shù)據(jù)管理和治理變得更加困難，數(shù)據(jù)延遲是另一個(gè)影響需要實(shí)時(shí)數(shù)據(jù)的用例的問題，在急于投身AI熱潮的過程中，企業(yè)往往使用存在諸多問題的當(dāng)前數(shù)據(jù)狀態(tài)，因此無法充分實(shí)現(xiàn)AI投資的價(jià)值。

AI治理

如前所述，大多數(shù)企業(yè)尚未實(shí)施強(qiáng)大的AI治理框架。那些已經(jīng)實(shí)施了某種形式的AI治理的企業(yè)，則通過AI卓越中心(AI COE)采取集中式方法。在大多數(shù)情況下，這些卓越中心由首席AI官(CAIO)管理。首席AI官往往關(guān)注模型治理、偏見、幻覺、越獄等問題，而不是底層數(shù)據(jù)，因?yàn)閿?shù)據(jù)通常由首席數(shù)據(jù)官管理。

這種碎片化的方法具有法律、監(jiān)管、安全和倫理方面的隱患，企業(yè)需要應(yīng)對以下問題：

? AI系統(tǒng)使用的數(shù)據(jù)是否可靠?

? 模型是否符合法律和倫理要求?

? 部署的AI解決方案是否遵守各司法管轄區(qū)的隱私法律?

? 對GenAI和智能體系統(tǒng)的使用是否有足夠的控制?

? 當(dāng)受到質(zhì)疑時(shí)，這些系統(tǒng)能否解釋其決策?

對于在多個(gè)地區(qū)運(yùn)營、面臨不同隱私法律、法規(guī)以及AI領(lǐng)域新興且未知的監(jiān)管環(huán)境的全球企業(yè)而言，風(fēng)險(xiǎn)極高。高層管理人員往往對這些風(fēng)險(xiǎn)有更深刻的認(rèn)識(shí)，但可能不完全了解潛在原因，如AI和數(shù)據(jù)治理的孤立方法。

統(tǒng)一AI和數(shù)據(jù)治理方法的必要性

鑒于當(dāng)前狀況及其相關(guān)挑戰(zhàn)，企業(yè)應(yīng)轉(zhuǎn)向AI和數(shù)據(jù)治理的統(tǒng)一方法，這種方法不僅有助于釋放AI投資的價(jià)值，還能確保合規(guī)并降低風(fēng)險(xiǎn)，以下是一種實(shí)現(xiàn)這一目標(biāo)的實(shí)用方法。

數(shù)據(jù)優(yōu)先設(shè)計(jì)

與傳統(tǒng)的AI治理方法(側(cè)重于模型或工具)不同，企業(yè)應(yīng)關(guān)注所有AI的起點(diǎn)：數(shù)據(jù)，通過將數(shù)據(jù)視為AI的生命線，企業(yè)可以從基礎(chǔ)層面治理AI，利用數(shù)據(jù)的質(zhì)量、敏感性和生命周期來動(dòng)態(tài)評估和控制風(fēng)險(xiǎn)——甚至在模型訓(xùn)練之前就進(jìn)行。

自適應(yīng)、分層治理框架

企業(yè)應(yīng)采用自適應(yīng)治理方法，利用實(shí)時(shí)風(fēng)險(xiǎn)分類和分層，這使企業(yè)能夠在風(fēng)險(xiǎn)較高的領(lǐng)域(如個(gè)人身份信息(PII)、個(gè)人健康信息(PHI)、自主行動(dòng))實(shí)施更強(qiáng)的控制，而在創(chuàng)新速度至關(guān)重要的領(lǐng)域則實(shí)施較輕的控制——在不影響安全性的前提下，以業(yè)務(wù)速度進(jìn)行治理。

利用GenAI提高數(shù)據(jù)質(zhì)量

GenAI的潛力可用于解決多個(gè)數(shù)據(jù)問題，如：

? 數(shù)據(jù)分類

? 數(shù)據(jù)清洗

? 元數(shù)據(jù)管理

投資數(shù)據(jù)管道和數(shù)據(jù)運(yùn)維

企業(yè)的數(shù)據(jù)管道和集成往往存在問題，導(dǎo)致可靠性和性能問題。隨著企業(yè)開始在實(shí)時(shí)用例中使用AI，數(shù)據(jù)管道問題往往會(huì)導(dǎo)致這些用例的結(jié)果不佳。企業(yè)應(yīng)投資構(gòu)建強(qiáng)大的數(shù)據(jù)集成和管道，并提高這些管道的可觀測性。

AI驅(qū)動(dòng)的治理

構(gòu)建自我學(xué)習(xí)的治理智能體，以監(jiān)控不斷演變的風(fēng)險(xiǎn)、監(jiān)管變化和模型行為，跨越不同用例和地區(qū)，這些智能體可以自主觸發(fā)警報(bào)、建議控制措施并調(diào)整政策，將治理轉(zhuǎn)變?yōu)橐粋€(gè)活的、智能的系統(tǒng)，而非手動(dòng)、靜態(tài)的清單。

中央領(lǐng)導(dǎo)但分散執(zhí)行

設(shè)計(jì)一個(gè)中央領(lǐng)導(dǎo)的治理模型，實(shí)現(xiàn)本地化執(zhí)行——非常適合多地區(qū)或多業(yè)務(wù)單元的企業(yè)。它確保在整個(gè)企業(yè)中保持一致的管控，同時(shí)允許本地靈活性，這是全球公司在應(yīng)對監(jiān)管碎片化時(shí)的關(guān)鍵需求。

擴(kuò)大AI治理委員會(huì)

AI治理委員會(huì)應(yīng)擴(kuò)大成員范圍，超越傳統(tǒng)的IT和業(yè)務(wù)部門代表，應(yīng)有法律、隱私、合規(guī)、信息安全、第三方管理和人力資源部門的代表，這種多樣性將確保AI政策不僅考慮技術(shù)和業(yè)務(wù)優(yōu)先級(jí)，還考慮法律、倫理和社會(huì)因素，以及對企業(yè)內(nèi)外利益相關(guān)者的影響。

統(tǒng)一方法的益處

強(qiáng)大的AI和數(shù)據(jù)治理方法對于實(shí)現(xiàn)負(fù)責(zé)任的AI至關(guān)重要，其益處體現(xiàn)在多個(gè)方面：

隱私

隱私是建立利益相關(guān)者信任和避免聲譽(yù)風(fēng)險(xiǎn)的關(guān)鍵。在GenAI廣泛使用的背景下，最常見的擔(dān)憂是私人數(shù)據(jù)被用于訓(xùn)練模型，且缺乏保護(hù)措施。利用增強(qiáng)隱私的工具(如匿名化)構(gòu)建強(qiáng)大的數(shù)據(jù)治理框架，將為AI奠定堅(jiān)實(shí)基礎(chǔ)，有助于確保遵守隱私法規(guī)并提高品牌信任度。

網(wǎng)絡(luò)安全

隨著AI和智能體的迅速采用，企業(yè)內(nèi)的網(wǎng)絡(luò)安全團(tuán)隊(duì)面臨著巨大的挑戰(zhàn)，需要應(yīng)對這一新興威脅。嵌入網(wǎng)絡(luò)安全的AI治理框架可確保企業(yè)在快速創(chuàng)新的同時(shí)，不會(huì)增加自身脆弱性。

監(jiān)管準(zhǔn)備

隨著AI領(lǐng)域的飛速發(fā)展，監(jiān)管環(huán)境也在努力跟上步伐。聯(lián)邦、州以及美國以外的其他國家的監(jiān)管機(jī)構(gòu)都在努力制定政策，以促進(jìn)創(chuàng)新而非抑制創(chuàng)新。擁有AI治理框架的企業(yè)在適應(yīng)不斷變化的監(jiān)管環(huán)境方面將更具優(yōu)勢。

第三方風(fēng)險(xiǎn)

企業(yè)與多個(gè)第三方(如供應(yīng)商和分包商)合作，這些第三方已開始在其產(chǎn)品和服務(wù)中廣泛使用AI。將第三方管理(TPM)功能納入企業(yè)的AI治理體系，并向第三方管理團(tuán)隊(duì)傳授風(fēng)險(xiǎn)和緩解策略，將減少摩擦，并通過有效合作促進(jìn)增長。

治理：業(yè)務(wù)推動(dòng)者，而非成本中心

總之，上述統(tǒng)一的AI治理方法是一種范式轉(zhuǎn)變：從碎片化控制轉(zhuǎn)向統(tǒng)一監(jiān)督，從合規(guī)導(dǎo)向轉(zhuǎn)向風(fēng)險(xiǎn)導(dǎo)向，從靜態(tài)框架轉(zhuǎn)向自我學(xué)習(xí)治理，這種方法將使治理成為業(yè)務(wù)推動(dòng)者，而非成本中心，這還將帶來戰(zhàn)略優(yōu)勢，提高信任度，并增強(qiáng)AI計(jì)劃的長期可擴(kuò)展性。