GenAI為企業(yè)提供了一個千載難逢的機(jī)會，具有在創(chuàng)新、增長和生產(chǎn)力方面產(chǎn)生變革性影響的潛力，這項技術(shù)現(xiàn)在可以產(chǎn)生可信的軟件代碼、文本、語音、高保真圖像和互動視頻，它已經(jīng)通過晶體結(jié)構(gòu)確定了數(shù)百萬種新材料的潛力，甚至開發(fā)了分子模型，這些模型可以作為找到以前未治療的疾病的治療方法的基礎(chǔ)。

麥肯錫的研究估計，GenAI有可能為全球經(jīng)濟(jì)增加高達(dá)4.4萬億美元的經(jīng)濟(jì)價值，同時將所有AI的影響提高15%至40%。許多企業(yè)領(lǐng)導(dǎo)人決心抓住這一價值，同時越來越多的人認(rèn)識到，GenAI機(jī)會伴隨著重大風(fēng)險。麥肯錫最近對100多家年收入超過5000萬美元的企業(yè)進(jìn)行了一項快速調(diào)查，發(fā)現(xiàn)63%的受訪者將實施GenAI的工作描述為“高”或“非常高”的優(yōu)先事項，然而，91%的受訪者覺得自己還沒有做好負(fù)責(zé)任地這樣做的準(zhǔn)備。

這種不安是可以理解的，與GenAI相關(guān)的風(fēng)險包括基礎(chǔ)培訓(xùn)數(shù)據(jù)中嵌入的不準(zhǔn)確的輸出和偏見，以及可能出現(xiàn)的大規(guī)模錯誤信息和對政治和個人福祉的惡意影響，關(guān)于總體上發(fā)展AI的可能性和可取性，也存在著更廣泛的辯論，這些問題可能會破壞GenAI的明智部署，可能導(dǎo)致企業(yè)暫停實驗，直到更好地了解風(fēng)險-甚至因為擔(dān)心無法管理這些問題的新穎性和復(fù)雜性而剝奪了這項技術(shù)。

然而，通過采用經(jīng)過驗證的風(fēng)險管理方法來適應(yīng)GenAI，有可能以負(fù)責(zé)任的方式和良好的步伐來獲取技術(shù)的價值，這樣做還將使企業(yè)能夠在圍繞AI的監(jiān)管環(huán)境繼續(xù)演變的同時有效運營，例如拜登總統(tǒng)關(guān)于代AI開發(fā)和使用的行政命令以及歐盟AI法案。此外，大多數(shù)企業(yè)可能會看到使用GenAI增加了“入站”威脅(無論企業(yè)是否部署GenAI，都有可能影響他們的風(fēng)險)，特別是在欺詐和網(wǎng)絡(luò)領(lǐng)域(早期跡象表明，GenAI將能夠通過標(biāo)準(zhǔn)的反欺詐生物識別檢查)。建立適合用途的風(fēng)險管理將有助于防范這些威脅。

在實踐中，希望應(yīng)對AI風(fēng)險的企業(yè)應(yīng)該采取以下四個步驟：

• 發(fā)起沖刺，了解與GenAI相關(guān)的入站暴露風(fēng)險。
• 制定跨域和用例的GenAI相關(guān)風(fēng)險重要性的綜合視圖，并構(gòu)建一系列選項(包括技術(shù)和非技術(shù)措施)來管理風(fēng)險。
• 建立一種治理結(jié)構(gòu)，在專業(yè)知識和監(jiān)督與支持快速決策的能力之間取得平衡，并盡可能調(diào)整現(xiàn)有結(jié)構(gòu)。
• 將治理結(jié)構(gòu)嵌入業(yè)務(wù)模式，利用整個企業(yè)的專門知識，并包括對最終用戶的適當(dāng)培訓(xùn)。

如何實現(xiàn)這些步驟的細(xì)節(jié)以及使其有效所需的更改程度將隨企業(yè)的GenAI愿望和性質(zhì)而有所不同，例如，它可能希望成為基礎(chǔ)模型的制造者，定制和縮放基礎(chǔ)模型的成型者，或者通過很少或根本沒有定制的現(xiàn)成應(yīng)用程序(例如，標(biāo)準(zhǔn)的辦公生產(chǎn)力軟件)采用基礎(chǔ)模型的接受者。

本文為開發(fā)負(fù)責(zé)任地實現(xiàn)GenAI的方法提供了藍(lán)圖，遵循這些步驟可以幫助企業(yè)快速擴(kuò)展技術(shù)并獲取其優(yōu)勢，同時最大限度地減少潛在的負(fù)面影響。

理解和應(yīng)對入境風(fēng)險

根據(jù)我們的經(jīng)驗，包括通過構(gòu)建麥肯錫自己的GenAI應(yīng)用程序，與GenAI相關(guān)的風(fēng)險可以分為八個主要類別，這些類別既考慮入站風(fēng)險，也考慮采用GenAI工具和應(yīng)用程序直接產(chǎn)生的風(fēng)險。每個企業(yè)都應(yīng)該開發(fā)這個核心分類的某個版本，以支持對實施GenAI所產(chǎn)生的風(fēng)險的理解和溝通。

決定如何應(yīng)對外來風(fēng)險是許多高管團(tuán)隊和董事會關(guān)注的焦點，這一決定應(yīng)該作為企業(yè)如何與其員工和利益相關(guān)者溝通有關(guān)GenAI的基礎(chǔ)，它還應(yīng)該告知使用案例的方法。

我們看到采用GenAI的四個主要入站風(fēng)險來源：

• 安全威脅，來自啟用AI的惡意軟件的攻擊數(shù)量和復(fù)雜性增加。
• 第三方風(fēng)險，原因是在了解第三方可能在哪里以及如何部署AI方面存在挑戰(zhàn)，造成潛在的未知風(fēng)險。
• 惡意使用，原因是不良行為者可能制造令人信服的企業(yè)代表深度假冒或品牌假冒，從而導(dǎo)致重大聲譽(yù)損害。
• 知識產(chǎn)權(quán)侵權(quán)，原因是知識產(chǎn)權(quán)(如圖像、音樂和文本)被收集到底層大型語言模型的訓(xùn)練引擎中，并使任何使用該技術(shù)的人都可以訪問。

大多數(shù)企業(yè)將受益于調(diào)查GenAI如何改變其外部環(huán)境的重點沖刺，主要目標(biāo)有兩個，首先是了解潛在的入站風(fēng)險敞口，這些風(fēng)險存在于企業(yè)的風(fēng)險概況中(例如，有多少第三方可以訪問需要限制培訓(xùn)外部GenAI模型的敏感或機(jī)密數(shù)據(jù))，第二個目標(biāo)是了解控制環(huán)境的成熟度和準(zhǔn)備情況，即企業(yè)具備的預(yù)防、檢測和最終應(yīng)對入站風(fēng)險的技術(shù)和非技術(shù)能力，這些措施包括網(wǎng)絡(luò)和欺詐防御、第三方調(diào)查以確定關(guān)鍵第三方可能在哪里部署GenAI，以及限制用于訓(xùn)練大型語言模型的引擎對企業(yè)知識產(chǎn)權(quán)的掠奪的能力。

這些努力的結(jié)果應(yīng)該是了解該企業(yè)在哪里面臨最大的潛在入境風(fēng)險，以及其當(dāng)前防御系統(tǒng)的成熟度和準(zhǔn)備情況，進(jìn)行了這項工作后，企業(yè)應(yīng)該有一個明確的路線圖，說明在哪里加強(qiáng)防御，以及這些努力在潛在風(fēng)險緩解方面的潛在ROI是什么。

鑒于作為GenAI及其應(yīng)用程序基礎(chǔ)的技術(shù)的演變性質(zhì)，企業(yè)將需要重復(fù)努力，以確定他們的暴露具有一定的規(guī)律性，對于大多數(shù)企業(yè)來說，至少每半年更新一次這項工作將是重要的，直到變化的速度放緩，控制環(huán)境和防御措施成熟為止。

管理采用GenAI所帶來的風(fēng)險

有雄心部署GenAI的企業(yè)將需要進(jìn)行額外的、持續(xù)的努力，以了解和管理采用該技術(shù)的風(fēng)險，這可能需要投入時間和資源，并轉(zhuǎn)變工作方式，然而，如果企業(yè)要從GenAI中獲得長期、可持續(xù)和變革性的好處，這是至關(guān)重要的。失誤和失敗可能會侵蝕高管、員工和客戶的信心，并引發(fā)縮減對超安全用例的雄心，這些用例產(chǎn)生的風(fēng)險有限，但也不太可能充分利用該技術(shù)的真正潛力。

希望部署GenAI高潛力使用案例以推動生產(chǎn)力和創(chuàng)新、提供更好、更一致的客戶服務(wù)以及提高營銷和銷售創(chuàng)造力的企業(yè)必須應(yīng)對負(fù)責(zé)任實施的挑戰(zhàn)，這些用例具有不同的風(fēng)險配置文件，既反映了技術(shù)本身的性質(zhì)，也反映了與用例細(xì)節(jié)相關(guān)的企業(yè)特定環(huán)境(例如，將GenAI聊天機(jī)器人部署到易受攻擊的人群中的風(fēng)險配置文件與部署B(yǎng)2B的風(fēng)險配置文件非常不同)。

識別跨用例的風(fēng)險

企業(yè)部署GenAI用例的基本出發(fā)點是跨關(guān)鍵風(fēng)險類別映射與每個案例相關(guān)聯(lián)的潛在風(fēng)險，以評估潛在風(fēng)險嚴(yán)重性，例如，支持客戶旅行的用例，如用于客戶服務(wù)的支持GenAI的聊天機(jī)器人，可能會增加風(fēng)險，如偏見和跨群體不公平待遇(例如，按性別和種族)、用戶輸入敏感信息引起的隱私問題，以及模型幻覺或過時信息的不準(zhǔn)確風(fēng)險。

在進(jìn)行此分析時，重要的是制定一個標(biāo)準(zhǔn)，以校準(zhǔn)對不同類別的高風(fēng)險與中風(fēng)險的預(yù)期，否則，企業(yè)可能會遇到分歧，這更多是由個人對風(fēng)險水平的舒適度驅(qū)動的，而不是客觀因素，以數(shù)據(jù)隱私為例，我們通常會看到風(fēng)險較高的示例需要個人或敏感信息來準(zhǔn)確培訓(xùn)模型(或者用戶在與技術(shù)交互時輸入個人信息的可能性更高)，風(fēng)險較低的用例不會表現(xiàn)出這兩個特征，使用這一邏輯，開發(fā)一個支持顧問提供量身定制的財務(wù)建議的應(yīng)用程序，往往會比自動化基本合同模板的應(yīng)用程序在隱私風(fēng)險暴露方面排名更高。

負(fù)責(zé)用例的執(zhí)行人員必須領(lǐng)導(dǎo)與之相關(guān)的風(fēng)險的初步評估(作為有效運營模型中產(chǎn)品經(jīng)理角色的一部分)，這有助于培養(yǎng)對潛在風(fēng)險的適當(dāng)認(rèn)識，并在用例被批準(zhǔn)進(jìn)行最終開發(fā)時負(fù)責(zé)管理這些風(fēng)險，此外，包括業(yè)務(wù)負(fù)責(zé)人以及法律和合規(guī)性職能部門成員在內(nèi)的跨職能小組應(yīng)該審查和驗證所有用例的風(fēng)險評估，并在做出有關(guān)用例優(yōu)先級的決策時將結(jié)果用作輸入。

考慮在每個接觸點管理風(fēng)險的選項

一旦企業(yè)繪制了與GenAI相關(guān)的風(fēng)險圖，它必須制定戰(zhàn)略，通過緩解和穩(wěn)健治理的組合來管理風(fēng)險暴露，許多(但不是所有)緩解措施本質(zhì)上是技術(shù)性的，可以在流程的整個生命周期中實現(xiàn)，重要的是，這些控制不需要全部嵌入到基礎(chǔ)基礎(chǔ)模型本身中(許多企業(yè)將無法訪問)，有些可以是在當(dāng)?shù)丨h(huán)境中構(gòu)建的覆蓋層，比如由人力資源部門設(shè)計的支持GenAI的聊天機(jī)器人，用于回答員工關(guān)于福利的詢問。

在該用例中，在查詢的整個生命周期中，一旦用戶提出問題，可能會出現(xiàn)許多可能的緩解措施，它們包括讓聊天機(jī)器人提出澄清問題以生成額外的必要用戶輸入，讓用戶確認(rèn)聊天機(jī)器人已經(jīng)正確地理解了查詢，限制聊天機(jī)器人可以訪問的數(shù)據(jù)集的類型(例如，排除個人信息)，以及設(shè)計聊天機(jī)器人提供引用以解釋其答案并允許對其答復(fù)進(jìn)行事實核查。實施此用例的企業(yè)可以采取措施(如限制重復(fù)交互)來阻止已知會給聊天機(jī)器人帶來挑戰(zhàn)的攻擊載體和越獄，他們還可以開發(fā)分類器來識別和拒絕超出范圍的查詢(例如請求計算)。

在開發(fā)用例時，企業(yè)應(yīng)該考慮其他一些重要類別的非技術(shù)性緩解措施。在GenAI成熟的這個階段，大多數(shù)企業(yè)都在保持人類的參與，以防止技術(shù)直接投入生產(chǎn)或直接與最終客戶接觸。如前所述，防止有問題地使用來自第三方的數(shù)據(jù)的合同條款很重要。企業(yè)應(yīng)該開發(fā)編碼標(biāo)準(zhǔn)和庫，以獲取適當(dāng)?shù)脑獢?shù)據(jù)和方法標(biāo)準(zhǔn)來支持審查。

GenAI的許多初始緩解策略跨越多個用例，使企業(yè)能夠從其技術(shù)緩解中獲得規(guī)模效益，而不必為每個案例創(chuàng)建定制的方法，例如，在HR聊天機(jī)器人的示例中，將源作為查詢答案的一部分的能力也可以應(yīng)用于員工試圖向客戶解釋產(chǎn)品或?qū)ν衅髽I(yè)進(jìn)行分析的用例中。在這兩種情況下，這都將在一定程度上解決“可解釋性”和對產(chǎn)出的整體信心方面的挑戰(zhàn)。

通過治理平衡擴(kuò)展速度和明智的風(fēng)險管理

使用GenAI將對大多數(shù)企業(yè)提出新的要求，以調(diào)整治理結(jié)構(gòu)以響應(yīng)審批和監(jiān)督的需求，然而，大多數(shù)企業(yè)應(yīng)該能夠通過擴(kuò)大任務(wù)或覆蓋范圍來適應(yīng)他們今天擁有的東西，這將限制建立一個全新的委員會和審批機(jī)構(gòu)方陣的潛在破壞，這些方陣可能會增加決策的摩擦和對問責(zé)的困惑。

一個跨職能、負(fù)責(zé)任的GenAI指導(dǎo)小組，至少每月一次，該小組應(yīng)包括業(yè)務(wù)和技術(shù)領(lǐng)導(dǎo)者，以及數(shù)據(jù)、隱私、法律和合規(guī)成員，它應(yīng)該有權(quán)就管理GenAI風(fēng)險做出關(guān)鍵決策，包括對風(fēng)險暴露的評估，以及針對入站風(fēng)險和基于采用的風(fēng)險的緩解戰(zhàn)略，它應(yīng)該審查基礎(chǔ)戰(zhàn)略決策，例如基礎(chǔ)模型的選擇以及與企業(yè)的風(fēng)險狀況的兼容性，這個指導(dǎo)小組理想情況下由一名個人負(fù)責(zé)協(xié)調(diào)和議程設(shè)置。在具有既定監(jiān)管預(yù)期和長期模型和算法風(fēng)險管理歷史的行業(yè)(如金融服務(wù))，此人通常已在員工中(并且可能是模型風(fēng)險主管)。對于面臨監(jiān)管期望突然增加的企業(yè)來說，他們可能需要聘請一名AI治理官員或類似的角色來履行這些責(zé)任。

負(fù)責(zé)任的AI指導(dǎo)方針和政策。企業(yè)應(yīng)該制定一套由執(zhí)行團(tuán)隊和董事會商定的指導(dǎo)原則，這些指導(dǎo)原則將指導(dǎo)AI的采用，并作為可接受用例的屏障。我們已經(jīng)看到的辯論原則包括以下問題：GenAI可以或應(yīng)該在多大程度上推動個性化營銷或客戶拓展，使用GenAI來支持雇傭決策(包括招聘和績效評估)，以及在什么條件下GenAI產(chǎn)品可以直接投入生產(chǎn)而不需要人工審查?，F(xiàn)有政策通常需要更新，以考慮到GenAI的開發(fā)和使用(例如，涵蓋虛假陳述和知識產(chǎn)權(quán)侵權(quán))。

負(fù)責(zé)任的AI人才和文化。對負(fù)責(zé)任的AI的承諾不能僅僅停留在高管隊伍中，相反，它需要在整個企業(yè)中層疊進(jìn)行，并根據(jù)相關(guān)角色對技術(shù)的相關(guān)暴露程度定制責(zé)任、能力建設(shè)和意識，應(yīng)在全企業(yè)范圍內(nèi)開展負(fù)責(zé)任的AI基本培訓(xùn)，以促進(jìn)對入站風(fēng)險的動態(tài)以及如何安全地使用技術(shù)的廣泛理解，例如，考慮到模型可能會產(chǎn)生幻覺，作為培訓(xùn)的一部分，用戶應(yīng)該被告知，他們不應(yīng)該僅僅因為他們的機(jī)器提供了答案就接受答案(與他們可能經(jīng)歷過的以前的辦公生產(chǎn)力技術(shù)形成對比)。那些從事用例開發(fā)和擴(kuò)展的人員應(yīng)該對道德和“按設(shè)計負(fù)責(zé)”有深刻的理解，以便在設(shè)計和工程流程的早期嵌入風(fēng)險考慮。人才考慮因素包括嵌入非技術(shù)和技術(shù)人才的組合-理想情況下，具有風(fēng)險專業(yè)知識的技術(shù)人才，以支持用戶查詢工作流和控制的識別和設(shè)計。

實施負(fù)責(zé)任的GenAI：一切都與治理和人有關(guān)

建立正確的治理是推動負(fù)責(zé)任地大規(guī)模采用GenAI用例的必要但不充分的步驟，在開發(fā)過程中嵌入設(shè)計責(zé)任對于明智地部署技術(shù)是必不可少的，要在整個用例中成功實現(xiàn)這一點，需要四個關(guān)鍵角色，這些角色的職責(zé)與他們在推進(jìn)用例方面的天賦和預(yù)期行動密切相關(guān)：

• 設(shè)計師。設(shè)計師或產(chǎn)品經(jīng)理通過識別新的用例來引導(dǎo)GenAI部署的方向，并意識到它們?nèi)绾畏掀髽I(yè)的整體GenAI戰(zhàn)略和路線圖，他們通常來自企業(yè)最確信GenAI可以產(chǎn)生重大影響的業(yè)務(wù)和職能，產(chǎn)品經(jīng)理應(yīng)負(fù)責(zé)識別和降低相關(guān)風(fēng)險，他們將在推動采用GenAI所需的文化變革方面發(fā)揮重要作用，包括建立對以下命題的信任：可以負(fù)責(zé)任地、安全地為員工和客戶實現(xiàn)業(yè)務(wù)價值。
• 工程師。工程師是理解GenAI機(jī)制的技術(shù)專家，他們開發(fā)或定制技術(shù)以支持GenAI用例，同樣重要的是，他們負(fù)責(zé)指導(dǎo)緩解措施的技術(shù)可行性，并最終對緩解措施進(jìn)行編碼以限制風(fēng)險，以及開發(fā)技術(shù)監(jiān)控策略。
• 管理者。管理者組成團(tuán)隊，幫助建立必要的治理、流程和能力，以推動GenAI負(fù)責(zé)任且安全的實施實踐，這些措施包括建立核心風(fēng)險框架、護(hù)欄和指導(dǎo)設(shè)計人員和工程師工作的原則，以及挑戰(zhàn)風(fēng)險評估和緩解有效性(特別是對于高風(fēng)險用例)。AI治理官員這種角色的一個典型例子，盡管考慮到潛在風(fēng)險的范圍，這一角色將需要與其他角色相輔相成，這些角色理想情況下將涵蓋數(shù)據(jù)風(fēng)險、數(shù)據(jù)隱私、網(wǎng)絡(luò)安全、監(jiān)管合規(guī)和技術(shù)風(fēng)險。鑒于GenAI的萌芽狀態(tài)，管理者經(jīng)常需要與工程師協(xié)調(diào)，對建立在GenAI模型上的新興用例進(jìn)行“紅色團(tuán)隊”測試，以識別和緩解潛在的挑戰(zhàn)。
• 用戶。用戶代表GenAI工具或用例的最終用戶。需要對他們進(jìn)行培訓(xùn)，并使他們適應(yīng)技術(shù)的動態(tài)和潛在風(fēng)險(包括他們在負(fù)責(zé)任的使用中的作用)，他們還在幫助識別GenAI用例的風(fēng)險方面發(fā)揮了關(guān)鍵作用，因為他們可能在與模型的交互中遇到有問題的輸出。

運營模型應(yīng)該考慮到不同的角色將如何在GenAI生命周期的不同階段進(jìn)行交互，根據(jù)每個角色中嵌入的特定功能，每個企業(yè)都會有自然的變化，例如，一些企業(yè)將在設(shè)計師方面擁有更多的技術(shù)能力，這意味著他們可能會扮演更積極的交付角色，但運營模型的目的是展示部署的每個階段的參與度如何變化。

GenAI有可能重新定義人們的工作和生活方式，雖然這項技術(shù)正在快速發(fā)展，但它也伴隨著各種風(fēng)險，從對訓(xùn)練數(shù)據(jù)完整性的擔(dān)憂，到產(chǎn)生不準(zhǔn)確或惡意輸出的可能性。業(yè)務(wù)領(lǐng)導(dǎo)者需要修改他們的技術(shù)劇本，并從他們與GenAI接觸的開始就推動有效風(fēng)險管理的整合，這將允許以安全和負(fù)責(zé)任的方式應(yīng)用這一令人興奮的新技術(shù)，幫助企業(yè)管理已知風(fēng)險(包括入站風(fēng)險)，同時隨著該技術(shù)的能力和用例的擴(kuò)展，增強(qiáng)適應(yīng)意外風(fēng)險的能力。在生產(chǎn)力面臨重大潛在提升的情況下，努力以可持續(xù)和負(fù)責(zé)任的方式擴(kuò)展GenAI，對于充分獲得其好處至關(guān)重要。