這項調(diào)查涵蓋249名企業(yè)風(fēng)險高層管理人員，匯總出2023年第二季度最嚴(yán)峻的五大新興風(fēng)險。

根據(jù)Gartner公司發(fā)布的數(shù)據(jù)，生成式AI（包括OpenAI ChatGPT和谷歌Bard）的大規(guī)模普及已經(jīng)成為2023年第二季度企業(yè)風(fēng)險管理者們最關(guān)注的問題。

Gartner風(fēng)險與審計實踐研究總監(jiān)Ran Xu表示，“在我們第二季度的調(diào)查當(dāng)中，生成式AI已經(jīng)成為第二大常見風(fēng)險，這也是其首次出現(xiàn)在風(fēng)險因素的前十名中。由此看來，隨著公眾認(rèn)知和生成式AI工具普及度的快速增長，再結(jié)合潛在用例的巨大廣度，這些工具帶來的潛在風(fēng)險已經(jīng)不容小覷。”

2023年5月，Gartner對249名企業(yè)風(fēng)險高層管理人員進行了調(diào)查，其中提出20種新興風(fēng)險的基準(zhǔn)觀點。這份季度新興風(fēng)險報告提出了這些風(fēng)險的潛在影響、時間范圍、關(guān)注程度和感知機會等細(xì)節(jié)信息。

而在第二季度的最新調(diào)查當(dāng)中，第三方生存能力成為各類組織最為關(guān)注的首要新興風(fēng)險（見表1）。財務(wù)規(guī)劃不確定性排名第三，位列第四的則是云集中風(fēng)險。對中國的貿(mào)易緊張局勢排名第五，具體又分為當(dāng)前宏觀經(jīng)濟疲軟，以及因地緣政治的廣泛波動所引發(fā)的現(xiàn)實影響與技術(shù)擔(dān)憂。

2023年第二季度最常被提及的五大新興風(fēng)險

Gartner調(diào)查顯示，生成式AI已成企業(yè)面臨的重大新興風(fēng)險

來源：Gartner（2023年8月）

生成式AI的大規(guī)模普及

Gartner此前已經(jīng)確定了生成式AI的六大風(fēng)險，以及與功能保障相關(guān)的四大AI監(jiān)管領(lǐng)域。Gartner專家表示，在管理企業(yè)風(fēng)險方面，必須解決以下三大核心難題：

• 知識產(chǎn)權(quán)Xu解釋道，“被輸入給生成式AI工具的信息，可以作為其訓(xùn)練數(shù)據(jù)集的一部分。也就是說，其中包含的敏感或機密信息可能最終會被輸出給其他用戶。此外，使用這些工具生成的輸出，也很可能會在無意間侵犯其他工具使用者的知識產(chǎn)權(quán)?！?/li>

解決問題的關(guān)鍵，是教育企業(yè)領(lǐng)導(dǎo)者在使用此類工具時保持謹(jǐn)慎態(tài)度和透明公開，以便立足生成式AI工具的輸入和輸出層面妥善控制知識產(chǎn)權(quán)風(fēng)險。

• 數(shù)據(jù)隱私

生成式AI工具可能會在不事先通知的情況下，與其他第三方（例如供應(yīng)商或服務(wù)提供商）共享用戶信息，而這很可能違反多個司法管轄區(qū)的隱私法條款。例如，中國和歐盟已經(jīng)開始實施監(jiān)管，美國、加拿大、印度和英國等國家也提出了監(jiān)管建議。

• 網(wǎng)絡(luò)安全Xu指出，“黑客總是出于自己的目的積極測試新技術(shù)，尋求能夠損害新技術(shù)的方法，生成式AI當(dāng)然也不例外。我們已經(jīng)看到有生成式AI在誘導(dǎo)之下生成惡意軟件和勒索軟件代碼的例子；還包括「提示詞注入」攻擊，即通過精心設(shè)計的提示詞詐騙AI工具泄露自己本不該輸出的信息。種種趨勢正導(dǎo)致高級網(wǎng)絡(luò)釣魚攻擊走向工業(yè)化、量產(chǎn)化的道路?！?/li>

第三方生存風(fēng)險的根源和影響

Xu解釋道，“持續(xù)不斷的通貨膨脹幾乎不受加息政策的緩解，而且持續(xù)時間也比預(yù)期更長，這加劇了第三方機構(gòu)的成本和利潤壓力。隨著美國央行不斷提高利率以對抗通脹，信貸緊縮周期必然隨之來臨，且很可能迫使供應(yīng)商暫停運營、甚至因借貸成本上升而資不抵債。”

如果經(jīng)濟狀況普遍惡化，也可能導(dǎo)致需求進一步下降，從而影響第三方供應(yīng)商的生存能力、或者是及時交付商品/服務(wù)的能力。Gartner專家指出了由第三方生存問題引發(fā)的三種潛在后果，供風(fēng)險管理者根據(jù)實際情況進行監(jiān)控：

• 關(guān)鍵投入與材料損失：如果第三方供應(yīng)商因為宏觀經(jīng)濟形勢而提高價格，則會引發(fā)關(guān)鍵投入與材料方面的顯著損失，因為第三方會更青睞愿意支付更高價格的客戶。
• 財務(wù)規(guī)劃假設(shè)或?qū)⒉怀闪ⅲ?/strong>當(dāng)供應(yīng)商提高價格或者意外倒閉時，原本的成本假設(shè)將不再成立，因此需要調(diào)整成本并提高獲取商品/服務(wù)的價格。
• 供應(yīng)鏈之外的挑戰(zhàn)：各合作伙伴（包括托管服務(wù)提供商、商業(yè)合作伙伴、債權(quán)人或者技術(shù)供應(yīng)商）可能會收縮甚至停止正常運營，給客戶方的業(yè)務(wù)運轉(zhuǎn)造成重大影響。