德勤發(fā)布的一份新報告揭示了企業(yè)在采用GenAI過程中的復(fù)雜現(xiàn)狀，展現(xiàn)了顯著進展與持續(xù)挑戰(zhàn)并存的局面，這份題為《企業(yè)中的GenAI現(xiàn)狀：現(xiàn)在決定未來》的調(diào)查收集了來自14個國家和六個行業(yè)的2770名業(yè)務(wù)和技術(shù)領(lǐng)導(dǎo)者的見解。

這項調(diào)查是公司季度系列關(guān)于企業(yè)GenAI現(xiàn)狀的最新一期，該系列的第一份報告于1月發(fā)布，發(fā)現(xiàn)業(yè)務(wù)領(lǐng)導(dǎo)者對社會影響和技術(shù)人才表示擔憂。

新報告描繪了一幅企業(yè)努力利用GenAI潛力的圖景，同時面臨著可擴展性、數(shù)據(jù)管理、風險緩解和價值衡量等方面的挑戰(zhàn)。報告強調(diào)了一個關(guān)鍵節(jié)點，即早期成功推動了更多投資，但廣泛實施的道路仍然充滿障礙。

報告的主要發(fā)現(xiàn)包括：

? 67%的企業(yè)由于早期取得的強勁價值而增加了對GenAI的投資

? 68%的企業(yè)僅將30%或更少的GenAI實驗投入生產(chǎn)

? 75%的企業(yè)增加了對GenAI數(shù)據(jù)生命周期管理的投資

? 僅有23%的企業(yè)認為他們對GenAI相關(guān)的風險管理和治理挑戰(zhàn)高度準備

? 41%的企業(yè)在定義和衡量GenAI工作的確切影響方面存在困難

? 55%的企業(yè)因數(shù)據(jù)相關(guān)問題而避免了某些GenAI的用例

德勤的合伙人Kieran Norton在接受VentureBeat采訪時表示：“我看到很多客戶正在進行原型開發(fā)和試點項目，但尚未進入生產(chǎn)階段。很大一部分原因與數(shù)據(jù)質(zhì)量及其影響有關(guān)，包括模型中引入偏差的風險。”

風險擔憂如何影響企業(yè)AI部署

德勤的這項調(diào)查是最近幾周內(nèi)多項旨在詳細說明企業(yè)AI當前使用情況的報告之一。普華永道上周發(fā)布的一份報告顯示，盡管企業(yè)對GenAI的興趣很高，但在評估AI風險方面仍存在一定差距。

德勤的報告進一步指出，AI風險可能正在影響企業(yè)的部署。Norton表示，企業(yè)高管們對這些風險非常關(guān)注，在他們認為這些問題可以得到解決之前，不愿意推進相關(guān)項目。

德勤報告強調(diào)了一些關(guān)鍵風險，包括數(shù)據(jù)質(zhì)量、偏見、安全性、信任、隱私和合規(guī)性。這些雖然不是全新的領(lǐng)域，但Norton強調(diào)，GenAI存在一些特有的細微差別。Kieran認為，企業(yè)可以利用現(xiàn)有的風險管理計劃來應(yīng)對這些挑戰(zhàn)，然而，他也承認需要加強某些實踐，例如數(shù)據(jù)質(zhì)量管理，以減輕GenAI帶來的特定風險。

Norton表示：“有些細微差別需要解決，但歸根結(jié)底，這仍然是核心治理問題。數(shù)據(jù)質(zhì)量一直是一個關(guān)注點，因此你可能需要加強數(shù)據(jù)質(zhì)量管理，以減輕風險?！?/p>

其中一個特別的擔憂是GenAI模型可能會出現(xiàn)“幻覺”風險，即生成錯誤或無意義的輸出。Norton解釋說，這一風險確實令人擔憂，并指出這通常與對輸入模型的數(shù)據(jù)缺乏理解有關(guān)。他建議，對于某些用例，企業(yè)可以選擇使用更小、更有針對性的語言模型和特定培訓(xùn)，以減少幻覺風險。

企業(yè)如何展示GenAI項目的價值

報告中的一個重要發(fā)現(xiàn)是，41%的組織難以有效衡量其GenAI的工作。更糟糕的是，只有16%的企業(yè)為其CFO定期提供報告，詳細說明GenAI創(chuàng)造的價值。

Norton解釋說，這種困難源于用例的多樣性，需要一種更細致、針對具體用例的方法。

他說：“如果你在企業(yè)的不同部分探索20種不同的用例，你可能會遇到蘋果、橙子、香蕉和菠蘿，所以你無法以相同的方式衡量所有這些?！?/p>

Norton建議，企業(yè)應(yīng)為每個具體用例定義KPI，針對他們試圖解決的業(yè)務(wù)問題，這可能包括生產(chǎn)力、效率或用戶體驗的改進，具體取決于特定用例。他建議企業(yè)識別業(yè)務(wù)中存在問題的領(lǐng)域，然后嘗試解決這些問題。

他說：“我認為，更重要的是將其分解到用例層面，而不是將其作為一個整體組合來處理?！?/p>