不到兩年時(shí)間，自從ChatGPT發(fā)布以來(lái)，各大企業(yè)對(duì)在其運(yùn)營(yíng)和產(chǎn)品中使用GenAI表現(xiàn)出濃厚興趣。由Dataiku和Cognizant進(jìn)行的一項(xiàng)新調(diào)查對(duì)全球200名企業(yè)公司高級(jí)分析和IT領(lǐng)導(dǎo)者進(jìn)行了民意調(diào)查，結(jié)果顯示，大多數(shù)企業(yè)正在花費(fèi)大量資金來(lái)探索GenAI的使用案例，或者已經(jīng)將其投入生產(chǎn)。

然而，全面采用和提高生產(chǎn)力的道路并非沒(méi)有障礙，這些挑戰(zhàn)為提供GenAI服務(wù)的公司提供了機(jī)會(huì)。

GenAI的重大投資

在VB Transform大會(huì)上公布的調(diào)查結(jié)果突顯了對(duì)GenAI項(xiàng)目的大量財(cái)務(wù)投入，近四分之三(73%)的受訪者計(jì)劃在未來(lái)12個(gè)月內(nèi)在GenAI上花費(fèi)超過(guò)50萬(wàn)美元，近一半(46%)的受訪者分配超過(guò)100萬(wàn)美元。

然而，只有三分之一的受訪企業(yè)有專門用于GenAI項(xiàng)目的預(yù)算，超過(guò)一半的企業(yè)從其他來(lái)源(包括IT、數(shù)據(jù)科學(xué)或分析預(yù)算)為GenAI項(xiàng)目提供資金。

目前尚不清楚向GenAI投入的資金如何影響原本可以從預(yù)算中受益的部門，這些支出的投資回報(bào)率(ROI)也尚不明確，但人們樂(lè)觀地認(rèn)為，隨著大型語(yǔ)言模型(LLM)和其他生成模型的不斷進(jìn)步，附加值最終將證明這些成本是合理的。

“隨著更多LLM使用案例和應(yīng)用程序在企業(yè)中出現(xiàn)，IT團(tuán)隊(duì)需要一種簡(jiǎn)便的方法來(lái)監(jiān)控性能和成本，以最大限度地發(fā)揮投資的價(jià)值，并在出現(xiàn)重大影響之前識(shí)別出問(wèn)題的使用模式?！毖芯康囊徊糠謨?nèi)容寫道。

Dataiku之前的調(diào)查顯示，各大企業(yè)正在探索各種應(yīng)用，從提升客戶體驗(yàn)到改善內(nèi)部運(yùn)營(yíng)，如軟件開發(fā)和數(shù)據(jù)分析。

實(shí)施GenAI的持續(xù)挑戰(zhàn)

盡管對(duì)GenAI充滿熱情，整合并非易事。調(diào)查中的大多數(shù)受訪者報(bào)告稱，在按照他們希望的方式使用LLM時(shí)遇到了基礎(chǔ)設(shè)施障礙，此外，他們還面臨其他挑戰(zhàn)，包括遵守區(qū)域立法(如歐盟AI法案)和內(nèi)部政策的挑戰(zhàn)。

生成模型的運(yùn)營(yíng)成本仍然是一個(gè)障礙。Microsoft Azure ML、Amazon Bedrock和OpenAI API等托管的LLM服務(wù)在企業(yè)內(nèi)部探索和生產(chǎn)GenAI時(shí)仍然是受歡迎的選擇，這些服務(wù)易于使用，并且避免了設(shè)置GPU集群和推理引擎的技術(shù)困難，然而，其基于令牌的定價(jià)模型也使得CIO難以在規(guī)模上管理GenAI項(xiàng)目的成本。

另外，企業(yè)可以使用自托管的開源LLM，這些模型可以滿足企業(yè)應(yīng)用的需求，并顯著降低推理成本，但它們需要前期投入和許多企業(yè)沒(méi)有的內(nèi)部技術(shù)人才。

技術(shù)堆棧的復(fù)雜性進(jìn)一步阻礙了GenAI的采用。令人震驚的是，60%的受訪者報(bào)告稱，他們?cè)诜治龊虯I生命周期的每個(gè)步驟(從數(shù)據(jù)攝取到MLOps和LLMOps)中使用了超過(guò)五種工具或軟件。

數(shù)據(jù)挑戰(zhàn)

GenAI的出現(xiàn)并沒(méi)有消除機(jī)器學(xué)習(xí)項(xiàng)目中現(xiàn)有的數(shù)據(jù)挑戰(zhàn)。事實(shí)上，數(shù)據(jù)質(zhì)量和可用性仍然是IT領(lǐng)導(dǎo)者面臨的最大數(shù)據(jù)基礎(chǔ)設(shè)施挑戰(zhàn)，45%的受訪者將其列為主要關(guān)切，其次是數(shù)據(jù)訪問(wèn)問(wèn)題，有27%的受訪者提到這一點(diǎn)。

大多數(shù)企業(yè)都擁有豐富的數(shù)據(jù)資源，但他們的數(shù)據(jù)基礎(chǔ)設(shè)施是在GenAI時(shí)代之前創(chuàng)建的，并沒(méi)有考慮到機(jī)器學(xué)習(xí)的需求。數(shù)據(jù)通常存在于不同的孤島中，并以不兼容的格式存儲(chǔ)。在用于機(jī)器學(xué)習(xí)之前，需要對(duì)數(shù)據(jù)進(jìn)行預(yù)處理、清理、匿名化和整合。數(shù)據(jù)工程和數(shù)據(jù)所有權(quán)管理仍然是大多數(shù)機(jī)器學(xué)習(xí)和AI項(xiàng)目的重要挑戰(zhàn)。

“即使擁有今天可用的所有工具，人們?nèi)晕茨苷莆諗?shù)據(jù)質(zhì)量(以及可用性，即數(shù)據(jù)是否適合其目的并符合用戶需求)，”研究報(bào)告中寫道，“諷刺的是，現(xiàn)代數(shù)據(jù)堆棧面臨的最大挑戰(zhàn)實(shí)際上并不是那么現(xiàn)代化?！?/p>

挑戰(zhàn)中的機(jī)遇

“現(xiàn)實(shí)是，GenAI將繼續(xù)轉(zhuǎn)變和演進(jìn)，不同的技術(shù)和提供商會(huì)來(lái)來(lái)去去。IT領(lǐng)導(dǎo)者如何在參與游戲的同時(shí)保持對(duì)未來(lái)的敏捷性?”Dataiku的現(xiàn)場(chǎng)CDO Conor Jensen說(shuō)，“所有人都在關(guān)注這個(gè)挑戰(zhàn)——加上不斷攀升的成本和其他風(fēng)險(xiǎn)——是否會(huì)超越GenAI的價(jià)值產(chǎn)出?！?/p>

隨著GenAI從探索性項(xiàng)目逐步轉(zhuǎn)向可擴(kuò)展運(yùn)營(yíng)的底層技術(shù)，提供GenAI服務(wù)的公司可以通過(guò)更好的工具和平臺(tái)支持企業(yè)和開發(fā)人員。

隨著技術(shù)的成熟，將有很多機(jī)會(huì)簡(jiǎn)化GenAI項(xiàng)目的技術(shù)和數(shù)據(jù)堆棧，減少集成的復(fù)雜性，幫助開發(fā)人員專注于解決問(wèn)題和提供價(jià)值。

企業(yè)即使尚未探索GenAI技術(shù)，也可以為GenAI技術(shù)的浪潮做好準(zhǔn)備。通過(guò)運(yùn)行小型試點(diǎn)項(xiàng)目和試驗(yàn)新技術(shù)，企業(yè)可以發(fā)現(xiàn)其數(shù)據(jù)基礎(chǔ)設(shè)施和政策中的痛點(diǎn)，并開始為未來(lái)做準(zhǔn)備，同時(shí)，他們可以開始培養(yǎng)內(nèi)部技能，以確保擁有更多選擇，并更好地利用技術(shù)的全部潛力，在各自行業(yè)中推動(dòng)創(chuàng)新。