在GenAI時(shí)代，發(fā)展軌跡呈現(xiàn)出典型的“進(jìn)兩步，退一步”模式。隨著公司逐漸掌握GenAI的獨(dú)特復(fù)雜性，初期取得的進(jìn)展往往伴隨著倒退和重復(fù)工作，在某些情況下，甚至可能威脅到整個(gè)開(kāi)發(fā)進(jìn)程的停滯。

導(dǎo)致挫敗感和延誤的原因眾多，從人才短缺到持續(xù)的數(shù)據(jù)質(zhì)量問(wèn)題不一而足，但根據(jù)我們過(guò)去兩年與超過(guò)150家公司合作開(kāi)展GenAI項(xiàng)目的經(jīng)驗(yàn)來(lái)看，在構(gòu)建過(guò)程中幾乎總會(huì)遇到兩個(gè)主要障礙：

? 創(chuàng)新失敗：流程限制、缺乏專(zhuān)注以及重復(fù)性的返工扼殺了創(chuàng)新。那些本應(yīng)解決有價(jià)值問(wèn)題的團(tuán)隊(duì)，卻往往被困在重復(fù)實(shí)驗(yàn)或等待合規(guī)團(tuán)隊(duì)的審批上，而這些合規(guī)團(tuán)隊(duì)自己也難以跟上開(kāi)發(fā)的步伐。在我們的經(jīng)驗(yàn)中，團(tuán)隊(duì)在GenAI方面的“創(chuàng)新”時(shí)間中，大約有30%至50%都花在了使解決方案符合規(guī)定或等待企業(yè)的合規(guī)要求明確且可行上，團(tuán)隊(duì)致力于解決無(wú)關(guān)緊要的問(wèn)題，重復(fù)工作，創(chuàng)造出無(wú)法重用的定制化解決方案，且這些方案往往無(wú)法產(chǎn)生真正的價(jià)值。

? 擴(kuò)展失敗：風(fēng)險(xiǎn)擔(dān)憂和成本超支阻礙了擴(kuò)展。對(duì)于少數(shù)展現(xiàn)出真正價(jià)值潛力的解決方案，企業(yè)在從原型到生產(chǎn)的跨越過(guò)程中大多遭遇失敗，在擴(kuò)展GenAI應(yīng)用時(shí)，安全和風(fēng)險(xiǎn)擔(dān)憂(包括聲譽(yù)風(fēng)險(xiǎn))被單獨(dú)處理，變得過(guò)于龐大且成本高昂，難以克服。

通常，這些問(wèn)題會(huì)在公司試圖從試點(diǎn)階段過(guò)渡到運(yùn)營(yíng)規(guī)模時(shí)依次出現(xiàn)，盡管在某些情況下，公司可能會(huì)同時(shí)遇到這些障礙。不幸的是，它們可以迅速使整個(gè)GenAI項(xiàng)目脫軌，而不僅僅是單個(gè)應(yīng)用。盡管錯(cuò)誤結(jié)果或幻覺(jué)帶來(lái)的風(fēng)險(xiǎn)和努力是這一過(guò)程的一部分，但過(guò)早的失敗(例如，信息與品牌不一致或違反政策)會(huì)在高管中引發(fā)過(guò)度擔(dān)憂，他們可能并未充分準(zhǔn)備或熟悉測(cè)試過(guò)程。在某些情況下，這些糟糕的測(cè)試結(jié)果導(dǎo)致企業(yè)徹底關(guān)閉GenAI項(xiàng)目，這不僅阻礙了創(chuàng)新，還中斷了新技能和能力的發(fā)展，最終使公司離其預(yù)期的價(jià)值目標(biāo)越來(lái)越遠(yuǎn)。

無(wú)論是順序發(fā)生還是同時(shí)發(fā)生，這些問(wèn)題往往歸結(jié)為快速推進(jìn)與謹(jǐn)慎行事之間的權(quán)衡。經(jīng)驗(yàn)告訴我們，這是一個(gè)錯(cuò)誤的抉擇。如果公司在構(gòu)建平臺(tái)時(shí)深思熟慮——一個(gè)集中化的驗(yàn)證服務(wù)集合(例如，倫理提示分析、大型語(yǔ)言模型(LLM)可觀測(cè)性、預(yù)批準(zhǔn)提示庫(kù)、多云自動(dòng)化和訪問(wèn)控制)和資產(chǎn)(例如，應(yīng)用模式、可重用代碼和培訓(xùn)材料)，這些服務(wù)和資產(chǎn)易于查找和使用(并可重用)，那么公司就能在管理風(fēng)險(xiǎn)的同時(shí)實(shí)現(xiàn)創(chuàng)新。將這些功能集成到一個(gè)單一平臺(tái)中，可以確保產(chǎn)品更高效地滿(mǎn)足合規(guī)要求，根據(jù)我們的經(jīng)驗(yàn)，這有助于幾乎完全消除通常所需的30%至50%的非必要工作。

我們?yōu)楦餍懈鳂I(yè)的公司構(gòu)建數(shù)十個(gè)GenAI解決方案的經(jīng)驗(yàn)表明，最成功的GenAI平臺(tái)包含三個(gè)核心組件：

1. 自助服務(wù)門(mén)戶(hù)

支持創(chuàng)新和擴(kuò)展需要分布式的GenAI能力，以便業(yè)務(wù)中的數(shù)十個(gè)甚至數(shù)百個(gè)團(tuán)隊(duì)能夠輕松且安全地訪問(wèn)工具和服務(wù)。一個(gè)安全且合規(guī)的自助服務(wù)門(mén)戶(hù)可以通過(guò)兩種方式滿(mǎn)足這一需求：

? 開(kāi)發(fā)者賦能：為了有效，該門(mén)戶(hù)及其底層基礎(chǔ)設(shè)施(例如，OpsLevel、Cortex、Port)應(yīng)提供對(duì)所有驗(yàn)證過(guò)的GenAI產(chǎn)品和功能的單一訪問(wèn)點(diǎn)。通過(guò)這種方式，開(kāi)發(fā)者可以在幾分鐘內(nèi)實(shí)例化預(yù)存在的應(yīng)用模式，并開(kāi)始使用預(yù)配置為安全和可擴(kuò)展的批準(zhǔn)功能開(kāi)發(fā)他們的特定解決方案。門(mén)戶(hù)的網(wǎng)頁(yè)界面應(yīng)融入用戶(hù)設(shè)計(jì)原則，如簡(jiǎn)單的點(diǎn)擊過(guò)程來(lái)配置和部署GenAI產(chǎn)品，以及提供一個(gè)企業(yè)良好的文檔和學(xué)習(xí)模塊庫(kù)，涵蓋所有GenAI主題(例如，如何部署新資源，如何利用現(xiàn)有應(yīng)用程序)，以允許開(kāi)發(fā)者提升自己的能力。最好的門(mén)戶(hù)允許貢獻(xiàn)模式，即企業(yè)中的開(kāi)發(fā)者可以貢獻(xiàn)內(nèi)容和功能(例如，新庫(kù)和應(yīng)用模式改進(jìn))。

? 訪問(wèn)管理服務(wù)：這個(gè)集中式門(mén)戶(hù)還可以提供對(duì)GenAI管理服務(wù)的訪問(wèn)，如可觀測(cè)性和分析儀表板，以及內(nèi)置的預(yù)算控制和報(bào)告，以防止成本超支。使數(shù)據(jù)訪問(wèn)控制、跟蹤治理和審批流程以及了解應(yīng)用程序的當(dāng)前狀態(tài)變得簡(jiǎn)單，使企業(yè)能夠自信地運(yùn)營(yíng)數(shù)百個(gè)應(yīng)用程序。這些控制可以根據(jù)環(huán)境(例如，臨時(shí)沙盒的低預(yù)算，高容量測(cè)試賬戶(hù)的高預(yù)算)進(jìn)行定制，并與AI網(wǎng)關(guān)的成本治理組件集成，使團(tuán)隊(duì)和IT領(lǐng)導(dǎo)者能夠監(jiān)控持續(xù)的開(kāi)發(fā)成本。

2. 開(kāi)放架構(gòu)以重用GenAI服務(wù)

技術(shù)在擴(kuò)展方面的關(guān)鍵是最大化重用。實(shí)現(xiàn)重用依賴(lài)于開(kāi)發(fā)一個(gè)開(kāi)放的模塊化架構(gòu)，該架構(gòu)能夠集成并輕松交換可重用的服務(wù)和功能，這種開(kāi)放架構(gòu)方法還可以顯著降低總擁有成本。

領(lǐng)先的企業(yè)專(zhuān)注于開(kāi)發(fā)兩組可重用的功能：針對(duì)常見(jiàn)原型的完整GenAI應(yīng)用模式(例如，知識(shí)管理、客戶(hù)聊天機(jī)器人或代理工作流程)和數(shù)據(jù)產(chǎn)品(例如，RAG和GraphRAG);以及大多數(shù)GenAI應(yīng)用中使用的通用庫(kù)(例如，分塊和嵌入、數(shù)據(jù)重新排序、提示豐富或意圖分類(lèi))，許多這些核心功能可以作為服務(wù)提供。

雖然傾向于選擇單一提供商來(lái)提供所有GenAI服務(wù)很誘人，但這種方法往往適得其反，因?yàn)樘峁┥痰墓δ芸赡懿⒉贿m合公司的所有特定需求，并限制了對(duì)最佳功能的訪問(wèn)。隨著技術(shù)的快速發(fā)展，使用提供商提供的服務(wù)(公司自身具有專(zhuān)有優(yōu)勢(shì)的除外)更有意義。因此，GenAI平臺(tái)應(yīng)專(zhuān)注于通過(guò)開(kāi)放架構(gòu)實(shí)現(xiàn)集成、配置和訪問(wèn)。

開(kāi)放架構(gòu)的核心構(gòu)建塊是基礎(chǔ)設(shè)施即代碼與策略即代碼相結(jié)合，以便在核心層面輕松進(jìn)行更改，并由平臺(tái)上的解決方案快速輕松地采用。平臺(tái)提供的庫(kù)和組件服務(wù)應(yīng)由一組清晰且標(biāo)準(zhǔn)化的API支持，以協(xié)調(diào)對(duì)GenAI服務(wù)的調(diào)用。

3. 自動(dòng)化、負(fù)責(zé)任的AI護(hù)欄

為了降低風(fēng)險(xiǎn)、管理持續(xù)合規(guī)并提供成本透明度，GenAI平臺(tái)應(yīng)實(shí)施自動(dòng)化治理護(hù)欄，一個(gè)例子是在軟件開(kāi)發(fā)生命周期或解決方案操作的特定點(diǎn)自動(dòng)觸發(fā)微服務(wù)，以審查代碼是否符合負(fù)責(zé)任的AI標(biāo)準(zhǔn)，這些護(hù)欄應(yīng)自動(dòng)審計(jì)LLM提示和響應(yīng)，以防止數(shù)據(jù)政策違規(guī)(例如，在輸入數(shù)據(jù)中使用個(gè)人可識(shí)別信息[PII])，驗(yàn)證LLM輸出的合規(guī)性(即檢測(cè)幻覺(jué)、數(shù)據(jù)泄露和倫理偏見(jiàn))，跟蹤成本影響(例如，LLM推理和向量數(shù)據(jù)庫(kù)查詢(xún)的成本)，并提供將成本追溯到單個(gè)解決方案的能力。如果實(shí)施得當(dāng)，平臺(tái)可以通過(guò)允許應(yīng)用程序團(tuán)隊(duì)將時(shí)間花在構(gòu)建產(chǎn)品和服務(wù)上，而不是處理安全和擴(kuò)展的細(xì)節(jié)，從而加速合規(guī)和更有效的成本管理，并加速用例的安全實(shí)施。對(duì)于一家大型石油和天然氣公司來(lái)說(shuō)，這種方法將新GenAI環(huán)境的配置時(shí)間從六周多縮短到不到一天即可獲得專(zhuān)用、功能齊全的GenAI創(chuàng)新沙箱。此外，GenAI平臺(tái)通過(guò)多達(dá)90%的加速審批流程，因?yàn)閷彶閳F(tuán)隊(duì)可以快速驗(yàn)證應(yīng)用程序是否使用了批準(zhǔn)的共享服務(wù)。

實(shí)施這種獨(dú)特平臺(tái)需要紀(jì)律和時(shí)間，但從長(zhǎng)遠(yuǎn)來(lái)看，其在價(jià)值和速度方面的回報(bào)遠(yuǎn)遠(yuǎn)超過(guò)了投入，通常在部署幾個(gè)解決方案后即可實(shí)現(xiàn)盈虧平衡，這種基于平臺(tái)的做法對(duì)于加速創(chuàng)新、大規(guī)模運(yùn)營(yíng)、避免常見(jiàn)但致命的陷阱以及允許公司捕捉GenAI的承諾至關(guān)重要。