在GenAI時代，發(fā)展軌跡呈現(xiàn)出典型的“進兩步，退一步”模式。隨著公司逐漸掌握GenAI的獨特復(fù)雜性，初期取得的進展往往伴隨著倒退和重復(fù)工作，在某些情況下，甚至可能威脅到整個開發(fā)進程的停滯。

導(dǎo)致挫敗感和延誤的原因眾多，從人才短缺到持續(xù)的數(shù)據(jù)質(zhì)量問題不一而足，但根據(jù)我們過去兩年與超過150家公司合作開展GenAI項目的經(jīng)驗來看，在構(gòu)建過程中幾乎總會遇到兩個主要障礙：

? 創(chuàng)新失敗：流程限制、缺乏專注以及重復(fù)性的返工扼殺了創(chuàng)新。那些本應(yīng)解決有價值問題的團隊，卻往往被困在重復(fù)實驗或等待合規(guī)團隊的審批上，而這些合規(guī)團隊自己也難以跟上開發(fā)的步伐。在我們的經(jīng)驗中，團隊在GenAI方面的“創(chuàng)新”時間中，大約有30%至50%都花在了使解決方案符合規(guī)定或等待企業(yè)的合規(guī)要求明確且可行上，團隊致力于解決無關(guān)緊要的問題，重復(fù)工作，創(chuàng)造出無法重用的定制化解決方案，且這些方案往往無法產(chǎn)生真正的價值。

? 擴展失敗：風(fēng)險擔(dān)憂和成本超支阻礙了擴展。對于少數(shù)展現(xiàn)出真正價值潛力的解決方案，企業(yè)在從原型到生產(chǎn)的跨越過程中大多遭遇失敗，在擴展GenAI應(yīng)用時，安全和風(fēng)險擔(dān)憂(包括聲譽風(fēng)險)被單獨處理，變得過于龐大且成本高昂，難以克服。

通常，這些問題會在公司試圖從試點階段過渡到運營規(guī)模時依次出現(xiàn)，盡管在某些情況下，公司可能會同時遇到這些障礙。不幸的是，它們可以迅速使整個GenAI項目脫軌，而不僅僅是單個應(yīng)用。盡管錯誤結(jié)果或幻覺帶來的風(fēng)險和努力是這一過程的一部分，但過早的失敗(例如，信息與品牌不一致或違反政策)會在高管中引發(fā)過度擔(dān)憂，他們可能并未充分準備或熟悉測試過程。在某些情況下，這些糟糕的測試結(jié)果導(dǎo)致企業(yè)徹底關(guān)閉GenAI項目，這不僅阻礙了創(chuàng)新，還中斷了新技能和能力的發(fā)展，最終使公司離其預(yù)期的價值目標(biāo)越來越遠。

無論是順序發(fā)生還是同時發(fā)生，這些問題往往歸結(jié)為快速推進與謹慎行事之間的權(quán)衡。經(jīng)驗告訴我們，這是一個錯誤的抉擇。如果公司在構(gòu)建平臺時深思熟慮——一個集中化的驗證服務(wù)集合(例如，倫理提示分析、大型語言模型(LLM)可觀測性、預(yù)批準提示庫、多云自動化和訪問控制)和資產(chǎn)(例如，應(yīng)用模式、可重用代碼和培訓(xùn)材料)，這些服務(wù)和資產(chǎn)易于查找和使用(并可重用)，那么公司就能在管理風(fēng)險的同時實現(xiàn)創(chuàng)新。將這些功能集成到一個單一平臺中，可以確保產(chǎn)品更高效地滿足合規(guī)要求，根據(jù)我們的經(jīng)驗，這有助于幾乎完全消除通常所需的30%至50%的非必要工作。

我們?yōu)楦餍懈鳂I(yè)的公司構(gòu)建數(shù)十個GenAI解決方案的經(jīng)驗表明，最成功的GenAI平臺包含三個核心組件：

1. 自助服務(wù)門戶

支持創(chuàng)新和擴展需要分布式的GenAI能力，以便業(yè)務(wù)中的數(shù)十個甚至數(shù)百個團隊能夠輕松且安全地訪問工具和服務(wù)。一個安全且合規(guī)的自助服務(wù)門戶可以通過兩種方式滿足這一需求：

? 開發(fā)者賦能：為了有效，該門戶及其底層基礎(chǔ)設(shè)施(例如，OpsLevel、Cortex、Port)應(yīng)提供對所有驗證過的GenAI產(chǎn)品和功能的單一訪問點。通過這種方式，開發(fā)者可以在幾分鐘內(nèi)實例化預(yù)存在的應(yīng)用模式，并開始使用預(yù)配置為安全和可擴展的批準功能開發(fā)他們的特定解決方案。門戶的網(wǎng)頁界面應(yīng)融入用戶設(shè)計原則，如簡單的點擊過程來配置和部署GenAI產(chǎn)品，以及提供一個企業(yè)良好的文檔和學(xué)習(xí)模塊庫，涵蓋所有GenAI主題(例如，如何部署新資源，如何利用現(xiàn)有應(yīng)用程序)，以允許開發(fā)者提升自己的能力。最好的門戶允許貢獻模式，即企業(yè)中的開發(fā)者可以貢獻內(nèi)容和功能(例如，新庫和應(yīng)用模式改進)。

? 訪問管理服務(wù)：這個集中式門戶還可以提供對GenAI管理服務(wù)的訪問，如可觀測性和分析儀表板，以及內(nèi)置的預(yù)算控制和報告，以防止成本超支。使數(shù)據(jù)訪問控制、跟蹤治理和審批流程以及了解應(yīng)用程序的當(dāng)前狀態(tài)變得簡單，使企業(yè)能夠自信地運營數(shù)百個應(yīng)用程序。這些控制可以根據(jù)環(huán)境(例如，臨時沙盒的低預(yù)算，高容量測試賬戶的高預(yù)算)進行定制，并與AI網(wǎng)關(guān)的成本治理組件集成，使團隊和IT領(lǐng)導(dǎo)者能夠監(jiān)控持續(xù)的開發(fā)成本。

2. 開放架構(gòu)以重用GenAI服務(wù)

技術(shù)在擴展方面的關(guān)鍵是最大化重用。實現(xiàn)重用依賴于開發(fā)一個開放的模塊化架構(gòu)，該架構(gòu)能夠集成并輕松交換可重用的服務(wù)和功能，這種開放架構(gòu)方法還可以顯著降低總擁有成本。

領(lǐng)先的企業(yè)專注于開發(fā)兩組可重用的功能：針對常見原型的完整GenAI應(yīng)用模式(例如，知識管理、客戶聊天機器人或代理工作流程)和數(shù)據(jù)產(chǎn)品(例如，RAG和GraphRAG);以及大多數(shù)GenAI應(yīng)用中使用的通用庫(例如，分塊和嵌入、數(shù)據(jù)重新排序、提示豐富或意圖分類)，許多這些核心功能可以作為服務(wù)提供。

雖然傾向于選擇單一提供商來提供所有GenAI服務(wù)很誘人，但這種方法往往適得其反，因為提供商的功能可能并不適合公司的所有特定需求，并限制了對最佳功能的訪問。隨著技術(shù)的快速發(fā)展，使用提供商提供的服務(wù)(公司自身具有專有優(yōu)勢的除外)更有意義。因此，GenAI平臺應(yīng)專注于通過開放架構(gòu)實現(xiàn)集成、配置和訪問。

開放架構(gòu)的核心構(gòu)建塊是基礎(chǔ)設(shè)施即代碼與策略即代碼相結(jié)合，以便在核心層面輕松進行更改，并由平臺上的解決方案快速輕松地采用。平臺提供的庫和組件服務(wù)應(yīng)由一組清晰且標(biāo)準化的API支持，以協(xié)調(diào)對GenAI服務(wù)的調(diào)用。

3. 自動化、負責(zé)任的AI護欄

為了降低風(fēng)險、管理持續(xù)合規(guī)并提供成本透明度，GenAI平臺應(yīng)實施自動化治理護欄，一個例子是在軟件開發(fā)生命周期或解決方案操作的特定點自動觸發(fā)微服務(wù)，以審查代碼是否符合負責(zé)任的AI標(biāo)準，這些護欄應(yīng)自動審計LLM提示和響應(yīng)，以防止數(shù)據(jù)政策違規(guī)(例如，在輸入數(shù)據(jù)中使用個人可識別信息[PII])，驗證LLM輸出的合規(guī)性(即檢測幻覺、數(shù)據(jù)泄露和倫理偏見)，跟蹤成本影響(例如，LLM推理和向量數(shù)據(jù)庫查詢的成本)，并提供將成本追溯到單個解決方案的能力。如果實施得當(dāng)，平臺可以通過允許應(yīng)用程序團隊將時間花在構(gòu)建產(chǎn)品和服務(wù)上，而不是處理安全和擴展的細節(jié)，從而加速合規(guī)和更有效的成本管理，并加速用例的安全實施。對于一家大型石油和天然氣公司來說，這種方法將新GenAI環(huán)境的配置時間從六周多縮短到不到一天即可獲得專用、功能齊全的GenAI創(chuàng)新沙箱。此外，GenAI平臺通過多達90%的加速審批流程，因為審查團隊可以快速驗證應(yīng)用程序是否使用了批準的共享服務(wù)。

實施這種獨特平臺需要紀律和時間，但從長遠來看，其在價值和速度方面的回報遠遠超過了投入，通常在部署幾個解決方案后即可實現(xiàn)盈虧平衡，這種基于平臺的做法對于加速創(chuàng)新、大規(guī)模運營、避免常見但致命的陷阱以及允許公司捕捉GenAI的承諾至關(guān)重要。