偷偷摘套内射激情视频,久久精品99国产国产精,中文字幕无线乱码人妻,中文在线中文a,性爽19p

如何解決導(dǎo)致GenAI程序沉沒的兩個問題

人工智能
艱難的實踐經(jīng)驗揭示了構(gòu)建GenAI能力過程中常見的技術(shù)陷阱,并提供了克服這些陷阱的有效策略。

在GenAI時代,發(fā)展軌跡呈現(xiàn)出典型的“進兩步,退一步”模式。隨著公司逐漸掌握GenAI的獨特復(fù)雜性,初期取得的進展往往伴隨著倒退和重復(fù)工作,在某些情況下,甚至可能威脅到整個開發(fā)進程的停滯。

導(dǎo)致挫敗感和延誤的原因眾多,從人才短缺到持續(xù)的數(shù)據(jù)質(zhì)量問題不一而足,但根據(jù)我們過去兩年與超過150家公司合作開展GenAI項目的經(jīng)驗來看,在構(gòu)建過程中幾乎總會遇到兩個主要障礙:

? 創(chuàng)新失敗:流程限制、缺乏專注以及重復(fù)性的返工扼殺了創(chuàng)新。那些本應(yīng)解決有價值問題的團隊,卻往往被困在重復(fù)實驗或等待合規(guī)團隊的審批上,而這些合規(guī)團隊自己也難以跟上開發(fā)的步伐。在我們的經(jīng)驗中,團隊在GenAI方面的“創(chuàng)新”時間中,大約有30%至50%都花在了使解決方案符合規(guī)定或等待企業(yè)的合規(guī)要求明確且可行上,團隊致力于解決無關(guān)緊要的問題,重復(fù)工作,創(chuàng)造出無法重用的定制化解決方案,且這些方案往往無法產(chǎn)生真正的價值。

? 擴展失敗:風(fēng)險擔(dān)憂和成本超支阻礙了擴展。對于少數(shù)展現(xiàn)出真正價值潛力的解決方案,企業(yè)在從原型到生產(chǎn)的跨越過程中大多遭遇失敗,在擴展GenAI應(yīng)用時,安全和風(fēng)險擔(dān)憂(包括聲譽風(fēng)險)被單獨處理,變得過于龐大且成本高昂,難以克服。

通常,這些問題會在公司試圖從試點階段過渡到運營規(guī)模時依次出現(xiàn),盡管在某些情況下,公司可能會同時遇到這些障礙。不幸的是,它們可以迅速使整個GenAI項目脫軌,而不僅僅是單個應(yīng)用。盡管錯誤結(jié)果或幻覺帶來的風(fēng)險和努力是這一過程的一部分,但過早的失敗(例如,信息與品牌不一致或違反政策)會在高管中引發(fā)過度擔(dān)憂,他們可能并未充分準備或熟悉測試過程。在某些情況下,這些糟糕的測試結(jié)果導(dǎo)致企業(yè)徹底關(guān)閉GenAI項目,這不僅阻礙了創(chuàng)新,還中斷了新技能和能力的發(fā)展,最終使公司離其預(yù)期的價值目標(biāo)越來越遠。

無論是順序發(fā)生還是同時發(fā)生,這些問題往往歸結(jié)為快速推進與謹慎行事之間的權(quán)衡。經(jīng)驗告訴我們,這是一個錯誤的抉擇。如果公司在構(gòu)建平臺時深思熟慮——一個集中化的驗證服務(wù)集合(例如,倫理提示分析、大型語言模型(LLM)可觀測性、預(yù)批準提示庫、多云自動化和訪問控制)和資產(chǎn)(例如,應(yīng)用模式、可重用代碼和培訓(xùn)材料),這些服務(wù)和資產(chǎn)易于查找和使用(并可重用),那么公司就能在管理風(fēng)險的同時實現(xiàn)創(chuàng)新。將這些功能集成到一個單一平臺中,可以確保產(chǎn)品更高效地滿足合規(guī)要求,根據(jù)我們的經(jīng)驗,這有助于幾乎完全消除通常所需的30%至50%的非必要工作。

我們?yōu)楦餍懈鳂I(yè)的公司構(gòu)建數(shù)十個GenAI解決方案的經(jīng)驗表明,最成功的GenAI平臺包含三個核心組件:

1. 自助服務(wù)門戶

支持創(chuàng)新和擴展需要分布式的GenAI能力,以便業(yè)務(wù)中的數(shù)十個甚至數(shù)百個團隊能夠輕松且安全地訪問工具和服務(wù)。一個安全且合規(guī)的自助服務(wù)門戶可以通過兩種方式滿足這一需求:

? 開發(fā)者賦能:為了有效,該門戶及其底層基礎(chǔ)設(shè)施(例如,OpsLevel、Cortex、Port)應(yīng)提供對所有驗證過的GenAI產(chǎn)品和功能的單一訪問點。通過這種方式,開發(fā)者可以在幾分鐘內(nèi)實例化預(yù)存在的應(yīng)用模式,并開始使用預(yù)配置為安全和可擴展的批準功能開發(fā)他們的特定解決方案。門戶的網(wǎng)頁界面應(yīng)融入用戶設(shè)計原則,如簡單的點擊過程來配置和部署GenAI產(chǎn)品,以及提供一個企業(yè)良好的文檔和學(xué)習(xí)模塊庫,涵蓋所有GenAI主題(例如,如何部署新資源,如何利用現(xiàn)有應(yīng)用程序),以允許開發(fā)者提升自己的能力。最好的門戶允許貢獻模式,即企業(yè)中的開發(fā)者可以貢獻內(nèi)容和功能(例如,新庫和應(yīng)用模式改進)。

? 訪問管理服務(wù):這個集中式門戶還可以提供對GenAI管理服務(wù)的訪問,如可觀測性和分析儀表板,以及內(nèi)置的預(yù)算控制和報告,以防止成本超支。使數(shù)據(jù)訪問控制、跟蹤治理和審批流程以及了解應(yīng)用程序的當(dāng)前狀態(tài)變得簡單,使企業(yè)能夠自信地運營數(shù)百個應(yīng)用程序。這些控制可以根據(jù)環(huán)境(例如,臨時沙盒的低預(yù)算,高容量測試賬戶的高預(yù)算)進行定制,并與AI網(wǎng)關(guān)的成本治理組件集成,使團隊和IT領(lǐng)導(dǎo)者能夠監(jiān)控持續(xù)的開發(fā)成本。

2. 開放架構(gòu)以重用GenAI服務(wù)

技術(shù)在擴展方面的關(guān)鍵是最大化重用。實現(xiàn)重用依賴于開發(fā)一個開放的模塊化架構(gòu),該架構(gòu)能夠集成并輕松交換可重用的服務(wù)和功能,這種開放架構(gòu)方法還可以顯著降低總擁有成本。

領(lǐng)先的企業(yè)專注于開發(fā)兩組可重用的功能:針對常見原型的完整GenAI應(yīng)用模式(例如,知識管理、客戶聊天機器人或代理工作流程)和數(shù)據(jù)產(chǎn)品(例如,RAG和GraphRAG);以及大多數(shù)GenAI應(yīng)用中使用的通用庫(例如,分塊和嵌入、數(shù)據(jù)重新排序、提示豐富或意圖分類),許多這些核心功能可以作為服務(wù)提供。

雖然傾向于選擇單一提供商來提供所有GenAI服務(wù)很誘人,但這種方法往往適得其反,因為提供商的功能可能并不適合公司的所有特定需求,并限制了對最佳功能的訪問。隨著技術(shù)的快速發(fā)展,使用提供商提供的服務(wù)(公司自身具有專有優(yōu)勢的除外)更有意義。因此,GenAI平臺應(yīng)專注于通過開放架構(gòu)實現(xiàn)集成、配置和訪問。

開放架構(gòu)的核心構(gòu)建塊是基礎(chǔ)設(shè)施即代碼與策略即代碼相結(jié)合,以便在核心層面輕松進行更改,并由平臺上的解決方案快速輕松地采用。平臺提供的庫和組件服務(wù)應(yīng)由一組清晰且標(biāo)準化的API支持,以協(xié)調(diào)對GenAI服務(wù)的調(diào)用。

3. 自動化、負責(zé)任的AI護欄

為了降低風(fēng)險、管理持續(xù)合規(guī)并提供成本透明度,GenAI平臺應(yīng)實施自動化治理護欄,一個例子是在軟件開發(fā)生命周期或解決方案操作的特定點自動觸發(fā)微服務(wù),以審查代碼是否符合負責(zé)任的AI標(biāo)準,這些護欄應(yīng)自動審計LLM提示和響應(yīng),以防止數(shù)據(jù)政策違規(guī)(例如,在輸入數(shù)據(jù)中使用個人可識別信息[PII]),驗證LLM輸出的合規(guī)性(即檢測幻覺、數(shù)據(jù)泄露和倫理偏見),跟蹤成本影響(例如,LLM推理和向量數(shù)據(jù)庫查詢的成本),并提供將成本追溯到單個解決方案的能力。如果實施得當(dāng),平臺可以通過允許應(yīng)用程序團隊將時間花在構(gòu)建產(chǎn)品和服務(wù)上,而不是處理安全和擴展的細節(jié),從而加速合規(guī)和更有效的成本管理,并加速用例的安全實施。對于一家大型石油和天然氣公司來說,這種方法將新GenAI環(huán)境的配置時間從六周多縮短到不到一天即可獲得專用、功能齊全的GenAI創(chuàng)新沙箱。此外,GenAI平臺通過多達90%的加速審批流程,因為審查團隊可以快速驗證應(yīng)用程序是否使用了批準的共享服務(wù)。

實施這種獨特平臺需要紀律和時間,但從長遠來看,其在價值和速度方面的回報遠遠超過了投入,通常在部署幾個解決方案后即可實現(xiàn)盈虧平衡,這種基于平臺的做法對于加速創(chuàng)新、大規(guī)模運營、避免常見但致命的陷阱以及允許公司捕捉GenAI的承諾至關(guān)重要。

責(zé)任編輯:姜華 來源: 企業(yè)網(wǎng)D1Net
相關(guān)推薦

2023-12-26 17:07:56

GenAICIO

2012-09-05 11:09:15

SELinux操作系統(tǒng)

2017-10-17 09:21:06

2009-02-17 14:46:41

linux網(wǎng)卡無法激活

2016-09-23 11:08:35

前端Javascript模塊化

2010-01-15 18:46:08

C++程序代碼

2010-04-29 17:46:31

Oracle死鎖

2019-11-26 14:30:20

Spring循環(huán)依賴Java

2024-12-05 09:06:58

2023-07-18 16:05:00

IP地址

2009-09-21 17:10:14

struts Hibe

2021-10-20 20:27:55

MySQL死鎖并發(fā)

2021-11-28 06:55:05

多云云計算云備份

2011-08-29 10:34:00

網(wǎng)絡(luò)安全云安全云計算

2021-06-06 13:05:15

前端跨域CORS

2011-03-23 14:42:47

CPU過度消耗

2010-07-16 13:52:26

telnet漏洞

2023-10-30 18:35:47

MySQL主從延時

2017-07-20 07:30:16

大數(shù)據(jù)數(shù)據(jù)互聯(lián)網(wǎng)

2024-10-29 16:41:24

SpringBoot跨域Java
點贊
收藏

51CTO技術(shù)棧公眾號