本文探討了AI代理的五個(gè)要素：狹窄的上下文、簡單的工具、詳細(xì)的提示、適合用例的模型和集中管理。強(qiáng)調(diào)了Spring AI框架在簡化AI集成方面的作用，以及AI原生平臺(tái)在管理和擴(kuò)展AI應(yīng)用的重要性。

譯自：5 Factors for Predictable Autonomy With Agentic AI^[1]

作者：Brian Friedman, Jonathan Eyler-Werve

這是“交付 Agentic AI”系列的第二部分。 閱讀第 1 部分^[2]。

之前，我們探討了 AI 計(jì)劃失敗的原因，并描述了一個(gè)虛構(gòu)的、在全國范圍內(nèi)擁有連鎖店的汽車修理店，它即將開展其首個(gè) agentic AI 項(xiàng)目。我們虛構(gòu)的連鎖店希望加入已經(jīng)從其 AI 工作中看到投資回報(bào)率 (ROI) 的 5% 企業(yè)的行列，因此它已決定創(chuàng)建一個(gè)代理，該代理將自動(dòng)化一項(xiàng)商店經(jīng)理每周要花費(fèi)四個(gè)小時(shí)的任務(wù)。接下來，我們將深入研究以可預(yù)測的自主性運(yùn)行的 AI 代理的五個(gè)要素。

通過汽車修理店連鎖店的例子，我們將探索一種解決方案，該解決方案每年每個(gè)商店可以節(jié)省超過 200 小時(shí)的管理時(shí)間，并且可以在 12 周或更短的時(shí)間內(nèi)推出。我們將通過按時(shí)、按預(yù)算、按質(zhì)量發(fā)布具有以下特點(diǎn)的解決方案來堅(jiān)定地插上我們的投資回報(bào)率旗幟：

1. 狹窄的上下文

2. 簡單的工具

3. 詳細(xì)的提示

4. 適合用例的正確模型

5. 集中管理 AI 資產(chǎn)、連接和策略

狹窄的上下文

對于 agentic AI 來說，上下文就是一切。它定義了模型必須知道的所有為我們量身定制的內(nèi)容，才能回答問題。例如，一些國際公司可能會(huì)選擇按照其服務(wù)的所有國家/地區(qū)的最高法律標(biāo)準(zhǔn)運(yùn)營，以避免全面出現(xiàn)問題。詢問公司在特定國家/地區(qū)的代理應(yīng)該做什么，不應(yīng)僅依賴于普遍接受的地理知識(shí)；而應(yīng)依賴于給定司法管轄區(qū)的公共和內(nèi)部政策的組合。

在我們的汽車修理店連鎖店的場景中，上下文再狹窄不過了。我們對服務(wù)單感興趣。它們記錄了每一次送車、每一次取車、每一次執(zhí)行的服務(wù)以及收集到的調(diào)查回復(fù)。還有大量的其他信息，例如零件編號(hào)和服務(wù)代碼，但鑒于我們當(dāng)前的任務(wù)是將服務(wù)單中捕獲的調(diào)查數(shù)據(jù)轉(zhuǎn)換為可報(bào)告的數(shù)據(jù)源，因此其中很多信息都是無用的。

因此，我們希望描述盡可能少的字段供我們的 AI 代理篩選，因?yàn)槲覀兿Ｍ_地描述每個(gè)字段；在這種情況下，我們聘請 AI 代理不是為了他們的創(chuàng)造力。

簡單的工具

我們將在服務(wù)單系統(tǒng)中定義一個(gè)查詢，以獲取送車日期、取車日期、執(zhí)行的特定服務(wù)和調(diào)查回復(fù)。我們將允許我們的 AI 代理通過視圖或存儲(chǔ)過程訪問該查詢，并且我們將通過稱為工具的 AI 編程結(jié)構(gòu)公開它。

我們不會(huì)簡單地將模型釋放到我們的數(shù)據(jù)庫中，讓它“弄清楚我們需要什么”。我們將為它提供解決問題所需的確切數(shù)據(jù)形狀，并且我們將為它提供一種非常簡單的執(zhí)行方式：要么獲取在兩個(gè)特定日期之間更改為“已關(guān)閉”的所有內(nèi)容，要么獲取本周更改為“已關(guān)閉”的所有內(nèi)容。

我們將使用 Spring AI^[3] 和模型上下文協(xié)議 (MCP) 將我們的代理快速連接到我們的上下文中。Spring AI 將確保我們的代碼允許模型交互的靈活性，而 MCP 將確保在需要時(shí)調(diào)用我們的工具，并且當(dāng)模型考慮我們用戶的提示時(shí)，我們的上下文會(huì)流入模型。Spring AI 的卓越之處在于，我上面描述的大部分內(nèi)容都是使用人類語言而不是代碼實(shí)現(xiàn)的。

工具是開發(fā)人員提供的代碼塊，AI 可以使用它們。開發(fā)人員使用簡單的英語描述行為，然后 LLM 使用這些描述來了解如何使用該工具。這確實(shí)是一種卓越的范式轉(zhuǎn)變，開發(fā)人員 90% 的編碼工作都被幫助 LLM 正確使用代碼的文檔所取代，只剩下 10% 的剩余代碼需要實(shí)際編寫。

SpringAI 代碼塊

^[4]

Spring AI 混合了自然語言和編程接口。（來源：Broadcom 旗下的 VMware）

我再怎么強(qiáng)調(diào)上面代碼片段所展示的概念對軟件開發(fā)來說有多么具有革命性都不為過。工具描述向其使用者（AI）描述了如何使用它以及如何理解其響應(yīng)。早在 2023 年，我們就不得不編寫數(shù)十行（如果不是數(shù)百行）代碼來協(xié)調(diào)兩個(gè)不相關(guān)系統(tǒng)之間的交互。

僅僅不到兩年后的今天，我們就可以使用自然語言來指示 AI 如何為我們協(xié)調(diào)這些交互。我們所要做的就是提供在調(diào)用工具時(shí)在后臺(tái)調(diào)用的函數(shù)。但是，必須將所有這些函數(shù)調(diào)用拼接在一起才能產(chǎn)生有意義的結(jié)果，這就是代理及其系統(tǒng)提示成為粘合劑的地方。

詳細(xì)的提示

當(dāng)實(shí)例化代理時(shí)（當(dāng)托管代理的服務(wù)啟動(dòng)時(shí)），模型首先想知道的是此代理的系統(tǒng)提示是什么。換句話說，該代理的任務(wù)和目的是什么？

在系統(tǒng)提示中，我們確切地告訴代理它的工作是什么。我們可以確切地告訴我們的代理它可以執(zhí)行哪些任務(wù)，甚至在什么情況下可以執(zhí)行。也許在營業(yè)時(shí)間內(nèi)啟動(dòng)的任務(wù)應(yīng)該安排在非營業(yè)時(shí)間窗口進(jìn)行處理。

這些事情可以非?？焖俚赜善胀ㄈ撕姹旱教崾局?。無需編碼。系統(tǒng)提示是簡單的英語，就像我們審查過的工具描述一樣。以下代碼段來自用于配置我們的 Spring 應(yīng)用程序的屬性文件：

系統(tǒng)提示

^[5]

驅(qū)動(dòng)受約束的客戶滿意度數(shù)據(jù)分析師代理行為的系統(tǒng)提示。（來源：Broadcom 旗下的 VMware）

想想這里消除了多少行代碼，這些代碼用于根據(jù)一天中的時(shí)間和一周中的哪一天來確定是安排進(jìn)程還是立即運(yùn)行它。這不僅僅是該邏輯的實(shí)現(xiàn)，而是它的封裝和集成，以便它可以與其他服務(wù)交互。只要存在用于確定當(dāng)前日期的工具和用于安排任務(wù)的另一個(gè)工具，就可以通過在代理提示中描述來完全發(fā)明這種能力。

通過非常明確地告訴我們的代理應(yīng)該做什么以及何時(shí)使用它擁有的工具，我們可以開始獲得我們期望從 AI 獲得的 可預(yù)測的自主性的回報(bào)。在這種情況下，回報(bào)的形式是每個(gè)商店每年超過 200 小時(shí)的經(jīng)理工作時(shí)間。對于我們的第一槍來說，還不錯(cuò)。

適合用例的正確模型

簡化的模型選擇決策樹

^[6]

簡化的模型選擇決策樹（僅用于說明目的）。（來源：Broadcom 旗下的 VMware）

誠然，汽車修理店的例子并沒有為圍繞模型選擇的故事情節(jié)提供太多內(nèi)容。每個(gè)企業(yè)首先也是最重要的問題應(yīng)該是：我們是否愿意使用公共模型？考慮到我們必須將我們的狹窄上下文發(fā)送到這些模型；每次我們詢問有關(guān)服務(wù)單分組的問題時(shí)，我們都必須通過線路將數(shù)據(jù)發(fā)送到模型^[7]進(jìn)行評估。也許我們的汽車連鎖店不太關(guān)心當(dāng)前數(shù)據(jù)集的內(nèi)容，但隨著時(shí)間的推移，私有 AI 的重要性可能會(huì)增加。

這就是為什么我們將我們的模型交互包裝在像 Spring AI 這樣的框架中——更改模型提供商的業(yè)務(wù)決策不應(yīng)需要對解決方案進(jìn)行大規(guī)模更改。但是，如果沒有像 Spring AI 這樣的層介于開發(fā)人員和模型之間，就會(huì)發(fā)生這種情況。

如果我們要處理調(diào)度而不是調(diào)查數(shù)據(jù)，模型選擇將會(huì)有更多有趣的故事情節(jié)。調(diào)度需要推理，因此推理模型將比通用 LLM 有效得多。但是，當(dāng)要求 LLM 使用在為該任務(wù)創(chuàng)建的視圖中清晰且容易獲得的字段以給定格式準(zhǔn)備批處理文件時(shí)，不需要太多精明才能做出正確的決定。只要 MCP 在他們的技巧包中，任何主要的公共或私有參與者都可以輕松處理該用例。

第二天是最長的一天

早些時(shí)候，我提到了 Spring AI 以隔離開發(fā)人員^[8]，使其免受與一個(gè)或多個(gè)模型交互的復(fù)雜性影響。與模型交互只是我們在運(yùn)營化這項(xiàng)首次 agentic 工作時(shí)必須滿足的需求的冰山一角。正如 Tanzu 的 AI Native 報(bào)告詳細(xì)揭示的那樣（此處^[9]提供），成功運(yùn)營 AI 需要完成的工作不勝枚舉。我們需要能夠在許多方面應(yīng)用策略：允許哪些模型以及允許哪些團(tuán)隊(duì)？如何頒發(fā)令牌？如何處理配額和退款？如何輪換工具和 MCP 服務(wù)器的憑據(jù)？如何限制對 MCP 服務(wù)的訪問，使其僅限于部分使用者？我們?nèi)绾喂芾聿渴鸩⒆C明哪些版本的哪些模型可以安全使用？

我們需要完成所有這些以及更多的事情，并且我們需要以可重復(fù)的方式，為多個(gè)環(huán)境完成這些事情，然后才能看到生產(chǎn)的光芒。

能夠管理上述內(nèi)容非常重要，因?yàn)殡S著事物的演變，我們的系統(tǒng)將會(huì)是什么樣子。AI 代理在底層技術(shù)和部署架構(gòu)方面與微服務(wù)具有很大的對稱性，但粒度更高。這些服務(wù)將更小，并且它們的任務(wù)將更加離散；微服務(wù)將被納米服務(wù)所取代。我們的客戶滿意度分析代理就是一個(gè)納米服務(wù)的例子。我們將保持該服務(wù)的規(guī)模較小，并專注于一件事，以便它以可預(yù)測的方式運(yùn)行。

在我們的虛構(gòu)汽車修理店的未來，將會(huì)有數(shù)百個(gè)（如果不是數(shù)千個(gè)）像這樣的納米服務(wù)，每個(gè)納米服務(wù)都具有一組狹窄的職責(zé)和工具。我們服務(wù)的粒度的權(quán)衡將是其數(shù)量的增加。AI 原生解決方案從想法到生產(chǎn)的速度將既令人震驚又讓人不知所措。如果我們想以可持續(xù)的方式大規(guī)模地做到這一點(diǎn)，我們將需要防護(hù)措施，而這正是 AInative 平臺(tái)所提供的。

如果沒有平臺(tái)來管理所有這些，第二天就會(huì)變成第二個(gè)月，然后變成第二年，然后你才有機(jī)會(huì)站穩(wěn)腳跟。麻省理工學(xué)院的論文，批評企業(yè) AI 部署，^[10] 對此進(jìn)行了量化。對于實(shí)際投入生產(chǎn)的 AI 工作，其中 67% 的工作使用供應(yīng)商提供的 AI 資產(chǎn)管理解決方案。只有 22% 的成功系統(tǒng)是他們?yōu)楣芾?AI 集成問題而創(chuàng)建的。同樣，獨(dú)立研究^[11] 發(fā)現(xiàn)，大多數(shù)受訪者 (82%) 認(rèn)為 AI 平臺(tái)對于擴(kuò)展 AI 來說很重要或必不可少。

圖表顯示，近一半的 IT 領(lǐng)導(dǎo)者表示 AI 應(yīng)用程序平臺(tái)對于擴(kuò)展 AI 至關(guān)重要

^[12]

成功地設(shè)置自己以大規(guī)模交付 AI 應(yīng)用程序

Agentic AI 是一件強(qiáng)大的事情，但陷阱很多。為了快速、安全地行動(dòng)，同時(shí)交付價(jià)值，至關(guān)重要的是我們要減少要求 AI 為我們解決的問題空間。通過提供找到解決方案所需的 足夠多 的信息，并通過簡單的工具為我們的代理提供 足夠多 的能力，我們可以最大限度地減少幻覺毒害我們的響應(yīng)的機(jī)會(huì)。

同樣，通過通過提示為每個(gè)代理制作職位描述，我們可以約束我們的代理的行為，限制他們可以訪問的工具，并提供對其工作績效的特定期望。

我們還了解到，并非所有模型都是平等創(chuàng)建的，并且用例應(yīng)決定我們選擇的模型。但也許最關(guān)鍵的是，我們已經(jīng)了解到，當(dāng)我們使用 AI 原生平臺(tái)來管理這些問題而不是嘗試推出我們自己的 AI 集成平臺(tái)時(shí)，我們可以將成功部署的幾率提高一倍。

引用鏈接

[1] 5 Factors for Predictable Autonomy With Agentic AI:https://thenewstack.io/5-factors-for-predictable-autonomy-with-agentic-ai/
[2]閱讀第 1 部分:https://thenewstack.io/how-to-build-agentic-ai-that-ships/
[3]Spring AI:https://thenewstack.io/production-worthy-ai-with-spring-ai-1-0/
[4]:https://cdn.thenewstack.io/media/2025/09/b4ab3435-springai_code.png
[5]:https://cdn.thenewstack.io/media/2025/09/bfd8871f-system-prompt.png
[6]:https://cdn.thenewstack.io/media/2025/09/1aa13866-simplified-model.png
[7]數(shù)據(jù)發(fā)送到模型:https://thenewstack.io/5-useful-datasets-for-training-multimodal-ai-models/
[8]Spring AI 以隔離開發(fā)人員:https://thenewstack.io/spring-cloud-gateway-the-swiss-army-knife-of-cloud-development/
[9]此處:https://go-vmware.broadcom.com/from-cloud-native-to-ai-native
[10]麻省理工學(xué)院的論文，批評企業(yè) AI 部署，:https://www.npr.org/2025/08/23/nx-s1-5509946/bubbling-questions-about-the-limitations-of-ai
[11]獨(dú)立研究:https://go-vmware.broadcom.com/from-cloud-native-to-ai-native
[12]:https://cdn.thenewstack.io/media/2025/09/5a895ca6-ai-app-platform-importance.png