編輯｜言征

出品 | 51CTO技術(shù)棧（微信號(hào)：blog51cto）

現(xiàn)代企業(yè)中有一個(gè)無(wú)名英雄：工作流程。它有時(shí)被稱為規(guī)則引擎、流程流、單狀態(tài)機(jī)或軟件定義的工作流程。在用戶界面（UI）中，它是一個(gè)“向?qū)А?。開發(fā)者通常（有些輕蔑地）稱它為“業(yè)務(wù)邏輯”。

各位這里不妨花點(diǎn)時(shí)間來(lái)欣賞這個(gè)無(wú)名英雄的獨(dú)特威嚴(yán)，因?yàn)槲覀兗磳压韫戎耸挚蔁岬年P(guān)注之光投向它的門檻：AI代理。

關(guān)于AI、大型語(yǔ)言模型（LLMs）和代理應(yīng)用程序已經(jīng)有很多的討論，很難相信我們中有多少人（包括我）仍然對(duì)它們感到困惑。但我們有一個(gè)很好的理由：AI代理是我們安靜業(yè)務(wù)英雄——工作流程的實(shí)施細(xì)節(jié)。

1.代理是方式工作流是內(nèi)容

這個(gè)區(qū)別很關(guān)鍵，因?yàn)锳I代理可以被定義得相當(dāng)直接：你的業(yè)務(wù)應(yīng)用程序在整個(gè)工作流程中使用基礎(chǔ)模型。我們?cè)贏nthropic的朋友區(qū)分代理工作流程和代理，其中代理可以循環(huán)和分支，并且可以某種程度上自主。根據(jù)我的經(jīng)驗(yàn)，業(yè)務(wù)工作流程也這樣做；這是一個(gè)模糊的界限。

2.讓我們談?wù)凙I如何改變工作流應(yīng)用

一個(gè)代理應(yīng)用程序使用基礎(chǔ)模型來(lái)識(shí)別在工作流程中進(jìn)行干預(yù)的位置。例如：基礎(chǔ)模型可以是出色的分類器，用更靈活、開箱即用且性能更高的模型取代費(fèi)盡心思編碼的規(guī)則集或監(jiān)督學(xué)習(xí)模型。

指向一個(gè)基礎(chǔ)模型到一個(gè)電子郵件收件箱或賬戶摘要，并開始詢問(wèn)：當(dāng)前情況是應(yīng)用程序知道如何處理的嗎？根據(jù)非技術(shù)業(yè)務(wù)專家編寫的規(guī)則，這個(gè)案例應(yīng)該升級(jí)嗎？這個(gè)項(xiàng)目應(yīng)該進(jìn)入專業(yè)質(zhì)量控制（QC）流程，還是默認(rèn)的QC流程？這封電子郵件是垃圾郵件嗎？騷擾？銷售機(jī)會(huì)？客戶流失風(fēng)險(xiǎn)？

這里的模型輸出是“是”或“否”，這比聊天機(jī)器人呈現(xiàn)的準(zhǔn)確性風(fēng)險(xiǎn)要小得多。這是你現(xiàn)在就可以發(fā)貨的東西，安全且結(jié)果可衡量。

有效、廉價(jià)的自然語(yǔ)言分類器的突然出現(xiàn)將加速許多企業(yè)應(yīng)用程序，因?yàn)闃I(yè)務(wù)需求與編碼到軟件中的規(guī)則之間的距離目前是財(cái)富500強(qiáng)公司中人類痛苦的主要來(lái)源。事情被聽錯(cuò)。事情衰敗并失去同步。技術(shù)限制向上游流動(dòng)并被編碼到業(yè)務(wù)流程中。

代理應(yīng)用程序彌合了我們的意圖與我們的軟件之間的這一差距，因?yàn)榇蟛糠謽I(yè)務(wù)邏輯可以用自然語(yǔ)言表示，邀請(qǐng)新的參與者和貢獻(xiàn)者進(jìn)入軟件開發(fā)過(guò)程。這與1985年左右電子表格的到來(lái)和2005年左右協(xié)作電子表格的到來(lái)一樣，是企業(yè)內(nèi)部權(quán)力的重大轉(zhuǎn)變。

企業(yè)中到處都是小而昂貴的工作流程故障，AI代理為應(yīng)用開發(fā)者提供了一套強(qiáng)大的工具來(lái)應(yīng)對(duì)它們。

但代理對(duì)工作流程的意義不僅僅是分類器！它們還可以開始評(píng)估輸出（問(wèn)題真的解決了嗎？），作為文本生成器（這里是將系統(tǒng)事件日志轉(zhuǎn)換為狀態(tài)更新），有時(shí)甚至通過(guò)執(zhí)行功能（預(yù)訂會(huì)議、更新庫(kù)存、派遣卡車）來(lái)啟動(dòng)行動(dòng)。

所有這些都可以通過(guò)傳統(tǒng)的業(yè)務(wù)軟件和人工勞動(dòng)隊(duì)列來(lái)完成，但通常正確執(zhí)行的成本非常高。

低代碼時(shí)刻和高代碼未來(lái) AI正在經(jīng)歷一個(gè)消費(fèi)者聊天機(jī)器人文化時(shí)刻，并且在代碼助手方面也取得了一些進(jìn)展。我們尚未看到——可能今年會(huì)發(fā)生——AI從軟件和其他一些小眾領(lǐng)域擴(kuò)展到其他商業(yè)領(lǐng)域，特別是那些似乎在企業(yè)內(nèi)部產(chǎn)生最多定制應(yīng)用程序的運(yùn)營(yíng)層。

根據(jù)其財(cái)務(wù)披露，第一家看到AI投資正回報(bào)的公司不是一個(gè)純技術(shù)流玩家。它是一個(gè)運(yùn)營(yíng)軟件即服務(wù)（SaaS）提供商，ServiceNow。它與Workday和Salesforce一起，提供了一個(gè)低代碼橋梁，連接業(yè)務(wù)意圖（由非技術(shù)主題專家記錄）和軟件自動(dòng)化。AI正在提供幫助。

向這些率先行動(dòng)并使這項(xiàng)工作取得成果的人們致敬。我認(rèn)為這將遵循大多數(shù)低代碼解決方案的模式，它們承諾賦予業(yè)務(wù)用戶權(quán)力并減少IT支出，但對(duì)平臺(tái)供應(yīng)商來(lái)說(shuō)有一個(gè)非微不足道的障礙。

我認(rèn)為下一波將是這些工作流程引擎的高代碼復(fù)制，因?yàn)閷?shí)施并不難。開放的基礎(chǔ)模型和現(xiàn)有框架（包括我的團(tuán)隊(duì)維護(hù)的Spring AI）可以讓團(tuán)隊(duì)在幾天內(nèi)啟動(dòng)。這可能看起來(lái)像一個(gè)大型GUI平臺(tái)，用于業(yè)務(wù)任務(wù)工作流程，但更快、更安全的路徑將是找到小的、可發(fā)貨的干預(yù)點(diǎn)……無(wú)處不在。今天這看起來(lái)比幾年前輕松得多，也快得多。

3.一個(gè)假設(shè)的代理應(yīng)用程序：比你想象的要小

想象一個(gè)客戶購(gòu)買了一臺(tái)室內(nèi)自行車訓(xùn)練器，它發(fā)貨了。管理自行車的軟件無(wú)法連接?？蛻粢笸素?，我們就開始郵寄自行車。但如果這是一個(gè)已知問(wèn)題，并且有可用的解決方案呢？更新一些固件，去騎行。

你的人類工人在支持過(guò)程中可能會(huì)識(shí)別出這一點(diǎn)，但并不完美。很難每次都知道每個(gè)問(wèn)題。

所以我們構(gòu)建了一個(gè)小型應(yīng)用程序來(lái)尋找這個(gè)問(wèn)題并修復(fù)它。首先，我們構(gòu)建一個(gè)監(jiān)聽器，標(biāo)記這個(gè)已知問(wèn)題的可能事件。如果它檢測(cè)到一個(gè)案例，它會(huì)在支持系統(tǒng)中插入一條消息，并附上解決方案的鏈接。足夠安全，現(xiàn)在就可以嘗試，結(jié)果是可衡量的。一個(gè)代理可能會(huì)更有主張，并且有良好的記錄。我們能否直接向客戶發(fā)送建議的解決方案？我們能否暫停退貨，除非人類支持確認(rèn)問(wèn)題？代理能否開始更密切地識(shí)別可能的問(wèn)題，鏈接到特定的固件版本或以其他方式改善對(duì)客戶的信息傳遞？

企業(yè)中到處都是小而昂貴的工作流程故障，AI代理為應(yīng)用開發(fā)者提供了一套強(qiáng)大的工具來(lái)應(yīng)對(duì)它們。

你需要一個(gè)平臺(tái) 那么我們?nèi)绾胃咏粋€(gè)世界，讓你的應(yīng)用開發(fā)者能夠在整個(gè)業(yè)務(wù)中部署小型助手呢？

你可以從問(wèn)為什么他們不能快速部署小型實(shí)驗(yàn)開始，而不需要大型語(yǔ)言模型。這通?？雌饋?lái)像是開發(fā)體驗(yàn)故事：自助服務(wù)配置、文檔齊全的黃金路徑到生產(chǎn)、強(qiáng)大的測(cè)試自動(dòng)化，以及為安全和法律監(jiān)督預(yù)先批準(zhǔn)的通道。如果應(yīng)用團(tuán)隊(duì)被授權(quán)進(jìn)行小型、持續(xù)的改進(jìn)，并且外部依賴最小，事情就會(huì)進(jìn)展得很快。

4.我們?nèi)绾螌⒋藨?yīng)用于我們的代理應(yīng)用未來(lái)？

首先，我們需要將這種自助模式和開發(fā)者授權(quán)圍繞我們的新好朋友，基礎(chǔ)模型。我們正在看到數(shù)據(jù)科學(xué)或AI工作組和全棧應(yīng)用開發(fā)團(tuán)隊(duì)之間出現(xiàn)能力分離。在我看來(lái)，這是健康的角色專業(yè)化：有模型提供者，有機(jī)器學(xué)習(xí)（ML）操作模型基礎(chǔ)設(shè)施團(tuán)隊(duì)，以及消耗這些資源的應(yīng)用程序。前兩者可能是作為服務(wù)的外部供應(yīng)商；應(yīng)用團(tuán)隊(duì)不會(huì)是。

為了讓模型提供者和應(yīng)用團(tuán)隊(duì)之間的這種抽象工作，你需要處理反饋、可觀察性、版本控制和其他問(wèn)題；至少需要一個(gè)正式的API或至少一個(gè)好的工作協(xié)議。你不希望你的每個(gè)應(yīng)用團(tuán)隊(duì)孤立解決這個(gè)問(wèn)題；你可能需要一個(gè)AI框架，但你不需要50個(gè)競(jìng)爭(zhēng)的、資源不足的AI框架。

我也認(rèn)為，像AI網(wǎng)關(guān)這樣的中間件平臺(tái)也有作用，它促進(jìn)了整個(gè)組織中的配置、可觀察性、模型反饋和隱私防護(hù)措施。

5.未來(lái)：從微服務(wù)到輕量工作流

如果配置和平臺(tái)化得到解決，我們正朝著一個(gè)世界前進(jìn)，我們有很多非常薄的包裝器圍繞著許多以前被鎖定的企業(yè)數(shù)據(jù)，代理應(yīng)用程序可以巧妙地訪問(wèn)它們。小型解決方案開始在各處開花。

代碼塊就是一個(gè)非常輕量級(jí)工具包裝器的示例，具有自然語(yǔ)言指令，說(shuō)明基礎(chǔ)模型如何與之交互。放大查看 一個(gè)非常輕量級(jí)工具包裝器的示例，具有自然語(yǔ)言指令，說(shuō)明基礎(chǔ)模型如何與之交互。

這與我們擁有的云原生架構(gòu)和通過(guò)API通信的微服務(wù)的故事相同。新的東西是努力的規(guī)模；我們正在從微到Nano轉(zhuǎn)移。非常薄的包裝器，如模型上下文協(xié)議，讓基礎(chǔ)模型請(qǐng)求數(shù)據(jù)并執(zhí)行操作。非常輕量的工作流應(yīng)用程序讓業(yè)務(wù)用戶用自然語(yǔ)言解釋應(yīng)該發(fā)生什么。平臺(tái)按需提供安全性、安全性和適當(dāng)?shù)哪Ｐ?。幾天?nèi)就可以啟動(dòng)它，用戶可以快速迭代直到它工作。

這里的要點(diǎn)是，代理應(yīng)用程序革命不是一個(gè)將改變尖端科技公司的故事。這是一個(gè)現(xiàn)代化故事；一個(gè)用你已有的團(tuán)隊(duì)解決現(xiàn)有企業(yè)中的小問(wèn)題的機(jī)會(huì)。

本文轉(zhuǎn)載自??51CTO技術(shù)棧??，作者：言征