Agent實(shí)踐之如何在京東LLM落地 原創(chuàng)
大模型缺少在最少的人類(lèi)監(jiān)督下自主行動(dòng)的能力，以及在復(fù)雜環(huán)境中適應(yīng)和執(zhí)行目標(biāo)的能力，而AI Agent不僅能自動(dòng)執(zhí)行任務(wù)，還具有一定程度的代理能力。AI Agent被認(rèn)為是走向通用人工智能(AGI)的關(guān)鍵路徑之一。
根據(jù)用戶群體的不同，AI Agent可分為面向C端用戶和B端企業(yè)這兩類(lèi)：
面向C端用戶，AI Agent的定位是“個(gè)人助理”，提供個(gè)性化的日常任務(wù)輔助和智能交互服務(wù)。通過(guò)學(xué)習(xí)用戶偏好來(lái)定制服務(wù)，如日程管理、信息搜索和娛樂(lè)互動(dòng)，同時(shí)注重用戶隱私保護(hù)，確保數(shù)據(jù)安全。
面向B端企業(yè)，AI Agent的定位是“數(shù)字員工”，專(zhuān)注于自動(dòng)化工作流程、數(shù)據(jù)分析和客戶服務(wù)等。通過(guò)提高效率、輔助決策、風(fēng)險(xiǎn)管理和跨部門(mén)協(xié)作來(lái)增強(qiáng)企業(yè)運(yùn)營(yíng)。AI Agent的架構(gòu)可以與現(xiàn)有系統(tǒng)集成，具有高度的可擴(kuò)展性和成本效益，能夠持續(xù)優(yōu)化以適應(yīng)企業(yè)需求。
無(wú)論是作為個(gè)人助理還是數(shù)字員工，AI Agent的核心價(jià)值都在于提高效率、降低成本、提供決策支持，并在與用戶的互動(dòng)中創(chuàng)造更好的體驗(yàn)。
當(dāng)前，AI Agent的落地應(yīng)用仍處于初期階段，企業(yè)在實(shí)踐過(guò)程中會(huì)遇到專(zhuān)業(yè)性、協(xié)作性、可靠性、安全性等來(lái)自多方面的挑戰(zhàn)。
隨著技術(shù)的進(jìn)步，AI Agent的能力將越來(lái)越強(qiáng)大，能夠承擔(dān)更多的角色和責(zé)任，但當(dāng)前企業(yè)在落地AI Agent時(shí)，應(yīng)采取如下策略：
第一，將AI Agent作為輔助，增強(qiáng)現(xiàn)有工具，而不是獨(dú)立自主的提供服務(wù);
第二，采用人機(jī)協(xié)同(human-in-the-loop)的運(yùn)作方式，AI Agent處理大量數(shù)據(jù)和執(zhí)行重復(fù)性任務(wù)，而人類(lèi)則負(fù)責(zé)決策和處理復(fù)雜或模糊的情況;
第三，建立清晰的流程防護(hù)欄，確保AI Agent實(shí)施的安全和可靠，圍繞自主權(quán)、責(zé)任、穩(wěn)健的安全措施和數(shù)據(jù)隱私協(xié)議制定法律和道德準(zhǔn)則。同時(shí)，確保集成先進(jìn)的安全協(xié)議，例如端到端加密和多因素身份驗(yàn)證;
第四，避免對(duì)AI Agent的過(guò)度預(yù)期，明確AI Agent的適用場(chǎng)景。
京東LLM based Agent應(yīng)用，比較典型的是京粉智能推廣助手機(jī)器人。
其重點(diǎn)主要是三個(gè)部分：
Agent架構(gòu)：核心大模型識(shí)別、可擴(kuò)展且安全可控的架構(gòu)
記憶：大模型對(duì)用戶的理解
快捷回復(fù)：用戶意圖路徑規(guī)劃
具體實(shí)踐同樣是三步：
實(shí)戰(zhàn)1：AI Agent對(duì)應(yīng)技術(shù)方案主要是工具識(shí)別、Agent實(shí)現(xiàn)、合理的架構(gòu)
實(shí)戰(zhàn)2：記憶對(duì)應(yīng)技術(shù)方案主要是短期記憶、長(zhǎng)期記憶、垂類(lèi)領(lǐng)域知識(shí)
實(shí)戰(zhàn)3：快捷回復(fù)對(duì)應(yīng)實(shí)現(xiàn)方案主要是通過(guò)歷史信息借助大模型續(xù)寫(xiě)、結(jié)合應(yīng)用功能預(yù)設(shè)問(wèn)題、根據(jù)應(yīng)用業(yè)務(wù)目標(biāo)規(guī)劃用戶使用路徑圖。
根據(jù)京東的整體實(shí)踐，通過(guò)對(duì)AI Agent+工具+memory+快捷回復(fù)可以解決通用大模型應(yīng)用的常見(jiàn)問(wèn)題。
本文轉(zhuǎn)載自公眾號(hào)數(shù)字化助推器 作者：天涯咫尺TGH
