構(gòu)建AI智能體的過程，已經(jīng)被像LangChain、SpringAIAlibaba等開發(fā)框架大大簡化了，然后這些框架往往隱藏了驅(qū)動AI智能體運行的底層邏輯，比如：ReAct（ReasoningandActing），讓大模型（LLM）思考問題，并使用工具對任務(wù)采取行動。但很多時候，僅依賴預(yù)包裝的庫而不了解它們的內(nèi)部工作原理，可能會導(dǎo)致困惑。下面的例子就展示了AI智能體在產(chǎn)生回應(yīng)之前，會經(jīng)歷一系列的思考活動。在本文中，我們將通過深入剖析ReAct架構(gòu)設(shè)計模式，...

MCP是AI應(yīng)用與能力（tools、prompts、resources）之間的通用連接器，類似于USBC為電子設(shè)備之間的連接提供了標準化接口。MCP把原來獲取數(shù)據(jù)的M×N集成問題，通過統(tǒng)一、標準化的接口打破了這種模式，優(yōu)化為M+N集成問題，大大簡化了架構(gòu)設(shè)計和提升了效率。在企業(yè)級實際落地中，MCP有9種常見的架構(gòu)設(shè)計模式，下文我們詳細剖析之。一、MCP9種架構(gòu)設(shè)計模式1、架構(gòu)設(shè)計模式一：完全本地的MCPClientMCPClient是AI應(yīng)用（比如：Cursor）中...

多年來，我們一直通過SELECT–FROM–WHERE這種格式與數(shù)據(jù)庫進行交流，從簡單的報表生成到復(fù)雜的財務(wù)分析，再到用戶行為的查詢，SQL已經(jīng)成為我們與數(shù)據(jù)庫溝通的默認語言。有趣的是，即使是那些最初聲稱要顛覆SQL的NoSQL數(shù)據(jù)庫，最終也紛紛引入了對SQL的支持。但是，僅僅因為SQL支持一直如此，就意味著它永遠正確嗎？據(jù)Gartner的預(yù)測，到了2026年，大多數(shù)企業(yè)將會優(yōu)先考慮使用自然語言作為數(shù)據(jù)庫查詢的接口，SQL將從一個必備技能...

多智能體系統(tǒng)（MutiAgents）是能夠自己思考、計劃、找出相關(guān)信息來源并從中提取信息、采取行動，甚至在出錯時還能自我糾正的自動系統(tǒng)。OpenAI推出了Swarm開源框架，用來以一種非常靈活的方式來管理和協(xié)調(diào)多智能體系統(tǒng)。本文我們基于OpenAI推出的Swarm開源框架，來實現(xiàn)多智能體系統(tǒng)。內(nèi)容包括：多智能體案例架構(gòu)設(shè)計；多智能體案例代碼級實現(xiàn)。下文我們詳細剖析之。1、多智能體案例架構(gòu)設(shè)計今天，我們來做個實際的操作演示。我們...

RAG（檢索增強生成）是企業(yè)AI大模型應(yīng)用落地的主要應(yīng)用形態(tài)之一，特別是在智能問答、報告生成、內(nèi)容審核、Text2SQL、流程自動化和AI編程等領(lǐng)域大規(guī)模應(yīng)用和落地RAG架構(gòu)。圖片從技術(shù)本質(zhì)來分析，RAG架構(gòu)設(shè)計是由兩部分構(gòu)成：數(shù)據(jù)工程和信息抽取。其中數(shù)據(jù)工程是最重要的部分，它的目的是把多模態(tài)的數(shù)據(jù)轉(zhuǎn)化為結(jié)構(gòu)化的知識。數(shù)據(jù)工程在優(yōu)化RAG效果過程中至關(guān)重要，數(shù)據(jù)工程質(zhì)量直接決定了最終的檢索和生成效果。無論采用何種文檔...

RAG（檢索增強生成）是企業(yè)AI大模型應(yīng)用落地的主要應(yīng)用形態(tài)之一，特別是在智能問答、報告生成、內(nèi)容審核、Text2SQL、流程自動化和AI編程等領(lǐng)域大規(guī)模應(yīng)用和落地RAG架構(gòu)。從技術(shù)本質(zhì)來分析，RAG架構(gòu)設(shè)計是由兩部分構(gòu)成：數(shù)據(jù)工程和信息抽取。其中數(shù)據(jù)工程是最重要的部分，數(shù)據(jù)工程的最重要的工作之一是對文檔進行分塊（Chunking）。因為要處理的文檔可能會相當(dāng)大，所以第一步還包括“分塊”，就是把一個大文件分成更小的、更容易...

大語言模型（LLM）在理解和生成連貫對話方面取得了顯著成就。但是，它們存在一個內(nèi)在的“記憶缺陷”，即它們擁有的上下文窗口是有限的，這嚴重限制了它們在多輪次、多會話的長期交互中維持一致性的能力。當(dāng)對話內(nèi)容超出了上下文長度時，LLM可能會像一個“健忘”的伙伴一樣，忘記用戶的喜好、重復(fù)提問，甚至與之前確認的事實相沖突。設(shè)想這樣一個場景：你告訴一個AI助手你是一個素食者，不食用乳制品。然而，幾天后當(dāng)你向它詢問...

構(gòu)建具備自主規(guī)劃、執(zhí)行以及適應(yīng)復(fù)雜任務(wù)能力的AI智能體，關(guān)鍵在于其“思考”能力。AI智能體思考框架的出現(xiàn)，正是為了賦予AI智能體結(jié)構(gòu)化的推理與決策能力。這些框架為AI智能體提供了一套完整的方法論，指導(dǎo)其如何理解目標、分解任務(wù)、運用工具、處理信息，并依據(jù)環(huán)境反饋來調(diào)整自身行為。一個優(yōu)秀的思考框架，能夠顯著增強AI智能體的魯棒性、提升其效率以及拓展解決問題的泛化能力。接下來，我們將深入探討3種主流的AI智能體思...

本文首先分享AI智能體的3階段架構(gòu)設(shè)計演進：LLMAgent、AIAgent、MutiAgent。然后對比剖析AI智能體的3大關(guān)鍵技術(shù)：FunctionCalling、MCP、A2A。下文詳細剖析之。1、AI智能體3階段架構(gòu)設(shè)計演進AI智能體架構(gòu)設(shè)計階段一、LLMAgent自2023年大模型興起后，AI智能體作為新興事物迅速激發(fā)了大眾的濃厚興趣。鑒于泛娛樂場景最能吸引C端用戶的關(guān)注，這一階段的智能體多以社交和娛樂為切入點。借助提示詞工程為智能體注入靈魂（即設(shè)定人設(shè)...

最近關(guān)于AI大模型應(yīng)用落地到底選用單智能體架構(gòu)還是多智能體架構(gòu)？業(yè)界爭論很多，特別是Anthropic公司和Devin公司分別主張和使用了不同的智能體架構(gòu)設(shè)計路線，Anthropic公司認為多智能體架構(gòu)才是AI大模型應(yīng)用擴展性能的關(guān)鍵，詳見《??性能提升90%，Anthropic首次公開多智能體架構(gòu)構(gòu)建全流程????》，而Devin公司認為：“Don'tBuildMultiAgents.”，并直接批評OpenAI和微軟的開發(fā)框架Sarm和AutoGen方向搞錯了，詳見《???...

在構(gòu)建多AI智能體系統(tǒng)架構(gòu)時，許多現(xiàn)有的框架并不理想，通過我們自己的實踐經(jīng)驗和試錯，提出了一些構(gòu)建AI智能體的原則，并解釋了為什么一些看似吸引人的想法在實際中可能并不好用。在這篇文章中，我將分享以下內(nèi)容：上下文工程的原則構(gòu)建長期運行AI智能體的架構(gòu)設(shè)計應(yīng)用這些架構(gòu)設(shè)計原則下文詳細剖析之。1、上下文工程的原則我們先來談?wù)勔韵略瓌t：共享上下文行為隱含決策為什么需要原則？HTML于1993年問世。2013年，F(xiàn)acebook向...

Anthropic6月13日分享了關(guān)于構(gòu)建多智能體系統(tǒng)的架構(gòu)設(shè)計，幾乎是毫無保留地展示了如何從零開始打造一個強大的多智能體（MultiAgent）DeepResearch系統(tǒng)，也就是Claude目前內(nèi)置的Research功能。整個內(nèi)容干貨滿滿，涵蓋了架構(gòu)設(shè)計、Prompt提示詞工程、效果評估，以及在生產(chǎn)環(huán)境中可能遇到的各種問題，可以說毫無保留。下文對要點詳細剖析。1、多智能體系統(tǒng)的優(yōu)勢為什么不用單個強大的AI智能體，而是要搞復(fù)雜的“多智能體”架構(gòu)呢？...

當(dāng)下，多數(shù)AI助手和開發(fā)工具各自獨立運行，一旦會話結(jié)束，上下文就會消失，這嚴重影響了使用體驗和效率。而OpenMemoryMCP來了，它是一款開源工具，能夠解決AI工具記憶的痛點，并且實現(xiàn)不同工具之間共享上下文信息。比如，你可以通過OpenMemoryMCP用Claude規(guī)劃路線圖，再用Cursor執(zhí)行任務(wù)，兩個工具之間可以共享上下文信息，讓數(shù)據(jù)得到延續(xù)。OpenMemoryMCP是一個由Mem0提供支持的本地內(nèi)存設(shè)施，就像一個“記憶背包”，能讓您把記...

AI智能體架構(gòu)設(shè)計的9大核心技術(shù)包括：AI智能體、AgenticAI、WorkFlow、RAG、Finetuning、FunctionCalling、MCP、A2A、AGUI等，下文詳細剖析之。1、AI智能體架構(gòu)的9大核心技術(shù)AI智能體架構(gòu)設(shè)計核心技術(shù)一：AI智能體AI智能體是一種具備自主意識的軟件，它能夠感知環(huán)境、進行邏輯推理和決策，并實施相應(yīng)動作。它可以被比作一位高效的個人助手，不僅能夠執(zhí)行命令，更重要的是能夠理解任務(wù)的上下文、規(guī)劃執(zhí)行方案，并在遇到挑戰(zhàn)時靈...

首先我們回顧下智能體的本質(zhì)是什么？如上圖所示，智能體的核心在于其如何接收指令、執(zhí)行任務(wù)并做出決策。以下是其關(guān)鍵組成部分：Prompt（提示）Prompt是指導(dǎo)大語言模型（LLM）如何行動的指令，它定義了LLM可以使用的“工具”。Prompt的輸出是一個JSON對象，用于描述工作流程中的下一步操作，例如“工具調(diào)用”或“函數(shù)調(diào)用”。Switch語句Switch語句根據(jù)LLM返回的JSON內(nèi)容決定后續(xù)操作。這是整個流程中的一個重要環(huán)節(jié)，用于解析LL...

通過將原始輸入轉(zhuǎn)化為固定維度的高維向量以捕捉語義信息，Embedding（嵌入）模型在構(gòu)建RAG、推薦系統(tǒng)，甚至自動駕駛模型訓(xùn)練中都發(fā)揮著極為關(guān)鍵的作用。近年來，OpenAI、Meta、Google、阿里、騰訊等科技巨頭紛紛加大對Embedding模型研發(fā)的投入。以O(shè)penAI為例，其最新推出的textembedding3small模型能夠生成1536維向量，在保持高語義表達能力的同時，實現(xiàn)了更低的延遲和更小的模型體積，非常適合對性能要求較高的大規(guī)模語義檢索...

OpenAI早在2023年06月就推出了FunctionCalling，為大模型提供了工具調(diào)用功能。Anthropic在2024年11月推出了MCP，旨在標準化AI大模型與外部工具和數(shù)據(jù)源的交互。MCP是否要取代FunctionCalling？下文詳細剖析。1、FunctionCalling架構(gòu)設(shè)計FunctionCalling是由OpenAI等公司推動的一種技術(shù)，它允許大語言模型（LLM）通過自然語言指令與外部工具和服務(wù)進行交互，從而將自然語言轉(zhuǎn)換為具體的API調(diào)用。這一技術(shù)解決了大語言模型在訓(xùn)練...

SpringAIAlibaba1.0GA正式發(fā)布，它是專屬Spring開發(fā)者的AI框架，兼具提示詞模版、函數(shù)調(diào)用、格式化輸出等低層次抽象與RAG、Agent、對話記憶等高層次抽象，通義系列模型驅(qū)動，深度集成網(wǎng)關(guān)、配置中心、可觀測等云原生基礎(chǔ)設(shè)施生態(tài)，讓Java智能體開發(fā)迎來一款生產(chǎn)可用的企業(yè)級框架與解決方案，助力企業(yè)智能體開發(fā)進入一個新階段。Github地址：??https:github.comalibabaspringaialibaba??官網(wǎng)地址：??https:java2ai.com??...

今天想和大家深入探討一下檢索增強生成（RAG）中的一個重要環(huán)節(jié)——重排序（Rerank）。RAG技術(shù)一直以來都備受關(guān)注，尤其是當(dāng)它與大模型（LLM）結(jié)合后，人們都滿懷期待地認為：這下終于可以輕松解決那些復(fù)雜的問答任務(wù)了！然而，現(xiàn)實往往并不如人意。很多開發(fā)者在完成一個RAG流程后，都會感到困惑：為什么它的效果并沒有達到預(yù)期呢？其實，和大多數(shù)工具一樣，RAG的使用雖然簡單，但想要真正精通卻并非易事。事實上，RAG并不僅僅...

在AI大模型技術(shù)迅猛發(fā)展的當(dāng)下，我們目睹了AI應(yīng)用架構(gòu)模式的多樣化進程。特別是，AIAgent智能體和AIWorkflow工作流這兩種截然不同的理念，正在重新定義我們對AI應(yīng)用的理解。這兩種模式猶如一枚硬幣的正反兩面：一面追求創(chuàng)新與靈活性，另一面則強調(diào)穩(wěn)定與效率。接下來，我們將深入探討這兩種架構(gòu)模式的核心差異、應(yīng)用特性以及它們未來的發(fā)展趨勢，旨在幫助大家更好地掌握和運用這些技術(shù)。一、AIAgent智能體與AIWorkflow工作流區(qū)...