概要

在人工智能領(lǐng)域，智能體作為AI與用戶溝通的橋梁，通過(guò)接收和發(fā)送包含特定信息的提示詞，即用戶提示詞-user prompt和系統(tǒng)提示詞-system prompt，來(lái)模擬人類(lèi)對(duì)話。系統(tǒng)提示詞設(shè)定智能體的角色和行為，用戶提示詞則傳達(dá)用戶的需求。功能編碼-AI tools是允許智能體調(diào)用預(yù)定義函數(shù)以執(zhí)行具體任務(wù)的方法，增強(qiáng)了智能體的實(shí)用性。MCP（Model Communication Protocol）作為一種專(zhuān)為AI設(shè)計(jì)的通信協(xié)議，使得智能體能夠與各種工具和服務(wù)交互，實(shí)現(xiàn)更復(fù)雜的功能，并支持工具的標(biāo)準(zhǔn)化管理，包括查詢可用工具、參數(shù)和功能描述等。這些技術(shù)綜合起來(lái)，展示了從用戶詢問(wèn)到AI生成響應(yīng)的完整流程，強(qiáng)調(diào)了它們?cè)贏I自動(dòng)化協(xié)作中的重要性。

接下來(lái)我們通過(guò)一些場(chǎng)景，來(lái)學(xué)習(xí)prompt，agent、mcp以及function calling的基礎(chǔ)概念。

場(chǎng)景1

現(xiàn)實(shí)中對(duì)話

現(xiàn)實(shí)生活中，當(dāng)我們和不同人聊天真實(shí)，即便是完全相同的話，對(duì)方也會(huì)根據(jù)自己的經(jīng)驗(yàn)給出不同的答案。比如我說(shuō)我肚子疼，我媽可能會(huì)問(wèn)病了吧？，我爸可能說(shuō)吃多了吧？，我女朋友可能直接就來(lái)一句滾吧。 但是AI并沒(méi)有這樣的人設(shè)，所以他就只能給出一個(gè)通用的四平八穩(wěn)的回答，如果感覺(jué)不適請(qǐng)就醫(yī)。

圖片

于是我們就希望給AI也加上人設(shè)，最直接的方法就是把人設(shè)信息和用戶要說(shuō)的話打包成一條user prompt發(fā)過(guò)去。比如你扮演我的女朋友，我說(shuō)我肚子疼，然后AI就可能回復(fù)滾一邊去，老娘也疼，這樣就對(duì)味兒了。

圖片

但問(wèn)題是你扮演我溫柔的女朋友這句話并不是我們真正想說(shuō)的內(nèi)容，顯得有一點(diǎn)出戲。于是人們干脆把人設(shè)信息單獨(dú)的拎了出來(lái)，放到另外一個(gè)里面，這就是system prompt系統(tǒng)提示詞。

場(chǎng)景1總結(jié)

在AI模型與用戶交互的過(guò)程中，什么是user prompt？

user prompt就是用戶提示詞，是我們通過(guò)聊天框發(fā)送給AI模型的消息，通常是我們提出的問(wèn)題或想說(shuō)的話。

為什么AI給出的答案往往顯得無(wú)趣且缺乏個(gè)性？

因?yàn)锳I沒(méi)有人的設(shè)定，只能給出通用的回復(fù)。為了賦予AI個(gè)性，人們開(kāi)始將人設(shè)信息與用戶輸入的內(nèi)容結(jié)合，形成更自然的對(duì)話。

什么是system prompt，它在對(duì)話中起到什么作用？

System prompt是用來(lái)描述AI的角色、性格、背景、信息、語(yǔ)氣等非用戶直接說(shuō)出來(lái)的內(nèi)容，它與user prompt一起發(fā)送給AI模型，以使對(duì)話更加自然。

在網(wǎng)頁(yè)端的聊天機(jī)器人中，system prompt如何設(shè)定和使用？

網(wǎng)頁(yè)端的system prompt通常是系統(tǒng)預(yù)設(shè)的，但用戶可以通過(guò)網(wǎng)站提供的設(shè)置功能自定義偏好，這些偏好會(huì)被整合進(jìn)system prompt中。

場(chǎng)景2

即使人設(shè)設(shè)定的再完美，說(shuō)到底AI還是個(gè)聊天機(jī)器人。你問(wèn)一個(gè)問(wèn)題它最多給你答案或者告訴你怎么做，但實(shí)際動(dòng)手的還是你自己。那么能不能讓AI自己去完成任務(wù)呢？

第一個(gè)做出嘗試的是一個(gè)開(kāi)源項(xiàng)目叫做auto GPT，它是本地運(yùn)行的一個(gè)小程序。如果你想讓auto GPT幫你管理電腦里的文件，那你得先寫(xiě)好一些文件的管理函數(shù)。

圖片

比如說(shuō)list files用來(lái)列目錄，read files用來(lái)讀文件等等。然后你把這些函數(shù)以及它們的功能描述、使用方法注冊(cè)到auto GPT中。

圖片

Auto GPT會(huì)根據(jù)這些信息生成一個(gè)system prompt，告訴AI模型用戶給了你哪些工具，他們都是干什么的，以及AI如果想要使用它們應(yīng)該返回什么樣的格式。最后把這個(gè)system prompt連同用戶的請(qǐng)求，比如說(shuō)幫我找一找原神的安裝目錄，一起發(fā)給AI模型。

圖片

如果AI模型足夠的聰明，就會(huì)按照要求的格式返回一個(gè)調(diào)用某個(gè)函數(shù)的消息。Auto GPT進(jìn)行解析之后就可以調(diào)用對(duì)應(yīng)的函數(shù)了。然后再把結(jié)果丟回給AI，AI再根據(jù)函數(shù)調(diào)用的結(jié)果決定下一步應(yīng)該做什么操作。這個(gè)過(guò)程就這樣反復(fù)，直到任務(wù)完成為止。

圖片

人們把a(bǔ)uto GPT這種負(fù)責(zé)在模型工具和最終用戶之間傳話的程序就叫做AI agent。而這些提供給AI調(diào)用的函數(shù)或者服務(wù)就叫做agent tools。

圖片

不過(guò)這個(gè)架構(gòu)有一個(gè)小問(wèn)題，雖然我們?cè)趕ystem prompt里面寫(xiě)清楚了AI應(yīng)該用什么格式返回，但AI模型說(shuō)到底它是一個(gè)概率模型，還是有可能返回格式不對(duì)的內(nèi)容。為了處理這些不聽(tīng)話的情況，很多AI agent會(huì)在發(fā)現(xiàn)AI返回的格式不對(duì)時(shí)，自動(dòng)進(jìn)行重重試，一次不行我們就來(lái)第二次。但這種反復(fù)的重試總歸讓人覺(jué)得不太靠譜，于是大模型廠商開(kāi)始出手了，紛紛推出了一個(gè)叫做function calling的新功能，這個(gè)功能的核心思想就是統(tǒng)一格式，規(guī)范描述。

Function calling則對(duì)這些描述進(jìn)行了標(biāo)準(zhǔn)化，比如每個(gè)tool都用一個(gè)Json對(duì)象來(lái)定義，工具名寫(xiě)在name字段，功能說(shuō)明寫(xiě)在description字段，所需要的參數(shù)寫(xiě)在parameters里面等等。然后這些對(duì)象也從system prompt中被剝離了出來(lái)，單獨(dú)放到了一個(gè)字段里面。

圖片

最后Function calling也規(guī)定了AI使用工具時(shí)應(yīng)該返回的格式，所以system prompt中的格式定義也可以刪掉了。

圖片

這樣一來(lái)，所有的工具描述都放在相同的地方，所有工具描述也都依照相同的格式，AI使用工具時(shí)的回復(fù)也都依照相同的格式，于是人們就能更加有針對(duì)性的訓(xùn)練AI模型，讓它理解這種調(diào)用的場(chǎng)景。甚至在這種情況下，如果AI依然生成了錯(cuò)誤的回復(fù)，因?yàn)榛貜?fù)的格式是固定的，AI服務(wù)器端自己就可以檢測(cè)到并且進(jìn)行重試，用戶根本感覺(jué)不到。這樣一來(lái)，不僅降低了用戶端的開(kāi)發(fā)難度，也節(jié)省了用戶端重試帶來(lái)的token開(kāi)銷(xiāo)。

圖片

場(chǎng)景2總結(jié)

auto GPT是如何實(shí)現(xiàn)讓AI完成任務(wù)的？

auto GPT通過(guò)讓用戶注冊(cè)一些函數(shù)及其功能描述，生成一個(gè)包含這些工具信息的system prompt，然后根據(jù)用戶請(qǐng)求調(diào)用AI模型，AI模型按要求格式返回操作結(jié)果，auto GPT解析后執(zhí)行相應(yīng)函數(shù)。

什么是AI agent以及其與function calling的關(guān)系？

AI agent是負(fù)責(zé)在模型工具和最終用戶之間傳話的程序，而function calling是一種規(guī)范AI回復(fù)格式的新功能，旨在解決AI返回結(jié)果可能不準(zhǔn)確的問(wèn)題，并通過(guò)統(tǒng)一格式降低用戶端開(kāi)發(fā)難度和token開(kāi)銷(xiāo)。

場(chǎng)景3

以上我們講的都是AI agent和AI模型之間的通信方式。接下來(lái)我們?cè)倏戳硪贿?，AI agent是怎么跟AI tools來(lái)進(jìn)行通信的。

最簡(jiǎn)單的做法是把AI agent和agent tools寫(xiě)在同一個(gè)程序里面，直接函數(shù)調(diào)用搞定，這也是現(xiàn)在大多數(shù)agent的做法。

圖片

但是后來(lái)人們逐漸發(fā)現(xiàn)有些AI tools的功能其實(shí)挺通用的。比如說(shuō)一個(gè)瀏覽網(wǎng)頁(yè)的工具，可能多個(gè)agent都需要，但我總不能在每個(gè)agent里面都拷貝一份相同的代碼吧，太麻煩了，也不優(yōu)雅。于是大家想到了一個(gè)辦法，把tools變成服務(wù)統(tǒng)一的托管，讓所有的agent都來(lái)調(diào)用，這就是MCP。

圖片

MCP是一個(gè)通信協(xié)議，專(zhuān)門(mén)用來(lái)規(guī)范agent和tools服務(wù)之間是怎么交互的。運(yùn)行tools的服務(wù)叫做MCP server，調(diào)用它的agent叫做MCP client。MCP規(guī)定了MCP server如何和MCP client通信，以及MCP server要提供哪些接口。

圖片

MCP server也可以直接提供數(shù)據(jù)，提供類(lèi)似文件讀寫(xiě)的服務(wù)叫做resource，或者為agent提供提示詞的模板叫做prompt。MCP server既可以和agent跑在同一臺(tái)機(jī)器上，通過(guò)標(biāo)準(zhǔn)輸入輸出進(jìn)行通信，也可以被部署在網(wǎng)絡(luò)上，通過(guò)HTTP進(jìn)行通信。

圖片

圖片

場(chǎng)景3總結(jié)

AI agent與AI tools之間如何通信？

最初是直接函數(shù)調(diào)用，后來(lái)發(fā)展為將常用工具作為服務(wù)統(tǒng)一托管在網(wǎng)絡(luò)上的MCP server，使得所有agent可以通過(guò)MCP協(xié)議進(jìn)行交互。

MCP（Message Passing to Function）是什么？

MCP是一個(gè)通信協(xié)議，用于規(guī)范AI agent與AI tools之間的交互，它規(guī)定了MCP server（服務(wù)提供者）與MCP client（服務(wù)調(diào)用者）之間的接口和交互方式。

全文總結(jié)

最后我們梳理一下全場(chǎng)景的整個(gè)流程。我說(shuō)：女朋友肚子疼，怎么辦？于是問(wèn)AI agent或者說(shuō)MCP client，我女朋友肚子疼應(yīng)該怎么辦？Agent會(huì)把問(wèn)題包裝在user prompt中，然后agent通過(guò)MCP協(xié)議從MCP server里面獲取所有tool的信息。AI agent會(huì)把這些tool的信息或者轉(zhuǎn)化成system prompt，或者轉(zhuǎn)化成function calling的格式，然后和用戶請(qǐng)求user prompt一起打包發(fā)送給AI模型。 AI模型發(fā)現(xiàn)有一個(gè)叫做web browse的網(wǎng)頁(yè)瀏覽工具，于是通過(guò)普通回復(fù)或者function calling格式產(chǎn)生一個(gè)調(diào)用這個(gè)tool的請(qǐng)求，希望去網(wǎng)上搜索答案。Agent收到了這個(gè)請(qǐng)求之后，通過(guò)MCP協(xié)議去調(diào)用MCP server里的web browse工具。web browse訪問(wèn)指定的網(wǎng)站之后，將內(nèi)容返還給agent，agent再轉(zhuǎn)發(fā)給AI模型。AI模型再根據(jù)網(wǎng)頁(yè)內(nèi)容和自己的頭腦風(fēng)暴，生成最終的答案，多喝熱水，最后由agent把結(jié)果展示給用戶之后。

圖片