LLM

LLM（Large Language Models）指的是大型語(yǔ)言模型。這些模型是自然語(yǔ)言處理（NLP）技術(shù)的一部分，使用深度學(xué)習(xí)訓(xùn)練來(lái)理解、生成、翻譯文本，甚至執(zhí)行特定的語(yǔ)言相關(guān)任務(wù)，如問答、文本摘要、編程代碼生成等。LLM根據(jù)大量文本數(shù)據(jù)進(jìn)行訓(xùn)練，以理解語(yǔ)言的結(jié)構(gòu)、含義和上下文。

LLM的關(guān)鍵特征之一是其規(guī)模，即模型中包含的參數(shù)數(shù)量非常龐大。這些參數(shù)幫助模型捕獲語(yǔ)言的復(fù)雜性和細(xì)微差別。隨著模型規(guī)模的增加，它們的理解能力和生成文本的質(zhì)量也會(huì)提高，但同時(shí)也會(huì)增加所需的計(jì)算資源和訓(xùn)練時(shí)間。

AGI

AGI（Artificial General Intelligence）也稱為通用人工智能，指的是一種具有廣泛智能的機(jī)器，能夠理解、學(xué)習(xí)和應(yīng)用知識(shí)，并能夠在寬廣范圍的環(huán)境和任務(wù)中進(jìn)行自主學(xué)習(xí)、推理、適應(yīng)和創(chuàng)造，與人類智能相似或等同的水平。

區(qū)別于目前廣泛應(yīng)用的專業(yè)人工智能（AI）系統(tǒng)，這些系統(tǒng)通常優(yōu)化和設(shè)計(jì)用來(lái)解決特定問題（如圖像識(shí)別、語(yǔ)言翻譯等），AGI能夠跨領(lǐng)域工作，不僅局限于一個(gè)具體領(lǐng)域或任務(wù)。

AGI的實(shí)現(xiàn)將標(biāo)志著一個(gè)重大科技進(jìn)展，但同時(shí)也引發(fā)了許多倫理和安全的考量。目前AGI仍然是人工智能領(lǐng)域的一個(gè)長(zhǎng)期目標(biāo)，并且尚未實(shí)現(xiàn)。

AIGC

AIGC（Artificial Intelligence Generated Content）即為人工智能生成內(nèi)容，是一種內(nèi)容生產(chǎn)形式。例如AI文字續(xù)寫，文字轉(zhuǎn)像的AI圖、AI主持人等，都屬于AIGC的應(yīng)用。

AI Agent

AI Agent 即智能代理，是一種基于人工智能技術(shù)的軟件實(shí)體，它能夠在一定的環(huán)境下自主感知信息、處理數(shù)據(jù)、并采取行動(dòng)以實(shí)現(xiàn)特定目標(biāo)。這種智能代理能夠模擬人類的工作和思考方式，通過(guò)類似人類的獨(dú)立思考和行動(dòng)來(lái)完成一系列簡(jiǎn)單或復(fù)雜的任務(wù)。

大語(yǔ)言模型 (LLM) 僅限于它們所訓(xùn)練的知識(shí)，并且這些知識(shí)很快就會(huì)過(guò)時(shí)（每天用最新信息重新訓(xùn)練這么大的模型是不可行的），LLM的一些局限主要包括：

• 會(huì)產(chǎn)生幻覺
• 結(jié)果并不總是真實(shí)的
• 對(duì)時(shí)事的了解有限或一無(wú)所知
• 很難應(yīng)對(duì)復(fù)雜的計(jì)算。

這就是AI Agent的用武之地，它可以利用外部工具來(lái)克服這些限制?？梢詫gent視為人工智能大腦或LLM操作系統(tǒng)，它使用LLM進(jìn)行推理、計(jì)劃和采取行動(dòng)。

智能體 Bot

這是平臺(tái)對(duì)AI Agent的抽象定義，即人工智能代理，是一個(gè)能夠根據(jù)人類目標(biāo)自主思考和規(guī)劃任務(wù)的程序或?qū)嶓w?？梢詫⒅悄荏w視為人工智能大腦或LLM操作系統(tǒng)，它使用LLM進(jìn)行推理、計(jì)劃和采取行動(dòng)（調(diào)用工具）。

實(shí)際使用過(guò)程中，我們更建議為某個(gè)具體的應(yīng)用場(chǎng)景創(chuàng)建專門的智能體，而不是什么工作都交給同一個(gè)智能體，只有讓智能體做更專注的事情才能做的更加專業(yè)。

提示詞 Prompt

簡(jiǎn)單的理解它是給 AI 模型的指令。它可以是一個(gè)問題、一段文字描述，甚至可以是帶有一堆參數(shù)的文字描述。AI 模型會(huì)基于 prompt 所提供的信息，生成對(duì)應(yīng)的文本或者圖片。

針對(duì)智能體的提示詞可能和對(duì)話的提示詞略有不同，對(duì)話過(guò)程中的提示詞上下文最多只有5條，智能體的編排提示詞可以一直生效，而且通常具有一定的格式規(guī)范，更利于智能體執(zhí)行任務(wù)。平臺(tái)也預(yù)設(shè)了一些常用的智能體提示詞可供用戶選擇。

RAG

RAG（Retrieval-Augmented Generation 檢索增強(qiáng)生成）是一種結(jié)合了信息檢索和文本生成技術(shù)的自然語(yǔ)言處理方法，它通過(guò)檢索相關(guān)信息來(lái)輔助生成更準(zhǔn)確和豐富的文本輸出。

RAG的一個(gè)關(guān)鍵優(yōu)勢(shì)是它可以有效地處理那些不僅依賴于通用知識(shí)，而且還需要特定信息源或文檔中的知識(shí)才能回答的問題。通過(guò)直接利用這些來(lái)源中的信息，RAG能夠提供更加準(zhǔn)確和信息含量更高的輸出。

知識(shí)庫(kù) Knowledge Base

知識(shí)庫(kù)指用于提供信息檢索支持的大規(guī)模數(shù)據(jù)集合，包括用戶上傳到平臺(tái)的各類文檔、表格、數(shù)據(jù)表等資料，便于用戶組織、管理領(lǐng)域知識(shí)，知識(shí)庫(kù)可以理解為數(shù)據(jù)源。

知識(shí)庫(kù)在RAG方案中的作用是多方面的：

• 信息源：為生成模型提供豐富的背景信息和事實(shí)依據(jù)，使生成內(nèi)容更加豐富和準(zhǔn)確。
• 提升效率：通過(guò)預(yù)先建立的知識(shí)庫(kù)進(jìn)行檢索，可以減少生成模型需要從頭計(jì)算或推理的信息量，提升處理速度和效率。
• 增強(qiáng)準(zhǔn)確性和相關(guān)性：基于檢索到的與查詢直接相關(guān)的信息，生成的內(nèi)容更加貼近用戶的實(shí)際需求，提升了回答的準(zhǔn)確性和相關(guān)性。

因此，在RAG方案中，知識(shí)庫(kù)的構(gòu)建和質(zhì)量直接影響到系統(tǒng)的整體性能，包括生成內(nèi)容的準(zhǔn)確度、豐富性和用戶滿意度。

多模態(tài) Multi Modal

多模態(tài)指的是結(jié)合使用兩種或兩種以上不同類型的模式或信號(hào)來(lái)進(jìn)行信息的表達(dá)、交流或處理。在計(jì)算機(jī)科學(xué)和人工智能領(lǐng)域，多模態(tài)通常涉及到結(jié)合文本、圖像、音頻、視頻以及其他傳感器數(shù)據(jù)來(lái)提升算法的理解、分析和生成能力。

多模態(tài)方法可以幫助系統(tǒng)更全面地理解復(fù)雜的信息場(chǎng)景，提高信息處理的效率和效果。

多路召回 Multi-channel Recall

多路召回是自然語(yǔ)言處理(NLP)和推薦系統(tǒng)中的一種常見策略，旨在從多個(gè)維度或渠道同時(shí)檢索信息或物品，以提高召回質(zhì)量和覆蓋率。在這種策略中，系統(tǒng)會(huì)利用多個(gè)獨(dú)立的算法或模型，每個(gè)算法或模型專注于從一個(gè)特定的角度或依據(jù)一個(gè)特定的特征來(lái)檢索信息。

這些不同的召回渠道之后可以被合并或進(jìn)一步處理，以生成一個(gè)綜合的、多樣化的結(jié)果集，從而提高最終推薦或檢索結(jié)果的準(zhǔn)確性和多樣性。多路召回在提升用戶體驗(yàn)和滿足不同用戶需求方面發(fā)揮著重要作用。

微調(diào) Fine-Tuning

模型微調(diào)（Model Fine-tuning）是一種機(jī)器學(xué)習(xí)方法，特別是在深度學(xué)習(xí)領(lǐng)域中常見。這種方法涉及到在一個(gè)預(yù)訓(xùn)練的模型基礎(chǔ)上，通過(guò)對(duì)模型進(jìn)行額外的訓(xùn)練（或“微調(diào)”），使其更好地適應(yīng)于特定任務(wù)或數(shù)據(jù)集。在模型微調(diào)過(guò)程中，通常會(huì)采用較小的學(xué)習(xí)率，對(duì)預(yù)訓(xùn)練模型的權(quán)重進(jìn)行小幅度調(diào)整，以達(dá)到提高模型在特定任務(wù)上表現(xiàn)的目的。

模型微調(diào)的特點(diǎn)是能夠利用預(yù)訓(xùn)練模型已經(jīng)學(xué)到的知識(shí)，從而在數(shù)據(jù)量較少的情況下也能達(dá)到較好的性能，加速模型的訓(xùn)練過(guò)程并提高模型的泛化能力。

對(duì)齊Alignment

人工智能中的對(duì)齊是指引導(dǎo)人工智能系統(tǒng)的行為，使其符合設(shè)計(jì)者的利益和預(yù)期目標(biāo)。一個(gè)已對(duì)齊的人工智能的行為會(huì)向著預(yù)期方向發(fā)展;而未對(duì)齊的人工智能的行為雖然也具備特定目標(biāo)，但此目標(biāo)并非設(shè)計(jì)者所預(yù)期。

Token

在自然語(yǔ)言處理中，我們通常將文本拆分為一個(gè)個(gè)離散的token，以便于計(jì)算機(jī)理解和處理在GPT模型中，token是模型接收的最小單位。模型在訓(xùn)練和生成文本時(shí)，將輸入的文本序列劃分為一系列的token，并通過(guò)對(duì)這些token進(jìn)行處理和分析來(lái)生成響應(yīng)。

例如：在一個(gè)對(duì)話中，一句話可以被劃分為多個(gè)token，包括單詞、標(biāo)點(diǎn)符號(hào)等。每個(gè)token都有一個(gè)對(duì)應(yīng)的編碼表示，通常是一個(gè)整數(shù)。這些編碼將文本轉(zhuǎn)換為模型能夠處理的數(shù)值形式。在使用ChatGPT時(shí)，用戶通常需要了解自己的輸入文本中有多少個(gè)token，以確保不超過(guò)模型的最大輸入限制。

需要注意的是，不同的模型和工具可能對(duì)token的定義和處理方式有所不同但總體來(lái)說(shuō)token是指文本處理和分析的最小單位，通常1Token的內(nèi)容為5 字節(jié)的文本，但由于字符編碼問題，不同中文字符的token數(shù)量并不是固定的，一般通過(guò)類OpenAI的接口調(diào)用會(huì)返回當(dāng)前內(nèi)容的token數(shù)量大小。

向量 Vector

向量，物理、工程等也稱作矢量、歐幾里得向量(Euclidean vector) 是數(shù)學(xué)、物理學(xué)和工程科學(xué)等多個(gè)自然科學(xué)中的基本概念。指一個(gè)同時(shí)具有大小和方向，且滿足平行四邊形法則的幾何對(duì)象。理論數(shù)學(xué)中向量的定義為任何在稱為向量空間的代數(shù)結(jié)構(gòu)中的元素。

一般地，同時(shí)滿足具有大小和方向兩個(gè)性質(zhì)的幾何對(duì)象即可認(rèn)為是向量。向量常常在以符號(hào)加箭頭標(biāo)示以區(qū)別于其它量。與向量相對(duì)的概念稱標(biāo)量、純量、數(shù)量，即只有大小、絕大多數(shù)情況下沒有方向(電流是特例)、不滿足平行四邊形法則的量。

向量數(shù)據(jù)庫(kù) Vector Database

向量數(shù)據(jù)庫(kù)是基于智能算法提取需存儲(chǔ)內(nèi)容的特征，轉(zhuǎn)變成具有大小定義、特征描述、空間位置的多維數(shù)值進(jìn)行向量化存儲(chǔ)的數(shù)據(jù)庫(kù)，使內(nèi)容不僅可被存儲(chǔ)，同時(shí)可被智能檢索與分析。

工具 Tool

是平臺(tái)對(duì)智能體能力的抽象，通過(guò)工具的配置和組合可以實(shí)現(xiàn)多種業(yè)務(wù)場(chǎng)景需求，工具可以被實(shí)際關(guān)聯(lián)到智能體的擴(kuò)展能力，目前平臺(tái)提供的工具包括大模型能力（文生圖等）、聯(lián)網(wǎng)查詢（必應(yīng)搜索）、知識(shí)庫(kù)檢索（知識(shí)管理檢索）、函數(shù)調(diào)用（各種接口）等類型，將來(lái)還會(huì)拓展更多的工具類型。