“ 大模型+本地知識(shí)庫(kù)，是主流的技術(shù)架構(gòu)方向”

在當(dāng)前人工智能爆火的時(shí)代，人工智能走進(jìn)了越來(lái)越多的企業(yè)，很多企業(yè)都在業(yè)務(wù)中引入人工智能技術(shù)。

但在一些沒(méi)接觸或剛接觸人工智能的技術(shù)人員來(lái)說(shuō)，領(lǐng)導(dǎo)突然要引入人工智能技術(shù)時(shí)，并且讓拿出一個(gè)技術(shù)方案來(lái)，這時(shí)很多人都會(huì)不知所措，無(wú)從下手。

今天就來(lái)討論一下企業(yè)級(jí)人工智能解決方案應(yīng)該是什么樣的。

01、人工智能常見(jiàn)的應(yīng)用技術(shù)

人工智能領(lǐng)域是一個(gè)繁雜的技術(shù)領(lǐng)域，因?yàn)樗婕暗蕉喾N不同的學(xué)科和技術(shù)，但作為應(yīng)用者來(lái)說(shuō)，我們不需要關(guān)心人工智能是怎么發(fā)展的，以及怎么做出來(lái)的。

我們需要關(guān)心的是，怎么在人工智能之上構(gòu)建應(yīng)用，解決實(shí)際的業(yè)務(wù)問(wèn)題。而這才是我們更多需要了解的技術(shù)。

大模型技術(shù)

人工智能目前最重要的技術(shù)之一，就是基于機(jī)器學(xué)習(xí)模型，使用龐大數(shù)據(jù)訓(xùn)練出來(lái)的具有大量參數(shù)的大模型技術(shù)，大模型技術(shù)可以說(shuō)是當(dāng)代人工智能技術(shù)的核心。

而根據(jù)不同的任務(wù)，大模型技術(shù)又有多種分類，比如自然語(yǔ)言處理(NLP)，計(jì)算機(jī)視覺(jué)(CV)，分類任務(wù)，文生圖，聲音，圖像，視頻處理任務(wù)等。

而不管什么模型，實(shí)現(xiàn)原理雖然不盡相同，但我們?cè)谑褂玫倪^(guò)程中，只需要按照自己的需求，選擇合適的模型即可。

本地知識(shí)庫(kù)技術(shù)

其次就是本地知識(shí)庫(kù)，本地知識(shí)庫(kù)的作用一是為了填補(bǔ)大模型天生的缺陷，那就是數(shù)據(jù)更新不及時(shí)；其次就是，節(jié)省成本。

因?yàn)椴徽摯竽Ｐ偷挠?xùn)練和微調(diào)，哪怕是使用第三方的開(kāi)源模型，同樣需要很高的成本，包括數(shù)據(jù)收集成本，訓(xùn)練成本，以及技術(shù)人力成本等。

而本地知識(shí)庫(kù)因?yàn)槭褂煤?jiǎn)單，成本低，技術(shù)要求不高，就成為了大模型最好的補(bǔ)充技術(shù)之一。

本地知識(shí)庫(kù)的文章，??爆火的本地知識(shí)庫(kù)項(xiàng)目是什么？??

AI Agent技術(shù)

還有就是AI Agent技術(shù)，如果把大模型比作人的大腦，那么AI Agent技術(shù)就是大模型的手和腳。

有了agent技術(shù)，大模型就可以通過(guò)function calling的方式調(diào)用外部工具，這大大擴(kuò)展了大模型的能力邊界。

因?yàn)閿?shù)據(jù)安全的原因，有些企業(yè)只能在企業(yè)內(nèi)部使用大模型，而不能使用一些第三方的大模型；因此，對(duì)有資金和技術(shù)的企業(yè)，就可以從頭設(shè)計(jì)或使用一些開(kāi)源的模型進(jìn)行訓(xùn)練，并部署一個(gè)大模型。

關(guān)于AI Agent可以看一下之前的文章，??大模型的手和腳??。

本地大模型部署工具

但對(duì)一些小企業(yè)無(wú)法做到模型的設(shè)計(jì)與訓(xùn)練，那么它們就可以使用一些開(kāi)源大模型，然后在使用一些本地部署模型的框架，來(lái)解決數(shù)據(jù)安全的問(wèn)題。

比如，ollama，lmstudio，gpt4all等開(kāi)源框架，在本地部署大模型，這些開(kāi)源框架，不但提供了客戶端的用戶接口，而且還提供了編程接口。

再有就是，類似于Langchain和AnythingLLM的開(kāi)發(fā)框架，這兩種框架的作用是，讓你能夠更加方便的使用大模型。其功能類似于java web開(kāi)發(fā)中的，ssm框架，有了它們就可以更加方便的開(kāi)發(fā)應(yīng)用。

當(dāng)然，如果你不想使用它們也可以，可以直接使用大模型原生的SDK工具包，或者自己開(kāi)發(fā)工具包。

關(guān)于本地部署大模型可以看一下之前的文章，??你想在本地部署大模型嗎??？

02、企業(yè)人工智能應(yīng)用架構(gòu)

在企業(yè)應(yīng)用中，根據(jù)不同的企業(yè)，不同的業(yè)務(wù)，以及公司的技術(shù)能力和資金能力，可以選擇不同的系統(tǒng)架構(gòu)。

首先，對(duì)一些小微企業(yè)來(lái)說(shuō)，就是那種技術(shù)能力和資金都不充足的企業(yè)，最好的選擇方式就是：

第三方大模型+本地知識(shí)庫(kù)的方式

之所以選擇這種方式，是因?yàn)樽约河?xùn)練和維護(hù)一個(gè)模型的成本比較高，很多企業(yè)可能都沒(méi)有這個(gè)能力。

而且，因?yàn)榈谌酱竽Ｐ突旧隙紝儆谕ㄓ媚Ｐ?，也就是什么都懂，但什么都不精。因此通用模型的最明顯的一個(gè)缺點(diǎn)就是在垂直領(lǐng)域表現(xiàn)泛泛，因此可以使用本地知識(shí)庫(kù)的方式來(lái)補(bǔ)充這一點(diǎn)。

其次，對(duì)一些有能力部署本地模型，但又是很有能力的企業(yè)，那么就可以選擇使用的方式是：

本地大模型+第三方大模型+本地知識(shí)庫(kù)

之所以選擇這種方式是因?yàn)?，因?yàn)楹芏嗥髽I(yè)的業(yè)務(wù)并不是一個(gè)模型就可以解決的，很多時(shí)候都需要多種模型的搭配使用，比如需要一個(gè)自然語(yǔ)言模型處理客戶問(wèn)題，一個(gè)音頻模型來(lái)給客戶打電話等。

而且也因?yàn)椴糠謹(jǐn)?shù)據(jù)安全問(wèn)題，比如涉及到一些企業(yè)內(nèi)部數(shù)據(jù)，不適合在第三方模型上使用。

因此使用這種方式，一是可以把自己的核心業(yè)務(wù)和核心數(shù)據(jù)放到自己本地模型上進(jìn)行處理；其次可以把一些邊緣業(yè)務(wù)使用第三方大模型來(lái)完成。

這樣既節(jié)約了成本，也降低了企業(yè)維護(hù)本地模型的成本；而本地知識(shí)庫(kù)的作用和第一種相同。

最后就是那種對(duì)數(shù)據(jù)安全要求比較高的企業(yè)，并且它們有足夠的技術(shù)和資金支持，那么它們就可以選擇自己設(shè)計(jì)和訓(xùn)練模型，讓自己的核心業(yè)務(wù)完全運(yùn)行在本地大模型中。

本地大模型+本地知識(shí)庫(kù)

這種方式，只適合那種對(duì)業(yè)務(wù)安全性要求較高，并且財(cái)大氣粗，具有一定技術(shù)實(shí)力的企業(yè)，比如國(guó)家電網(wǎng)。

至于AI Agent技術(shù)，根據(jù)不同的業(yè)務(wù)方向，可以根據(jù)需求選擇是否使用。

從這也可以看出，不論采用何種方式，本地知識(shí)庫(kù)都是必不可少的一環(huán)。原因就是因?yàn)榇竽Ｐ偷奶焐毕荩约俺杀締?wèn)題。

除非大模型能夠真正學(xué)會(huì)自我學(xué)習(xí)，并且能夠降大模型的成本，本地知識(shí)庫(kù)才有可能退出市場(chǎng)。

這也是為什么最近本地知識(shí)庫(kù)爆火的原因。

本文轉(zhuǎn)載自公眾號(hào)AI探索時(shí)代 作者：DFires

原文鏈接：??https://mp.weixin.qq.com/s/sfLucn_cQmKBRJkz467q5A??