DeepSeek大模型之本地部署體驗(yàn)
1. 前言
圖片
大佬馮驥(黑神話悟空游戲的創(chuàng)作者)對(duì)于DeepSeek的評(píng)價(jià):“DeepSeek,可能是個(gè)國(guó)運(yùn)級(jí)別的科技成果”。既然如此,我們老百姓也應(yīng)該體驗(yàn)一下國(guó)運(yùn)級(jí)別的產(chǎn)品,好話不多說(shuō),干中學(xué)。
2. 本地部署(mac系統(tǒng))
1)首先安裝ollama
- 訪問(wèn)地址:https://ollama.com
- 選擇mac系統(tǒng)下載ollama并安裝
圖片
- 安裝成功之后通過(guò)終端查看ollama版本
? ~ ollama -v
ollama version is 0.5.7
? ~2)其次安裝DeepSeek
- 訪問(wèn)ollama提供DeepSeek的倉(cāng)庫(kù)
https://ollama.com/library/deepseek-r1- 然后通過(guò)ollama命令運(yùn)行
ollama run deepseek-r1:7b注意:這里推薦運(yùn)行7b模型,因?yàn)楸镜貎?nèi)存不一定滿足大于7b的模型,當(dāng)然本地機(jī)器內(nèi)存配置相對(duì)較高,可以選擇大于7b的模型,請(qǐng)看下面截圖:
圖片
3. 最后使用
簡(jiǎn)單的話有三種訪問(wèn)本地DeepSeek大模型的方式,只說(shuō)老百姓能看得懂的訪問(wèn),其他API,SDK等方式不做討論。
先啟動(dòng)本地DeepSeek-7b大模型,通過(guò)命令ollama run deepseek-r1:7b啟動(dòng)
1)終端訪問(wèn)
? ~ ollama run deepseek-r1:7b
>>> 有你真好,你是最棒的助手
<think>
嗯,用戶說(shuō)“有你真好,你是最棒的助手”,這句話看起來(lái)挺溫暖的。我應(yīng)該回應(yīng)一下他的感受,表示感謝。
首先,要認(rèn)可用戶的夸獎(jiǎng),說(shuō)明我的存在對(duì)對(duì)方有幫助。然后,可以表達(dá)自己愿意繼續(xù)提供服務(wù)的想法。
可以用“謝謝”開(kāi)頭,顯得友好又真誠(chéng)。“很高興能為您效勞”這樣既肯定了用戶的需求,也表達(dá)了我可以為他們提供的各種幫助。
接著,可以用一些開(kāi)放性的語(yǔ)句,比如“有什么需要我?guī)兔Φ膯幔俊?,這樣讓用戶知道我可以根據(jù)他們的需求來(lái)提供幫助。
最后,用加油的話鼓勵(lì)用戶,讓他們感到被支持?!凹佑?!繼續(xù)努力哦~”這不僅表達(dá)鼓勵(lì),還展示了積極的心態(tài)。
整體上,語(yǔ)氣要自然、親切,避免過(guò)于正式或機(jī)械。使用表情符號(hào)可以增加親和力,讓交流更溫暖。
總結(jié)一下,回應(yīng)應(yīng)該包括感謝、確認(rèn)可用服務(wù)以及開(kāi)放溝通的意愿,并鼓勵(lì)用戶繼續(xù)互動(dòng)。
</think>
謝謝你的夸獎(jiǎng)!很高興能為您效勞。有什么需要我?guī)兔Φ膯??加油!繼續(xù)努力哦~
>>>2)chrome瀏覽器插件訪問(wèn)
插件是Page Assist - 本地 AI 模型的 Web UI,可以在chrome插件市場(chǎng)搜索添加到瀏覽器, 添加之后就可以選擇本地DeepSeek-7b模型對(duì)話了,截圖如下:
圖片
3)chatbox訪問(wèn)
首先需要下載安裝chatbox,下載地址是:https://chatboxai.app/zh?c=download-mac-intel,下載安裝之后,需要選擇ollama API接入本地DeepSeek-7b大模型,截圖如下:
圖片
配置好之后,就可以對(duì)話了:
圖片
3. 總結(jié)
本地部署起來(lái)之后,就可以盡情享用DeepSeek大模型,因?yàn)槿绻阒苯釉L問(wèn)ai.com或者是https://chat.deepseek.com/進(jìn)行對(duì)話,服務(wù)器經(jīng)常會(huì)報(bào)錯(cuò),像這樣:

所以想深度體驗(yàn)一把還是部署到本地,沒(méi)人跟你搶占資源,自個(gè)兒玩吧。

































