大模型AI運(yùn)用——AgentScope
隨著人工智能（AI）技術(shù)的飛速發(fā)展，其在各行各業(yè)的應(yīng)用越來(lái)越廣泛，尤其是在IT運(yùn)維領(lǐng)域，AI的應(yīng)用正逐漸改變著傳統(tǒng)的工作模式。本文將講述如何在我們本地來(lái)部署一個(gè)我們自己的ai小助手。
文中所運(yùn)用的工具
- AgentScope：一款全新的Multi-Agent框架，專(zhuān)為應(yīng)用開(kāi)發(fā)者打造，提供高易用、高可靠的編程體驗(yàn)，支持純Python編程，內(nèi)置豐富的API。
- LLM：模型選擇的是開(kāi)源模型Llama3。
- conda：用于創(chuàng)建Python環(huán)境，便于管理。
conda安裝
conda安裝
URL: https://repo.anaconda.com/archive/Anaconda3-2024.06-1-Linux-x86_64.sh
bash Anaconda3-2024.06-1-Linux-x86_64.sh #下載好后回車(chē)yes即可
ln -s /root/anaconda3/bin/conda /usr/bin/conda
conda create --name python-3.12 python=3.12.7 #創(chuàng)建python環(huán)境
conda activate python-3.12 #切換環(huán)境Llama3本地部署啟動(dòng)
通過(guò)ollama進(jìn)行本地部署和啟動(dòng)
- RAM：Llama 3 8B至少16GB
- 執(zhí)行以下命令，默認(rèn)下載的是8B版本
ollama下載地址：https://ollama.com/
ollama run llama3:latest注意：如果沒(méi)有ollama命令，需要配置環(huán)境變量。
Agentscope安裝
需要安裝Python 3.9或更高版本。
源碼安裝：
# 從GitHub上拉取AgentScope的源代碼
git clone https://github.com/modelscope/agentscope.git
cd agentscope
# 安裝需要的Python 包
pip install -e .
#創(chuàng)建供自己調(diào)整的目錄
mkdir AI
準(zhǔn)備模型配置和初始化注冊(cè)Agentscope-test.py
### cd AI
### vim Agentscope-test.py
# -*- coding: utf-8 -*-
import agentscope
from agentscope.agents import DialogAgent, UserAgent
from agentscope.message import Msg
# 模型配置
model_configs_name = "test-llama3"
model_configs = [
{
"config_name": "test-llama3",
"model_type": "ollama_chat",
"model_name": "llama3:latest",
"host": "192.168.100.134:11434" # ollama所在服務(wù)器的IP和端口，端口默認(rèn)11434
}
]
#初始化agentscope
agentscope.init(model_configs = model_configs, project = "test-1", studio_url="http://0.0.0.0:5000")
#初始化agent
dialogAgent = DialogAgent(name="小助手", model_config_name=model_configs_name, sys_prompt="你是一個(gè)AI小助手")
user = UserAgent(name="User")
x = None
while True:
if x is not None and x.content == "exit":
break
x = user(x)
x = dialogAgent(x)啟動(dòng)Agentscope Studio
AgentScope Studio是一個(gè)開(kāi)源的Web UI工具包，用于構(gòu)建和監(jiān)控多智能體應(yīng)用程序?？梢酝ㄟ^(guò)運(yùn)行以下Python代碼啟動(dòng)。
### vim start_studio.py
import agentscope
agentscope.studio.init(
host="0.0.0.0",
port=5000
)不設(shè)置host和port，studio默認(rèn)訪問(wèn)路徑為127.0.0.1。
啟動(dòng)Agent
#啟動(dòng)Agentscope Studio
nohup python start_studio.py &
#啟動(dòng)Agent
python Agentscope.py訪問(wèn)Studio，進(jìn)入dashboard就可以看到啟動(dòng)的agent了。
以上使用的是Agentscope中的DialogAgent，可以完成類(lèi)似客服機(jī)器人的需求，除此之外，他還有ReActAgent 這種能夠調(diào)用工具方法，可以根據(jù)我們的需求自行開(kāi)發(fā)的agent，可以處理較為復(fù)雜的任務(wù)。
總結(jié)
隨著人工智能技術(shù)的不斷進(jìn)步，AI在運(yùn)維領(lǐng)域的應(yīng)用已經(jīng)成為提升效率和降低成本的關(guān)鍵因素。通過(guò)復(fù)雜工具調(diào)用，AI也能夠處理大量的日志數(shù)據(jù)，快速定位問(wèn)題根源，為運(yùn)維團(tuán)隊(duì)提供決策支持。它不僅能夠提高運(yùn)維工作的效率和準(zhǔn)確性，還能夠釋放運(yùn)維人員的時(shí)間，讓他們能夠?qū)Ｗ⒂诟鼜?fù)雜和戰(zhàn)略性的任務(wù)。隨著技術(shù)的不斷發(fā)展，我們可以預(yù)見(jiàn)AI將在未來(lái)的運(yùn)維工作中扮演越來(lái)越重要的角色。
