大模型(LLM) API的使用,免費(fèi)獲取試用API方法,付費(fèi)API計(jì)費(fèi)方式 原創(chuàng)
?API(應(yīng)用程序編程接口,Application Programming Interface)是一組定義和協(xié)議,用于構(gòu)建和集成應(yīng)用程序軟件。API允許不同的軟件系統(tǒng)之間進(jìn)行通信和數(shù)據(jù)交換。大模型API是大模型應(yīng)用開發(fā)的基礎(chǔ)。API的使用不需要很高的算力,CPU就能跑。
1.API作用及優(yōu)勢(shì)
大模型API(如GPT-4、BERT等)提供了強(qiáng)大的自然語言處理(NLP)能力,可以應(yīng)用于各種任務(wù)。以下是大模型API的主要功能和用途:
1. 自然語言理解和生成:
- 理解和生成自然語言文本,如撰寫文章、生成對(duì)話、回答問題等。
2. 對(duì)話系統(tǒng):
- 創(chuàng)建智能聊天機(jī)器人,用于客戶服務(wù)、技術(shù)支持等。
3. 文本分析:
- 分析情感、分類文本、提取關(guān)鍵詞、總結(jié)文章等。
4. 翻譯:
- 提供高質(zhì)量的多語言翻譯服務(wù)。
5. 內(nèi)容生成:
- 生成創(chuàng)意文案、寫作輔助、代碼生成等。
6. 搜索和推薦:
- 提供上下文相關(guān)的搜索結(jié)果和個(gè)性化推薦。
7. 教育和培訓(xùn):
- 提供個(gè)性化的學(xué)習(xí)輔助,生成練習(xí)題、解釋復(fù)雜概念等。
優(yōu)勢(shì)
1. 提高效率:
- 自動(dòng)化許多需要大量時(shí)間和精力的任務(wù),如文案撰寫、客戶服務(wù)等。
2. 增強(qiáng)創(chuàng)造力:
- 提供靈感和輔助創(chuàng)作,幫助人們突破創(chuàng)作瓶頸。
3. 個(gè)性化服務(wù):
- 根據(jù)用戶需求提供定制化的響應(yīng)和服務(wù),提高用戶滿意度。
4. 擴(kuò)展能力:
- 將先進(jìn)的NLP能力集成到現(xiàn)有系統(tǒng)中,提升整體功能和用戶體驗(yàn)。
本文以chatgpt 的api為例進(jìn)行說明。大家也可以試用其他大模型的API,在官網(wǎng)都可以購(gòu)買到API。這個(gè)是API匯總的網(wǎng)站:
正常API都是要花錢購(gòu)買的,計(jì)費(fèi)按照token算。后面會(huì)有API的計(jì)費(fèi)說明。這里提供幾個(gè)免費(fèi)獲取API的渠道,供大家參考。(網(wǎng)絡(luò)系統(tǒng)可能隨時(shí)變化,這些渠道后續(xù)也可能不能使用)
2.免費(fèi)獲取試用 API 及API使用示例
一個(gè)叫做GPT-API-free,下面是它的網(wǎng)頁(yè)。
??https://github.com/chatanywhere/GPT_API_free??
Github授權(quán)成功后,獲得免費(fèi)使用的API,但是數(shù)量有限。
Host地址
下面看看如何使用,使用API調(diào)用大模型進(jìn)行對(duì)話:
先要安裝必要的模塊:
pip install openai
from openai import OpenAI
# 假設(shè)您的 OpenAI API 密鑰是 "sk-yourapikey"
client = OpenAI(
api_key="sk-****************************",
base_url="https://api.chatanywhere.tech/v1"
)
# 發(fā)送請(qǐng)求
response = client.chat.completions.create(
model="gpt-3.5-turbo",
messages=[
{"role":"user", "content":"四大文明古國(guó)分別有哪些?"}
]
)
# 打印響應(yīng)內(nèi)容
print(response.choices[0].message.content)
得到的回復(fù):
四大文明古國(guó)指的是古埃及、古巴比倫、古印度和古中國(guó),它們被認(rèn)為是世界上擁有最悠久歷史和文明的四個(gè)國(guó)家。
保管好自己的API key很重要,因此把KEY放到環(huán)境中,在調(diào)用的時(shí)候就可以不顯示key了。
編輯 ~/.bashrc 文件,把key加入環(huán)境變量
vim ~/.bashrc
在~/.bashrc 文件末尾加上key
保存退出后,要在當(dāng)前終端會(huì)話中立即應(yīng)用 ~/.bashrc 文件中的更改,可以使用以下命令:
source ~/.bashrc
創(chuàng)建模型實(shí)例的代碼可以是這樣:
client = OpenAI(
api_key="",
base_url="https://api.chatanywhere.tech/v1"
)
3.免費(fèi)獲取OpenAI API key二
ChatGPT API 水龍頭,每24小時(shí)可領(lǐng)取一個(gè) $1.00 令牌用于開發(fā)測(cè)試 AI 產(chǎn)品.
??https://faucet.openkey.cloud/??
4.免費(fèi)獲取OpenAI API key三
刷新頁(yè)面后
5.API的計(jì)費(fèi)
使用AI模型的API一個(gè)很有必要了解的知識(shí)點(diǎn)是,它們都是咋收費(fèi)的?簡(jiǎn)短的答案是,絕大部分大模型API的計(jì)費(fèi)是基于token數(shù)量的。那么,什么是token呢?token可以被理解為是文本的一個(gè)基本單位,取決于不同的token化方法。短單詞可能每個(gè)詞是一個(gè)token。長(zhǎng)單詞可能被拆分成多個(gè)token,而中文的話所占的token數(shù)量會(huì)相對(duì)更多,有些字要用一個(gè)甚至更多token表示。
你可以去openai的這個(gè)網(wǎng)站,它有一個(gè)交互式分詞器,能展示任意文本如何被映射為不同的token。
??https://platform.openai.com/tokenizer??
如果你輸入中文,可以看到很多單獨(dú)的字,本身就是一個(gè)token,而常用詞可能一個(gè)詞是一個(gè)token。而有些不常見的字,可能會(huì)被映射成多個(gè)token,以至于網(wǎng)頁(yè)無法展示出拆分的半個(gè)字,就是圖上的?。
計(jì)費(fèi)時(shí)看的是的total token,即提示和回應(yīng)加一起的token數(shù)。
OpenAI API KEY的計(jì)費(fèi)可以在下面網(wǎng)站查詢,現(xiàn)在已經(jīng)比之前優(yōu)惠很多了。
??https://openai.com/api/pricing??
?
本文轉(zhuǎn)載自公眾號(hào)AIRoobt ,作者:AIRoobt
原文鏈接:????https://mp.weixin.qq.com/s/BQQeZjbZ9dUEeF11T9zDhg???
