GPT-4 Turbo問(wèn)世,API更劃算,128K上下文窗口引領(lǐng)新時(shí)代
一、簡(jiǎn)介
在發(fā)布GPT-4(點(diǎn)擊了解GPT-4)僅僅八個(gè)月后,OpenAI推出了更新的模型GPT-4 Turbo,該模型具有可以在一次提示中容納300頁(yè)書(shū)的上下文窗口,并且提供更便宜的API訪(fǎng)問(wèn)。
【GPT-4 Turbo】:https://openai.com/blog/new-models-and-developer-products-announced-at-devday
二、GPT-4 Turbo的新功能有哪些?
以下是GPT-4 Turbo的主要特點(diǎn):
- 128K上下文窗口(比GPT-4大16倍)。
- 與GPT-4相比,輸入token的價(jià)格降低了3倍,輸出token的價(jià)格降低了2倍。
- 它具有截至2023年4月的知識(shí)(GPT-4的知識(shí)截止日期為2022年1月)。
【GPT-4 Turbo價(jià)格】:https://openai.com/pricing#gpt-4-turbo
三、如何訪(fǎng)問(wèn)?
對(duì)于付費(fèi)用戶(hù),GPT-4 Turbo現(xiàn)在是ChatGPT中默認(rèn)使用的模型。如果擁有OpenAI賬戶(hù)并已經(jīng)獲得了GPT-4的訪(fǎng)問(wèn)權(quán)限,可以通過(guò)在Playground上切換到gpt-4-11-6-preview模型來(lái)訪(fǎng)問(wèn)新模型。
圖片
OpenAI Playground截圖
GPT-4 Turbo對(duì)于所有付費(fèi)開(kāi)發(fā)者來(lái)說(shuō)都是可用的,可以通過(guò)在API中傳遞gpt-4-1106-preview來(lái)嘗試。以下是使用JavaScript的聊天完成請(qǐng)求示例:
import OpenAI from "openai";
const openai = new OpenAI();
async function main() {
const completion = await openai.chat.completions.create({
messages: [{ role: "system", content: "You are a helpful assistant." }],
model: "gpt-4-1106-preview",
});
console.log(completion.choices[0]);
}
main();
以下是使用Python實(shí)現(xiàn)的方法:
from openai import OpenAI
client = OpenAI()
completion = client.chat.completions.create(
model="gpt-4-1106-preview",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Hello!"}
]
)
print(completion.choices[0].message)
四、API定價(jià)
作為開(kāi)發(fā)者,降低定價(jià)是最令人興奮的一項(xiàng)更新。OpenAI已將輸入token的價(jià)格降低了3倍,將輸出token的價(jià)格降低了2倍。這使得新模型對(duì)于規(guī)模較小的開(kāi)發(fā)者和初創(chuàng)公司更加易于獲取。
GPT-4 Turbo的API價(jià)格:
圖片
OpenAI GPT-4 Turbo定價(jià)
之前的GPT-4 API價(jià)格:
OpenAI GPT-4定價(jià)
token是用于自然語(yǔ)言處理的詞片段。對(duì)于英文文本,1個(gè)token大約等于4個(gè)字符或0.75個(gè)單詞。
此外,ChatGPT API的訪(fǎng)問(wèn)費(fèi)用與ChatGPT Plus訂閱費(fèi)用是分開(kāi)計(jì)費(fèi)的。用戶(hù)可以在OpenAI賬戶(hù)的使用頁(yè)面上監(jiān)控自己的使用情況。
OpenAI使用情況界面
五、自動(dòng)切換工具
在最新的ChatGPT用戶(hù)界面中,下拉菜單已經(jīng)消失了。它被替換為僅有的三個(gè)選項(xiàng):GPT-4、GPT-3.5和插件。
ChatGPT模型選擇
現(xiàn)在,GPT-4 Turbo可自動(dòng)為用戶(hù)選擇合適的工具。
“我們聽(tīng)到了用戶(hù)的反饋。那個(gè)模型選擇器真的很煩人。” —— Sam Altman
例如,如果用戶(hù)要求AI生成一張圖片,它現(xiàn)在會(huì)聰明地使用Dall-E 3來(lái)生成圖片。
六、最后的思考
總的來(lái)說(shuō),很高興看到OpenAI在語(yǔ)言模型方面的快速創(chuàng)新。它們無(wú)疑是令人興奮的,為基于GPT的創(chuàng)新應(yīng)用提供了廣泛的可能性。
然而,思考一下OpenAI的戰(zhàn)略方法也很有意思。最初,OpenAI發(fā)布了他們的API,允許開(kāi)發(fā)者進(jìn)行構(gòu)建和創(chuàng)新,實(shí)際上承擔(dān)了早期采用和用戶(hù)參與的風(fēng)險(xiǎn)。事實(shí)證明,OpenAI 的這一舉措是明智之舉,因?yàn)樗粌H培養(yǎng)了一個(gè)多樣化的應(yīng)用生態(tài)系統(tǒng),還為他們提供了對(duì)最受需求的功能的洞察。
現(xiàn)在,OpenAI似乎正在有選擇地將這些受歡迎的功能直接集成到他們的平臺(tái)中,有效地精選了社區(qū)開(kāi)發(fā)的最佳產(chǎn)品和服務(wù)。