編輯 | 言征

出品 | 51CTO技術棧（微信號：blog51cto）

OpenAI終于又Open了一把！開發(fā)者可以免費定制自己的GPT-4o了！

當?shù)貢r間8月20日，OpenAI  推出了GPT-4o微調功能，截至9月23日，所有開發(fā)者都可以使用自定義的數(shù)據(jù)集對GPT-4o進行微調，滿足特定用例的需求。

具體而言，這項微調功能可以通過一個小型數(shù)據(jù)集（小到幾十個示例），就能使模型能夠自定義響應的結構和語氣，或遵循復雜的特定領域指令，

1.首批嘗鮮的定制者們

OpenAI的合作伙伴Cosine推出了AI軟件工程助手Genie，可以幫自主識別和解決錯誤，構建和重構代碼。它可以推理復雜的技術問題，并以更高的準確度和更少的token更改代碼。

這里的Genie就是借助了微調后的GPT-4o的模型，并且Genie在SWE-bench測評榜上獲得了SOTA的水平，位列第一。

圖片

text to SQL 也是業(yè)內一個很熱的例子，Distyl也是通過微調GPT-4o的微調奪得了該領域BIRD-SQL的基準測試的第一名，執(zhí)行準確率高達71.83%，除了在SQL生成方面一騎絕塵，同時在查詢重構、意圖分類、思維鏈和自我修正等任務重表現(xiàn)出色。

2.如何操作？

對新功能感興趣的開發(fā)人員可以訪問 OpenAI 的微調儀表板，單擊“創(chuàng)建”，然后 gpt-4o-2024-08-06 從基礎模型下拉菜單中進行選擇。

圖片

不到一個月前，該公司允許開發(fā)人員對該模型的更小、更快、更便宜的版本 GPT-4o mini 進行微調，但它的功能不如完整版 GPT-4o。

OpenAI 技術人員 John Allard 和 Steven Heidel 在公司官方網(wǎng)站的博客文章中表示：“從編碼到創(chuàng)意寫作，微調可以對各個領域的模型性能產生巨大影響?！?/p>

3.即日起至 9 月 23 日提供免費tokens

OpenAI指出，開發(fā)人員僅使用訓練數(shù)據(jù)中的幾十個示例就能取得很好的效果。

為了啟動這項新功能，OpenAI 將每天免費提供最多 100 萬個tokens，供任何第三方組織（客戶）用于微調 GPT-4o，截至 2024 年 9 月 23 日。

眾所周知，tokens實際上就像 AI 模型的“母語”一樣發(fā)揮作用，并且是 OpenAI 和其他模型提供商用來確定模型攝?。ㄝ斎耄┗蛱峁ㄝ敵觯┬畔⒘康臏y量方法。

開發(fā)人員/客戶對 LLM 或 LMM（例如 GPT-4o）進行微調前，需要將與組織、團隊或個人用例相關的數(shù)據(jù)轉換為它可以理解的tokens，即對其進行標記化，OpenAI 的微調工具提供這些功能。

然而，這是有代價的：通常對 GPT-4o 進行微調每 100 萬個令牌的成本為 25 美元，而運行微調版本的推理/生產模型的成本為每百萬個輸入tokens3.75 美元，每百萬個輸出tokens 15 美元。

對于使用較小的 GPT-4o mini模型的用戶，截至 9 月 23 日，每天有 200 萬個免費訓練tokens可用。

此項服務擴展到所有付費使用層的開發(fā)人員，確保廣泛使用微調功能。

有媒體分析，OpenAI此舉也是日益激烈的競爭環(huán)境中做出的決策，畢竟谷歌、Anthropic等其他閉源供應商，Nous Research 推出的Meta Llama3.1的新變體Hermes3等都紛紛打起了價格戰(zhàn)。

不過，OpenAI有著自己獨特的優(yōu)勢，開發(fā)人員可以不必再費心思去托管推理、也不必去他們的自己搭建的服務器上進行訓練。開發(fā)者如果有需要，甚至可以將他們喜歡的服務器鏈接到OpenAI的API上。

4.微調是否會帶來新的數(shù)據(jù)安全問題

OpenAI 強調，即使為開發(fā)人員擴展了定制選項，安全性和數(shù)據(jù)隱私仍然是首要任務。經(jīng)過微調的模型可以完全控制業(yè)務數(shù)據(jù)，并且不存在輸入或輸出被用于訓練其他模型的風險。

此外，該公司還實施了分層安全緩解措施，包括自動評估和使用情況監(jiān)控，以確保應用程序遵守 OpenAI 的使用政策。

然而，研究表明，微調模型可能會導致它們偏離護欄和保障措施，并降低其整體性能。組織是否認為值得冒險取決于他們自己——然而，OpenAI 顯然認為值得，并鼓勵他們將微調視為一個不錯的選擇。

5.這只是一個開始

事實上，早在 4 月份，OpenAI 宣布為開發(fā)人員提供新的微調工具（例如基于 epoch 的檢查點創(chuàng)建）時就表示，“我們相信，未來絕大多數(shù)組織將開發(fā)針對其行業(yè)、業(yè)務或用例個性化的定制模型?！?/p>

今天發(fā)布的全新 GPT-4o 微調功能凸顯了 OpenAI 對這一愿景的持續(xù)承諾：每個組織都有自己的定制 AI 模型的世界。

正如OpenAI 官方博客中所說的：“這只是一個開始——我們將繼續(xù)投資擴大 開發(fā)人員的模型定制 選項?！?/p>

想了解更多AIGC的內容，請訪問：

51CTO AI.x社區(qū)

http://www.szyisi.cn/aigc/