10 月 30 日消息，科技媒體 NeoWin 昨日（10 月 29 日）發(fā)布博文，報道稱 OpenAI 公司推出 gpt-oss-safeguard-120b 和 gpt-oss-safeguard-20b 兩款開源權(quán)重模型，專門用于根據(jù)用戶提供的策略對內(nèi)容進行推理、分類和標記。

這是繼今年早些時候發(fā)布 gpt-oss 系列推理模型后，OpenAI 在開源領(lǐng)域的又一重要舉措。新模型是此前 gpt-oss 模型的微調(diào)版本，同樣遵循寬松的 Apache 2.0 許可證，允許任何開發(fā)者免費使用、修改和商業(yè)部署。

與傳統(tǒng)的“一刀切”式安全系統(tǒng)不同，gpt-oss-safeguard 將定義安全邊界的權(quán)力交還給了開發(fā)者。其核心機制在于，模型無需在訓(xùn)練階段硬編碼規(guī)則，能夠在推理階段直接解釋并應(yīng)用開發(fā)者提供的安全策略。

gpt-oss-safeguard 的核心工作機制是，在模型推理（即實際運行）階段接收兩項輸入：一項是開發(fā)者自定義的安全策略，另一項是需要分類的內(nèi)容（如用戶消息或 AI 生成內(nèi)容）。

為了提升透明度和可用性，模型支持完整的“思維鏈”（Chain-of-Thought, CoT）輸出，能夠展示其得出結(jié)論的每一步推理過程。

這種設(shè)計允許開發(fā)者隨時按需調(diào)整策略，確保分類結(jié)果與特定應(yīng)用場景保持一致。同時，透明的決策過程也讓開發(fā)者能清晰地追溯和理解模型的判斷邏輯。

與傳統(tǒng)安全分類器相比，gpt-oss-safeguard 的最大優(yōu)勢在于其靈活性。傳統(tǒng)分類器通?；诎瑪?shù)千個標注樣本的大型數(shù)據(jù)集進行訓(xùn)練，策略一旦固化，更新就需要重新收集數(shù)據(jù)并訓(xùn)練模型，過程耗時耗力。

而 gpt-oss-safeguard 直接在推理時解讀策略，無需重新訓(xùn)練即可快速適應(yīng)新規(guī)則。這種方法源于 OpenAI 的內(nèi)部工具 Safety Reasoner，它通過強化學(xué)習(xí)微調(diào)技術(shù)，學(xué)會了對安全策略進行推理和解釋。

OpenAI 強調(diào)，這種方法在四種特定場景下尤其有效：

• 當(dāng)潛在風(fēng)險是新興或快速演變的，該模型能支持策略的快速適應(yīng)。
• 對于那些領(lǐng)域高度細微、傳統(tǒng)小型分類器難以處理的場景，它表現(xiàn)更佳。
• 當(dāng)開發(fā)者缺乏足夠樣本來為平臺上的每種風(fēng)險訓(xùn)練高質(zhì)量分類器時，該模型提供了有效解決方案。
• 在那些對生成高質(zhì)量、可解釋標簽的重視程度超過低延遲的場景中，它也是理想選擇。

當(dāng)然，gpt-oss-safeguard 模型也并非完美，OpenAI 提示開發(fā)者需要注意兩個主要的權(quán)衡：

• 第一，如果開發(fā)者有足夠的時間和數(shù)據(jù)（如數(shù)萬個已標注樣本）來訓(xùn)練一個傳統(tǒng)的分類器，那么在處理復(fù)雜或高風(fēng)險任務(wù)時，傳統(tǒng)分類器的精度可能仍然會超越 gpt-oss-safeguard。換言之，追求極致的精確度時，定制訓(xùn)練的系統(tǒng)或許是更優(yōu)選。
• 第二，gpt-oss-safeguard 的運行速度較慢且資源密集，讓其在大型平臺上對所有內(nèi)容進行實時掃描變得更具挑戰(zhàn)性。

這兩款模型目前已在 Hugging Face 平臺上開放下載。

IT之家附上參考地址

• Introducing gpt-oss-safeguard
• 技術(shù)報告
• Hugging Face