10 月 16 日消息，當地時間周三，OpenAI 首席執(zhí)行官薩姆?奧爾特曼（Sam Altman）在面對外界對其放寬內容限制政策的批評時回應稱，該公司“并非世界選出的道德警察”。

圖源：OpenAI 官網

此前，奧爾特曼宣布將放松對旗下聊天機器人 ChatGPT 的內容管制，允許包括情色內容在內的成人主題內容上線，此舉引發(fā)了廣泛爭議。作為回應，奧爾特曼于周三表示，OpenAI 并不打算充當全球用戶行為的道德裁決者。

IT之家注意到，這家人工智能初創(chuàng)公司在過去數月已逐步加強安全管控措施，以應對外界日益增長的質疑 —— 即其如何保護用戶，尤其是未成年人的安全。

然而，奧爾特曼周二在社交媒體 X 平臺發(fā)帖稱，隨著公司開發(fā)出新的技術工具，并成功緩解了“嚴重的心理健康問題”，現(xiàn)在已能夠“安全地放寬”大部分內容限制。

去年 12 月，奧爾特曼稱 OpenAI 已決定向“經驗證的成年人”開放更多內容，包括情色題材。

周三，奧爾特曼再次發(fā)文試圖澄清這一政策調整。他表示，OpenAI“非常重視將成年用戶視為成年人來對待”的原則，但同時強調，平臺仍不會允許任何可能對他人造成傷害的內容存在。

他寫道：“正如社會在其他領域設定適當界限（例如 R 級電影）一樣，我們也希望在此采取類似的區(qū)分方式。”

這一立場與奧爾特曼今年 8 月在一檔播客節(jié)目中的表態(tài)形成鮮明對比。當時他表示，自己為 OpenAI 拒絕推出某些可能提升用戶活躍度的功能（如“性愛機器人頭像”）感到“自豪”。“有很多短期手段可以顯著推動增長或增加收入，但這些做法與我們的長期目標嚴重背道而馳?！眾W爾特曼當時說道。

今年 9 月，美國聯(lián)邦貿易委員會（FTC）啟動對 OpenAI 及其他科技公司的調查，關注諸如 ChatGPT 之類的聊天機器人是否會對兒童和青少年產生負面影響。此外，OpenAI 還卷入一起過失致死訴訟案，一個家庭指控 ChatGPT 導致其青少年兒子自殺身亡。

自上述調查和訴訟發(fā)生以來，OpenAI 已采取多項公開舉措以提升 ChatGPT 的安全性。上個月底，公司推出了一系列家長控制功能，并正在開發(fā)一套年齡預測系統(tǒng)，可自動為 18 歲以下用戶啟用適合青少年的設置。

就在周二，OpenAI 宣布成立一個由八位專家組成的顧問委員會，旨在深入研究人工智能對用戶心理健康、情緒狀態(tài)及內在動機的影響。同一天，奧爾特曼發(fā)布了關于放寬內容限制的聲明，隨即引發(fā)公眾困惑和社會媒體上的迅速反彈。

奧爾特曼坦言，輿論反應“遠超預期”。

他的言論也引起了多個倡導組織的關注。其中，美國全國反性剝削中心（National Center on Sexual Exploitation, NCOSE）呼吁 OpenAI 撤銷允許情色內容上線的決定。該組織執(zhí)行主任海莉?麥克納馬拉（Haley McNamara）周三發(fā)表聲明指出：“性化的 AI 聊天機器人本質上具有高風險，會在缺乏明確行業(yè)安全標準的情況下，因‘合成親密關系’而引發(fā)真實的心理健康危害?！?/p>