OpenAI公司首席執(zhí)行官承認(rèn)ChatGPT存在風(fēng)險(xiǎn),現(xiàn)在怎么辦?

在上周末,OpenAI公司首席執(zhí)行官Sam Altman突然加入了關(guān)于ChatGPT(該公司最近發(fā)布的對話文本生成模型) 在Twitter上的爭論,并給出了令人驚訝的警告。
他在Twitter上寫道:“ChatGPT的功能雖然非常有限,但在某些方面做得很好,足以給人留下一種令人誤解的偉大印象。但現(xiàn)在依靠它做任何重要的事情都是錯(cuò)誤的。這是一種進(jìn)步的預(yù)演;在穩(wěn)健性和真實(shí)性方面,我們還有很多工作要做。”
Altman最后在該帖子中寫道,“ChatGPT是一個(gè)有趣的創(chuàng)意靈感。太棒了!對事實(shí)查詢的依賴并不是個(gè)好主意。我們將努力改進(jìn)!”

OpenAI公司努力應(yīng)對ChatGPT炒作
那么,是什么促使Altman發(fā)表上述言論?畢竟,當(dāng)OpenAI公司在11月30日發(fā)布ChatGPT時(shí),雖然他警告說這是一個(gè)早期的演示和研究版本,在功能上有很多限制,但他也對未來的應(yīng)用進(jìn)行了一些宣傳和炒作。他在Twitter上寫道,“很快,你就能擁有一個(gè)有用的助手,與你交談,回答你的問題,并給出建議。隨后你將擁有自動執(zhí)行任務(wù)的工具,最終受益匪淺,因?yàn)樗鼤槟惆l(fā)現(xiàn)新的知識。”
Altman最近發(fā)出的警告可能并不是對上周AI Beat專欄的回應(yīng)。更有可能的是,是過去10天來的大規(guī)模炒作和鋪天蓋地批評的回應(yīng)。到目前為止,OpenAI公司的ChatGPT被支持者描述為一種“轟動”和“最具顛覆性的技術(shù)”,但也有批評者指出,“ChatGPT有點(diǎn)像你在酒吧遇到的那個(gè)喝醉的女孩,她一直在喋喋不休地說話,有一些是真話,有一些是廢話,但你肯定不會想把她帶回家去見你的父母。”
也許,最值得注意的是,Altman看到了OpenAI公司的研究演示對主流的沖擊?!都~約時(shí)報(bào)》、《華爾街日報(bào)》、《華盛頓郵報(bào)》、《大西洋月刊》甚至《??怂固鞖狻范荚谶^去幾天里報(bào)道了這一事件。
ChatGPT現(xiàn)在發(fā)生了什么?
目前看來,ChatGPT一直得到行業(yè)人士的關(guān)注。沒有任何跡象表明OpenAI的受歡迎程度正在下降:事實(shí)上,OpenAI公司似乎在滿足請求方面遇到了困難。據(jù)報(bào)道,一些人收到了這樣的通知:“哇!你可能得等一段時(shí)間。目前收到的請求多得讓我們無法接受。”
但盡管圍繞ChatGPT的討論仍在繼續(xù),從那些指責(zé)谷歌公司在大型語言模型方面落后的用戶,到對大學(xué)論文未來的擔(dān)憂,似乎開發(fā)這些模型的開發(fā)者都在保持低調(diào),意識到未來出現(xiàn)的激烈競爭。
對于OpenAI公司來說,該公司顯然正在利用這段廣泛的ChatGPT社區(qū)實(shí)驗(yàn)期來獲得RLHF(從人類反饋中強(qiáng)化學(xué)習(xí)),以用于備受期待的GPT-4的未來版本。
當(dāng)然,雖然StabilityAI公司首席執(zhí)行官Emad Mostaque說得很清楚,但正是這么說,代表了硬幣的另一面:晝夜不停地工作以開發(fā)ChatGPT的開源變體的開發(fā)人員。

Stable Diffusion公司的創(chuàng)建者之一LAION表示,他們已經(jīng)在積極地研究這個(gè)問題。他說,“所以,我們需要等待。同時(shí),我保證上面的文字都不是ChatGPT寫的,至少現(xiàn)在是這樣?!?/p>
























