幾天前，馬斯克、Yoshua Bengio 等人聯(lián)名簽署公開信，呼吁所有 AI 實驗室應(yīng)立即暫停訓(xùn)練比 GPT-4 更強大的 AI 模型。現(xiàn)在，又有人要叫停已經(jīng)發(fā)布的 GPT-4。

這次叫停 GPT-4 的是非營利組織人工智能與數(shù)字政策中心（CAIDP）。CAIDP 請求美國聯(lián)邦貿(mào)易委員會（FTC）調(diào)查 OpenAI 公司并禁止該公司進一步發(fā)布 GPT-4。

文件地址：https://cdn.arstechnica.net/wp-content/uploads/2023/03/CAIDP-FTC-Complaint-OpenAI-GPT-033023.pdf

CAIDP 向 FTC 提出這份申請的原因是他們認為「OpenAI 發(fā)布的消費級產(chǎn)品 GPT-4 存在偏見、欺騙性，并且對隱私和公共安全構(gòu)成風(fēng)險。模型的輸出無法證明或復(fù)現(xiàn)，且在部署之前沒有進行獨立評估」。

CAIDP 呼吁對美國所有商業(yè)人工智能產(chǎn)品進行獨立監(jiān)督和評估，并確保建立必要的「保護措施」，來保護消費者、企業(yè)和商業(yè)市場。

此前，F(xiàn)TC 已經(jīng)宣布一個人工智能標準，即「在促進問責(zé)制的同時，要求人工智能的使用是透明的、可解釋的、公平的，并在經(jīng)驗上是合理的」，CAIDP 稱「OpenAI 的 GPT-4 不滿足這些要求中的任何一個」。

距離 GPT-4 發(fā)布僅過去兩周，人們已經(jīng)對這類強大的 AI 模型產(chǎn)生了巨大的分歧。一方面，想叫停 GPT-4 等強大模型的一類人認為這些模型會給信息安全甚至人類社會構(gòu)成較大風(fēng)險；另一方面，一些人認為這正是人工智能蓬勃發(fā)展的好時機，我們應(yīng)該推動技術(shù)的加速進步。

有趣的是，OpenAI CEO Sam Altman 發(fā)布了一條新推特：「在風(fēng)暴的中心保持平靜。」這或許是他對于最近一系列「暫停 GPT-4 等模型研究」呼吁的回應(yīng)。

在風(fēng)險方面，OpenAI 在發(fā)布時表示已讓外部專家評估 GPT-4 帶來的潛在風(fēng)險。然而，CAIDP 在提交給 FTC 的申請中明確指出 GPT-4 違反了哪些法案。

CAIDP 認為 GPT-4 嚴重影響了商業(yè)公平，稱：「GPT-4 的商業(yè)發(fā)布違反了 FTC 法案第 5 節(jié)、FTC 就人工智能產(chǎn)品的使用和廣告對企業(yè)制定的標準，以及人工智能治理的新興規(guī)范等等。」

此外，OpenAI 沒有透露 GPT-4 的任何技術(shù)細節(jié)。這也是 CAIDP 向 FTC 提出申請的原因之一。

CAIDP 表示：「OpenAI 沒有透露有關(guān)架構(gòu)、模型大小、硬件、計算資源、訓(xùn)練技術(shù)、數(shù)據(jù)集構(gòu)建或訓(xùn)練方法的細節(jié)，而研究界通常的做法是記錄大型語言模型的訓(xùn)練數(shù)據(jù)和訓(xùn)練技術(shù)，但 OpenAI 選擇不為 GPT-4 做這些事。特別地，生成式人工智能模型不是尋常的消費品，因為它們在使用的過程中可能會表現(xiàn)出一些異常行為，而這些行為可能是其發(fā)布公司之前沒有發(fā)現(xiàn)的。」

投訴細節(jié)

具體來說，CAIDP 在這份投訴申請中針對 GPT-4 和相關(guān)模型 ChatGPT 指出了一系列潛在風(fēng)險。

例如，OpenAI 在文章《 GPT-4 System Card 》中已經(jīng)明確表示，GPT-4 可能會強化和重現(xiàn)特定的偏見和世界觀，包括對某些邊緣群體的刻板印象和貶低聯(lián)想。CAIDP 還引用了 OpenAI 公司的一篇博文，該博文稱類似的大模型 ChatGPT 有時會響應(yīng)有害指令或表現(xiàn)出有偏見的行為。

在提交給 FTC 的投訴中，CAIDP 表示「OpenAI 在充分了解風(fēng)險的情況下，還是向公眾發(fā)布了 GPT-4 ，以用于商業(yè)用途」。投訴還稱，「《 GPT-4 System Card 》沒有提供 OpenAI 在其測試期間進行的安全檢查的詳細信息，也沒有詳細說明 OpenAI 為保護兒童采取的任何措施，這也引發(fā)了對兒童使用 GPT-4 的擔(dān)憂?！?/span>

CAIDP 還指出了歐洲消費者組織 BEUC 提出的擔(dān)憂：「如果 ChatGPT 被用于消費者信貸或保險評分，那么它有沒有可能會產(chǎn)生不公平和有偏見的結(jié)果？」這條推文也被作為引用出現(xiàn)在 CAIDP 的投訴申請中。

另外，在網(wǎng)絡(luò)安全方面，ChatGPT 可被用于網(wǎng)絡(luò)釣魚、制作虛假文本，或是生成惡意代碼。在隱私方面，CAIDP 表示本月有報道稱 OpenAI 向其他用戶顯示了私人聊天記錄。

在另一個案例中，一位 AI 研究人員介紹了 ChatGPT 是如何接管某人賬戶，查看聊天記錄，并在他們沒有意識到的情況下訪問他們的賬單信息。不過 OpenAI 修復(fù)了該漏洞。

CAIDP 還表示，GPT-4 能夠從圖片輸入中提供文本回復(fù)，這一功能對個人隱私和個人自主權(quán)來說影響巨大，它能讓用戶將個人圖像與詳細的個人數(shù)據(jù)聯(lián)系起來。據(jù)了解，OpenAI 已暫停發(fā)布圖像到文本功能 ，但真實情況如何還不好說。

CAIDP 認為 FTC 應(yīng)該禁止 OpenAI 對 GPT 的進一步商業(yè)部署，要求在部署之前和整個 GPT AI 生命周期對 GPT 產(chǎn)品進行獨立評估，要求 OpenAI 遵守 FTC AI 標準，并建立一個可公開訪問的 GPT-4 的事件報告機制，類似于 FTC 報告消費者欺詐的機制。

CAIDP 還敦促 FTC 進一步發(fā)布標準規(guī)范，以用作「生成式人工智能市場領(lǐng)域的產(chǎn)品基本標準」。

AI 學(xué)界，一場論戰(zhàn)

從前兩天千人聯(lián)名要求暫停 GPT-4 后續(xù) AI 大模型的研發(fā)，到今天 CAIDP 要求 FTC 調(diào)查 OpenAI 禁止發(fā)布新的商業(yè)版 GPT-4。短短一兩天時間，各路討論已經(jīng)炸開了鍋，AI 大佬以及各路大牛紛紛出來公開回應(yīng)。他們當(dāng)中有反對的，也有支持的。

在暫停 GPT-4 后續(xù) AI 大模型的研發(fā)方面，圖靈獎得主 Yoshua Bengio、特斯拉 CEO（OpenAI 聯(lián)合創(chuàng)始人）伊隆?馬斯克、紐約大學(xué)名譽教授 Gary Marcus、UC 伯克利教授 Stuart Russell 等都是贊成派，他們已經(jīng)在暫停巨型 AI 實驗公開信上簽了名。值得注意的是，CAIDP 的總裁兼創(chuàng)始人 Marc Rotenberg 也簽署了這份公開信。

公開信地址：https://futureoflife.org/open-letter/pause-giant-ai-experiments/

不過一直抨擊 ChatGPT 的 Yann LeCun 公開表示不會簽署這封公開信，不同意這封公開信的內(nèi)容。

俄勒岡州立大學(xué)名譽教授 Thomas G. Dietterich 在推特上表示「我也沒簽。這封信充斥著一堆可怕的修辭和無效或不存在的政策。一些重要的技術(shù)和政策問題，都在努力解決中。」 LeCun 公開表示「我同意」。

吳恩達也發(fā)文公開反對千人聯(lián)名，并表示：「GPT-4 在教育、醫(yī)療保健、食品等方面都有很多新的應(yīng)用，會幫助很多人。除非政府介入，否則實施暫停并阻止所有團隊擴大 LLM 規(guī)模是不現(xiàn)實的。此外，讓政府暫停他們不了解的新興技術(shù)是反競爭的，這樣就開了一個糟糕的先例，也是糟糕的政策。」

隨后田淵棟也支持吳恩達的觀點，「表明自己不會簽署暫停令。并表示這種事情一旦開始，就沒有辦法停止或扭轉(zhuǎn)這一趨勢，這就是進化的必然。我們應(yīng)該換個角度向前看，更好地理解 LLM，適應(yīng)它并利用其力量，感受熱度?！?/span>

剛剛宣布離開谷歌大腦的 Yi Tay（之前是谷歌大腦的高級研究員）表示：「如果禁言在網(wǎng)上胡亂討論 LLM 的人 6 個月，我會簽名。」