自去年 11 月 30 日發(fā)布以來，OpenAI 的 ChatGPT 已經(jīng)在短短的三個月內(nèi)席卷了各個社會領(lǐng)域：普通人用它當(dāng)搜索引擎；辦公室文員用它來寫文案、做會議紀(jì)要，程序員用它來寫代碼。

但是，令人擔(dān)憂的是，學(xué)生們也會用它來寫作業(yè)。前段時間的一項調(diào)查表明，美國近 9 成的學(xué)生已經(jīng)在用 ChatGPT 寫作業(yè)了，有篇 ChatGPT 生成的論文甚至拿到了全班第一。對于學(xué)校老師來說，這一變化來得過于突然。在還沒想出對策之前，有些學(xué)校直接選擇了禁用。

同樣給 ChatGPT 下了禁令的還有一些公司，包括花旗、高盛、摩根大通等華爾街金融機構(gòu)，因為他們擔(dān)心員工在使用 ChatGPT 的時候會泄露公司敏感信息。

這些手忙腳亂的應(yīng)對措施反映出一個問題：我們這個社會還沒有為 ChatGPT 這類 AI 生成模型的到來做好準(zhǔn)備，相關(guān)問題的討論需要被提上日程。或許這也是近期舉辦的全球人工智能開發(fā)者先鋒大會「由知道智：AI 安全與倫理洞察主題論壇」座無虛席的原因。

雖然大會的主題是「A 安全與倫理洞察」，但嘉賓的討論范圍沒有局限于此，而是加入了多個維度的討論，從 ChatGPT 等 AI 生成模型對基礎(chǔ)研究的影響到它的應(yīng)用問題再到新時代人才培養(yǎng)思路，各個角度都展開了深入探討。透過這個論壇，大家試圖勾勒出一個問題的答案：在已經(jīng)到來的 AIGC 時代，我們要如何應(yīng)對？

ChatGPT 給科研領(lǐng)域帶來了哪些啟發(fā)和挑戰(zhàn)？

今年 1 月份，因為對 ChatGPT 的評價過于苛刻，圖靈獎得主 Yann LeCun 被送上了熱搜。在他看來，「就底層技術(shù)而言，ChatGPT 并沒有什么特別的創(chuàng)新，」也不是「什么革命性的東西」，只能算一個像樣的工程實例。

「ChatGPT 是否具有革命性」是個充滿爭議的話題。但毋庸置疑，它確實是一個工程上的杰作。在現(xiàn)場，中國科學(xué)院院士鄂維南也指出了這一點。

他還強調(diào)，這一杰作是 OpenAI 逐步驗證、集中投入的結(jié)果。其中，「集中投入」這點是非常重要的。因為 OpenAI 的成功表明，以往那種「小作坊、項目制」的 AI 賦能方式正在成為歷史，而「AI 工程化、平臺化」正成為釋放人工智能技術(shù)紅利的重要支撐。如果能夠適應(yīng)這種變化，AI 在自然語言領(lǐng)域所取得的成功，有望在基礎(chǔ)科學(xué)研究領(lǐng)域被復(fù)制。這也是鄂維南院士所從事的 AI for Science 領(lǐng)域的工作。

當(dāng)然，這項工作并不容易，需要我們集中力量去構(gòu)建用于基礎(chǔ)科學(xué)研究的平臺化基礎(chǔ)設(shè)施，包括數(shù)據(jù)、基礎(chǔ)軟件工具、算力平臺、智能化科研平臺等。在過去的幾年，鄂院士已經(jīng)帶領(lǐng)團隊做了一些這方面的工作，發(fā)布了原子間勢能函數(shù)預(yù)訓(xùn)練模型等重要成果。

不過，他們的工作還面臨很多挑戰(zhàn)，比如積累的數(shù)據(jù)格式不一、噪聲大，軟件缺乏基本的測試體系，算力基礎(chǔ)設(shè)施跟不上等等。在鄂院士看來，這屬于「黎明前的黑暗」，只有敢于在原始創(chuàng)新方向上集中資源，我們才能迎來曙光。

除了自然科學(xué)，ChatGPT 的出現(xiàn)對于社會科學(xué)領(lǐng)域的研究者也有一定的啟發(fā)。對此，華東師范大學(xué)政治與國際關(guān)系學(xué)院院長吳冠軍貢獻了非常有價值的思路。

吳院長指出，在 ChatGPT 面前，社會科學(xué)研究者應(yīng)該有一些危機感。首先，它的背后是巨量的數(shù)據(jù)，這些數(shù)據(jù)可能是人類學(xué)者靠傳統(tǒng)的田野調(diào)查搜集不到的，而且它能夠在短時間內(nèi)處理大量數(shù)據(jù)。其次，它「讀」了大量的書，這些書，人可能一輩子也讀不完。

「我們正在面對（技術(shù)）奇點，但是我們很多學(xué)者卻茫然不知，」吳冠軍說到。

這里的技術(shù)奇點指的是一個根據(jù)技術(shù)發(fā)展史總結(jié)出的觀點，認(rèn)為未來將要發(fā)生一件不可避免的事件：技術(shù)發(fā)展將會在很短的時間內(nèi)發(fā)生極大的接近于無限的進步。屆時，我們熟悉的知識、價值、規(guī)則全部會失效。

因此，他呼吁，社會科學(xué)家需要和其他科學(xué)家一起，推進對技術(shù)奇點時代的研究。這種研究以亞里士多德知識分類法中的「實踐性知識」（比如倫理、政治）為主，因為在另外兩類知識（生產(chǎn)性知識和理論性知識）領(lǐng)域，AI 已經(jīng)開始學(xué)習(xí)甚至學(xué)得比人類好了。而在政治等實踐性知識領(lǐng)域，AI 還只能復(fù)述，無法創(chuàng)造新的世界。因此，吳院長認(rèn)為，人類在這一領(lǐng)域?qū)⒋笥锌蔀椤?/span>

AIGC 市場即將爆發(fā)，應(yīng)用端要如何做好準(zhǔn)備？

前幾天，OpenAI 在千呼萬喚中發(fā)布了 ChatGPT 的 API，而且價格非常便宜，生成百萬 token 僅需 2 美元。對于應(yīng)用端來說，這是一個頗為振奮人心的消息。與此同時，國內(nèi)的類 ChatGPT 產(chǎn)品的研發(fā)也在加快，本月也將有新產(chǎn)品問世?？梢灶A(yù)見的是，在未來的一年，由 AIGC 模型支持的應(yīng)用將在國內(nèi)外集中爆發(fā)。

但與此同時，我們對于應(yīng)用端的投入似乎并沒有跟上，這是德勤中國主席蔣穎觀察到的現(xiàn)象。

具體來說，她發(fā)現(xiàn)我國的人工智能發(fā)展對于研發(fā)供給側(cè)和應(yīng)用需求側(cè)的投入存在失衡現(xiàn)象。這種失衡表現(xiàn)在三個方面。

首先，在角色方面，當(dāng)前很多的決策組織主要還是由科研機構(gòu)、科技企業(yè)構(gòu)成，行業(yè)協(xié)會等應(yīng)用場景的相關(guān)方參與相對不足。因此，蔣穎認(rèn)為，我們需要建立一個多方參與的聯(lián)盟，從而進一步提升轉(zhuǎn)化需求側(cè)力量在人工智能發(fā)展中的策源作用。

其次，在發(fā)展方面，通過技術(shù)創(chuàng)新來提升人工智能發(fā)展已經(jīng)被充分提及并得到大量支持，但模式創(chuàng)新的力量還沒有得到充分重視。因此，蔣穎提出，我們應(yīng)該鼓勵人工智能創(chuàng)新商業(yè)模式的實際運用，加大這方面的研究。

最后，在人才培養(yǎng)方面，現(xiàn)在很多高校都設(shè)立了人工智能相關(guān)專業(yè)，但這些專業(yè)大多局限于理工類知識和技能的培養(yǎng)，導(dǎo)致具備技術(shù)和管理應(yīng)用雙向知識的人才相對匱乏。要知道，在實際應(yīng)用場景中，要想讓 AI 真正發(fā)揮經(jīng)濟效能，僅僅用它來完成某個生產(chǎn)線的工作是不夠的，整個流程、管理架構(gòu)都需要轉(zhuǎn)變，能滿足這類需求的人才現(xiàn)階段是非常稀缺的。

在應(yīng)用層面，商湯科技智能產(chǎn)業(yè)研究院院長、上海人工智能研究院副院長田豐也分享了自己的觀點，不過他更加關(guān)注的是 AI 應(yīng)用過程中存在的各種風(fēng)險，包括模型風(fēng)險、數(shù)據(jù)風(fēng)險等等。

具體來說，田豐主張用技術(shù)及管理工具去提升企業(yè) AI 倫理治理能力。在過去的幾年，商湯科技已經(jīng)自研了一套 AI 倫理風(fēng)險的治理工具箱，包括數(shù)字水印、數(shù)據(jù)脫敏、數(shù)據(jù)沙箱、模型體檢平臺等，覆蓋設(shè)計、開發(fā)、部署、上線這樣一個完整的產(chǎn)品生命周期。

學(xué)生都在用 ChatGPT，老師怎么辦？

在論壇現(xiàn)場，上海大學(xué)副校長汪小帆被問到了一個問題：上海大學(xué)會禁止學(xué)生用 ChatGPT 嗎？對此，汪校長回答說：不主張禁用。

在他看來，ChatGPT 等 AI 工具的出現(xiàn)有其積極的一面。

在教學(xué)實踐中，它可以為學(xué)生提供即時的反饋，像 AlphaGo 輔助人類棋手一樣幫助學(xué)生更快地取得進步?；叵胍幌拢?0 年前，我們還在圖書館一本一本地查閱文獻；20 年前，我們開始在網(wǎng)上快速檢索文獻；而今天，ChatGPT 已經(jīng)能夠幫我們把文獻整理成摘要或綜述了。這無疑大大提高了我們學(xué)習(xí)知識的效率。

在教學(xué)內(nèi)容和方法上，它會迫使教學(xué)工作者去反思：我們的教育應(yīng)該傳授什么樣的知識？如何利用 ChatGPT 這類工具讓我們高等教育的「教」和「學(xué)」更加高效？經(jīng)過這一輪反思和變革，高等教育可能會更加貼近其本質(zhì)。就像愛因斯坦所說，「大學(xué)教育的價值不在于記住很多事實，而是訓(xùn)練大腦會思考…… 被放在首要位置的永遠應(yīng)該是獨立思考和判斷的總體能力的培養(yǎng)，而不是獲取特定的知識」。

當(dāng)然，ChatGPT 給高校教育帶來的問題也是無法回避的。對此，汪校長提出了三項需要做的工作：一是有章可循，即制定在教學(xué)和研究中使用 AIGC 的指導(dǎo)性原則，并確保學(xué)生和教師都能了解和遵循這些準(zhǔn)則；二是合理使用，即支持在教、學(xué)和研究中合理使用 AIGC，但采取有效舉措禁止抄襲等學(xué)術(shù)不端行為；三是教學(xué)示范，即教師在教學(xué)和研究過程中起到示范作用，并把合理使用 AIGC 等人工智能技術(shù)納入學(xué)術(shù)誠信和倫理道德課程教學(xué)。

人工智能發(fā)展，不能走汽車?yán)下?/h4>

除了嘉賓們的精彩分享，本次論壇還誕生了兩項重要成果。

第一項成果是上海標(biāo)準(zhǔn)《信息技術(shù) 人工智能系統(tǒng)生命周期治理指南》工作組核心專家成員獲頒聘書。該指南將從 AI 算法模型的概念設(shè)計開始，貫穿開發(fā)、測試評估、部署、運行監(jiān)控、退出使用的完整生命周期，為人工智能系統(tǒng)的治理提供指導(dǎo)。這是國內(nèi)首個關(guān)于人工智能系統(tǒng)治理的地方標(biāo)準(zhǔn)，旨在以標(biāo)準(zhǔn)規(guī)則促進發(fā)展，通過技術(shù)手段和監(jiān)管措施守住安全和倫理的底線，確保類似 AIGC 等技術(shù)充分發(fā)揮其社會價值、經(jīng)濟價值，用實際成效樹立人工智能發(fā)展的「上海經(jīng)驗」。

第二項成果《2023 上海人工智能安全倫理倡議書》的發(fā)布與簽署?！冻h書》以《上海市促進人工智能產(chǎn)業(yè)發(fā)展條例》為指導(dǎo)，倡導(dǎo)人工智能開發(fā)者向光而行，確保人工智能行業(yè)朝著公平公正、內(nèi)容安全、隱私保護、互聯(lián)互通、共建共享共治方向不斷前進，向上發(fā)展。來自上海市人工智能行業(yè)協(xié)會、上海中青年知識分子聯(lián)誼會、上海臨港集團、信通院華東分院、市軟件開發(fā)中心等代表共同簽署了《倡議書》。

為什么要做這兩件事？在演講中，汪校長提到了一個冷知識：汽車是 19 世紀(jì)末被發(fā)明出來的，但直到 20 世紀(jì)下半葉，不同的國家才出臺了強制要求開車系安全帶的法規(guī)。可以想象，這中間必然有多少人白白喪命。

仔細想一下，現(xiàn)在的我們其實有點像 19 世紀(jì)那些剛剛接觸汽車的人們：新興的 AIGC 在加速狂飆，但開車的人卻沒有法規(guī)去約束，坐車的人也沒有安全帶可系。這些問題迫在眉睫。

「今天人工智能的發(fā)展，顯然不能走汽車的這條路，」汪校長語重心長地說。以論壇為起點，社會各方都在探索一條新的路徑，讓我們能夠從容地應(yīng)對 AIGC 時代的到來。