MIT教授的一句話，徹底讓整個(gè)中國(guó)學(xué)生圈怒了！

就在昨天，被譽(yù)為「情感計(jì)算」之母的Rosalind Picard在NeurIPS的受邀演講中，直言「中國(guó)學(xué)生不誠(chéng)實(shí)」讓全場(chǎng)嘩然。

她的一頁(yè)P(yáng)PT中，明晃晃地寫著：

我這樣做，就是為了把論文結(jié)果的數(shù)據(jù)弄得好看點(diǎn)。在我的學(xué)校里沒有人教過我們道德和價(jià)值觀。

——這是一位被頂尖大學(xué)開除的中國(guó)學(xué)生的辯解

在她的注腳中為自己辯解道，「我認(rèn)識(shí)的大多數(shù)中國(guó)人都是誠(chéng)實(shí)且品德高尚的」

QA環(huán)節(jié)中，一位中國(guó)女學(xué)生當(dāng)場(chǎng)與Picard對(duì)峙，并用非常理性、克制的語言，讓其對(duì)種族歧視的言論做出回應(yīng)。

瞬間，整個(gè)學(xué)術(shù)界炸鍋了！AI大佬集體發(fā)聲，紛紛怒斥反駁她的觀點(diǎn)。

谷歌首席科學(xué)家Jeff Dean表示，「我雖沒有看那個(gè)演講，但我看到的幻燈片內(nèi)容相當(dāng)冒犯。這種泛泛而論的偏見在NeurIPS或其他任何地方都不應(yīng)該存在」。

杜克大學(xué)陳怡然教授表示，「就這件事而言，這里用任何具體的國(guó)家、種族、和群體來舉例既不恰當(dāng)，也完全沒有必要」。

華盛頓大學(xué)計(jì)算機(jī)教授稱，「令人憤怒的是NeurIPS繼續(xù)發(fā)布這種垃圾言論。NeurIPS該成熟點(diǎn)了」！

在鋪天蓋地的輿論壓力之下，NeurIPS主委會(huì)緊急行動(dòng)，火速發(fā)布官方道歉聲明。

NeurIPS承認(rèn)今天主題演講者對(duì)中國(guó)學(xué)者文化刻板印象的言論強(qiáng)化了隱性偏見，但這并不代表NeurIPS的立場(chǎng)。NeurIPS致力于為所有人提供一個(gè)安全的空間。我們需要針對(duì)今天下午特邀演講中的評(píng)論作出回應(yīng)，因?yàn)檫@種言論不符合NeurIPS的立場(chǎng)，也違背了我們的行為準(zhǔn)則。我們正在直接與演講者溝通處理這個(gè)問題。NeurIPS致力于建設(shè)一個(gè)多元化和包容性的環(huán)境，確保每個(gè)人都能得到平等對(duì)待。

這場(chǎng)由一頁(yè)P(yáng)PT引發(fā)的「血案」之爭(zhēng)，正在持續(xù)發(fā)酵.......

MIT教授口出惡言，中國(guó)女學(xué)生當(dāng)面反駁

同一天，NeurIPS 2024大會(huì)爆火了兩大熱點(diǎn)。

一件是Ilya現(xiàn)場(chǎng)宣判預(yù)訓(xùn)練時(shí)代終結(jié)，另一件便是MIT教授冒犯中國(guó)學(xué)生的言論了。

現(xiàn)場(chǎng)，Rosalind Picard主題演講的題目是——「如何優(yōu)化最重要的東西」？

關(guān)于演講的內(nèi)容，網(wǎng)友也放出了一部分。比如，她提到了構(gòu)建AGI，我們需要解決的問題要比提出的方案多得多，以及關(guān)于情感計(jì)算相關(guān)的一些研究。

原本這是一場(chǎng)關(guān)于學(xué)術(shù)的探討，卻演變成了一個(gè)種族歧視的惡性案件。

那么，究竟是從什么話題，她延展到了「中國(guó)學(xué)生不誠(chéng)實(shí)」的問題？

在一張內(nèi)容鋪屏的PPT上，Picard重點(diǎn)強(qiáng)調(diào)了學(xué)術(shù)界存在的問題：一些人對(duì)AI的不道德使用浪費(fèi)了其他人大量時(shí)間，并損害了學(xué)術(shù)領(lǐng)域的誠(chéng)信。

她還引用了英特爾團(tuán)隊(duì)研討會(huì)的一個(gè)主題研究——你的論文是否正在被LLM審閱？調(diào)查同行評(píng)審中AI文本的可檢測(cè)性。

這項(xiàng)研究揭示了在評(píng)審層面?zhèn)€例中，準(zhǔn)確識(shí)別AI生成文本的困難性，突出強(qiáng)調(diào)開發(fā)新工具和方法來檢測(cè)這類生成式AI不道德應(yīng)用的緊迫需求

接下來，她引出冒犯性言論的一句話是：「如果你看到了什么，就說點(diǎn)什么」？

「如果你看到了不良行為，就把這個(gè)人拉到一邊說——快看，這是正確的做法」。

緊接著，她以中國(guó)學(xué)生為例，稱這是發(fā)生在一所知名高校的真實(shí)故事。

一名學(xué)生因違反學(xué)術(shù)誠(chéng)信被開除，而他的辯解令人震驚：「學(xué)校沒有教導(dǎo)我們什么是對(duì)錯(cuò)」。

這種推卸責(zé)任的態(tài)度，不禁讓人為之憂心。

不過，她又稱，「其實(shí)，我接觸到的大多數(shù)中國(guó)人都非常誠(chéng)實(shí)，道德高尚。我希望這只是一個(gè)例外」。

再之后，她做了一個(gè)總結(jié)：

因此，使用AI生成捏造的結(jié)果、虛假數(shù)據(jù)，并將其發(fā)表在出版物上是不正確的。

顯然，我們使用GenAI生成的東西，甚至改進(jìn)訓(xùn)練集，目的并不是以這種方式傳遞出去，我們必須在社區(qū)中劃清界限說明，我們可以容忍什么。

我們必須在教育人方面，要做得更好。

我常聽到一些人說，他們迫于壓力要優(yōu)化自己簡(jiǎn)歷。當(dāng)然，每個(gè)人都想優(yōu)化簡(jiǎn)歷，但是前提是需要考慮一下「約束優(yōu)化」，對(duì)吧？

你的誠(chéng)信，比在簡(jiǎn)歷上寫的任何令人印象深刻的東西都重要。

因此，當(dāng)你優(yōu)化你的生活、簡(jiǎn)歷或其他東西時(shí)，請(qǐng)確保這是一個(gè)有約束的優(yōu)化。

以上這些話，都是Rosalind Picard關(guān)于學(xué)術(shù)誠(chéng)信討論的一部分。

現(xiàn)場(chǎng)交鋒

在QA環(huán)節(jié)中，一位中國(guó)女學(xué)生當(dāng)場(chǎng)發(fā)問，「你既然給出了『大多數(shù)中國(guó)學(xué)生都很誠(chéng)實(shí)』的說明，為什么要特別強(qiáng)調(diào)這個(gè)群體？

為什么在整個(gè)演講中，只有提到中國(guó)學(xué)生時(shí)，特別標(biāo)注了國(guó)籍」？

Picard表示，「我希望澄清一下，我之前說的并不是基于我個(gè)人的判斷，而是那個(gè)學(xué)生的原話——他說學(xué)校沒有教他這些，可能也暗示了很多中國(guó)學(xué)生都是這種情況。

但就我的親身經(jīng)歷來說，我接觸過的所有中國(guó)人，除了我提到的那一個(gè)例外，都是非常優(yōu)秀的。我希望這只是個(gè)特例」。

中國(guó)學(xué)生繼續(xù)表示，我認(rèn)為這也可能表明，這些學(xué)生是正直和誠(chéng)實(shí)的，所以他們才會(huì)給你這樣的反饋。

「但是，作為一個(gè)中國(guó)人，我個(gè)人還是覺得有點(diǎn)被冒犯，因?yàn)樵谀闾岬降乃胁涣夹袨橹?，這是唯一一處明確提到國(guó)籍的地方?！?/span>

「我認(rèn)為在這個(gè)群體之外維護(hù)好聲譽(yù)很重要，但在群體內(nèi)部，我們也應(yīng)該提高對(duì)這種無意識(shí)偏見的認(rèn)識(shí)。我可能對(duì)這個(gè)種族歧視問題比較敏感。我希望將來如果你再做這個(gè)演講，可以刪除那個(gè)關(guān)于國(guó)籍的注釋，因?yàn)檫@對(duì)這個(gè)特定群體來說似乎不太公平?！?/span>

中國(guó)學(xué)術(shù)圈暴怒，評(píng)論區(qū)刷屏「可恥」

中國(guó)人是講道理的，是可以接受批評(píng)的，但對(duì)于這種「無端的種族偏見」是絕對(duì)無法接受的，在各種評(píng)論區(qū)下，我們也可以看到網(wǎng)友紛紛刷屏「可恥」來譴責(zé)這位教授。

在這種官方、公開場(chǎng)合發(fā)表種族主義言論，即使只是舉例，也會(huì)進(jìn)一步引發(fā)歧視，加深刻板印象，也嚴(yán)重違反了NeurIPS的會(huì)議規(guī)定，所以這場(chǎng)演講的內(nèi)容本身就是不合適的。

加州大學(xué)圣克魯斯分校教授Xin Eric Wang，有理有據(jù)地分析了「為什么身為中國(guó)人會(huì)感覺到不舒服和被冒犯」。

首先，就算這個(gè)例子屬實(shí)，真的有中國(guó)學(xué)生說過「我的學(xué)校沒有人教我們價(jià)值觀或道德」，教授是不是應(yīng)該思考一下這是不是學(xué)生給出的逃避借口，而不只是停留在字面上進(jìn)行理解。

而且這個(gè)例子也完全沒有必要和種族主義歧視產(chǎn)生關(guān)聯(lián)。假設(shè)是一個(gè)美國(guó)學(xué)生說的，這位教授會(huì)不會(huì)也直接相信嗎？

她在發(fā)表演講的時(shí)候，也清楚地知道自己在說一些「不恰當(dāng)」的言論，還知道標(biāo)注上「大部分中國(guó)人都是誠(chéng)實(shí)、道德正直的」。

谷歌DeepMind研究員Sun Jiao表示，簡(jiǎn)直不敢相信這是在頂級(jí)會(huì)議上發(fā)生的事，大模型的偏見都沒有人類深，是不是會(huì)議官方只對(duì)作者進(jìn)行道德審查，但沒有對(duì)受邀演講者也進(jìn)行道德審查？

哈佛大學(xué)和MIT的博士生評(píng)論表示，NeurIPS聲明中所謂的文化刻板印象（cultural generalization）完全是在和稀泥，中國(guó)人從小受到的教育中，重中之重正是「誠(chéng)實(shí)」和「正直」。

2006級(jí)清華大學(xué)學(xué)士、MIT博士、普林斯頓大學(xué)博士后，現(xiàn)任Meta FAIR實(shí)驗(yàn)室的人工智能科學(xué)家朱澤園表示：我在清華物理學(xué)院的時(shí)候，就已經(jīng)學(xué)會(huì)了什么真正的價(jià)值觀，當(dāng)年上實(shí)驗(yàn)物理課時(shí)，每個(gè)原始數(shù)據(jù)點(diǎn)都必須保留，即使是最簡(jiǎn)單的線性回歸分析，都必須能追溯到手寫的數(shù)字。

當(dāng)年的課程導(dǎo)師朱鶴年教授花了無數(shù)時(shí)間來驗(yàn)證學(xué)生有沒有為了畫出更好看的圖像而進(jìn)行數(shù)據(jù)挑選，一旦被發(fā)現(xiàn)就要掛科，無一例外。可復(fù)現(xiàn)、可重復(fù)是最基本的，沒有余地的。這不僅僅是規(guī)則，更是一種價(jià)值觀的傳遞。

谷歌DeepMind研究科學(xué)家Yao Fu表示，「讓這張幻燈片更糟糕的是，使用了一個(gè)試圖規(guī)避責(zé)任的小伎倆：演講者先引用了一段特別針對(duì)某個(gè)特定國(guó)籍的冒犯性言論，然后又加上注釋試圖撇清自己的責(zé)任，相當(dāng)于在說『這不是我說的，是你們自己說的』」。

馬里蘭大學(xué)副教授Furong Huang認(rèn)為，在討論作弊事件時(shí)完全沒有必要提及學(xué)生的國(guó)籍，亞洲人普遍信奉「努力工作、避免沖突、不逆反」，我們也要和其他人一樣，在受到種族歧視的時(shí)候發(fā)聲并要求追究責(zé)任。

在問答環(huán)節(jié)，Picard教授依然以「中國(guó)學(xué)校沒有教授道德」來進(jìn)一步強(qiáng)化偏見，甚至泛化到整個(gè)中國(guó)教育、社會(huì)的問題，既不符合事實(shí)，又極具冒犯性，從邏輯上分析也行不通：

1、如果學(xué)生已經(jīng)作弊了，為什么老師還會(huì)選擇相信他們的「道德教育」借口？一位嚴(yán)肅的學(xué)者會(huì)將其作為論點(diǎn)之前進(jìn)行充分的調(diào)查研究。

2、就算學(xué)校不教授道德（當(dāng)然是嚴(yán)重錯(cuò)誤的），家庭和社會(huì)也會(huì)經(jīng)常向?qū)W生灌輸正確的道德價(jià)值觀，否則教授口中「大部分中國(guó)學(xué)者都是誠(chéng)實(shí)正直」的品質(zhì)是從哪來的？

她，鄭重道歉了

事后，Rosalind Picard在MIT媒體實(shí)驗(yàn)室，鄭重發(fā)出了道歉信。

全文如下：

在NeurIPS的主題演講中，我分享了一個(gè)故事，其中提到了國(guó)籍——這個(gè)細(xì)節(jié)我現(xiàn)在后悔提及。我意識(shí)到這是不必要的，與我要表達(dá)的觀點(diǎn)無關(guān)，并且造成了意想不到的負(fù)面聯(lián)想。

我為此道歉，并對(duì)這一事件造成的困擾感到非常抱歉。我正在從這次經(jīng)歷中吸取教訓(xùn)，也歡迎大家提出建議，幫助我為社區(qū)作出彌補(bǔ)。

我堅(jiān)信生成式AI帶來的實(shí)踐和倫理問題影響著我們所有人。我希望我們能夠跨越國(guó)界和文化界限，共同解決這些問題。

此致Rosalind W. Picard博士

MIT媒體實(shí)驗(yàn)室

Hermann健康科學(xué)與技術(shù)教授

「情感計(jì)算」之母，一夜翻車

或許很多人，對(duì)Rosalind Picard這個(gè)人非常陌生，不過現(xiàn)在算是「一戰(zhàn)成名」了。

Rosalind Picard是麻省理工學(xué)院教授，在MIT主持創(chuàng)辦了Media Lab情感計(jì)算研究部，從事機(jī)器學(xué)習(xí)與神經(jīng)科學(xué)的交叉研究。

在著作Affective Computing中，她開創(chuàng)了計(jì)算機(jī)科學(xué)和人工智能學(xué)科中的新分支「情感計(jì)算」，該書提出并描述了如何向計(jì)算機(jī)賦予情商技能，包括語音助手、機(jī)器人、智能體以及多種交互技術(shù)。

在嘗試創(chuàng)造客觀測(cè)量情緒相關(guān)數(shù)據(jù)的方法的同時(shí)，Picard團(tuán)隊(duì)還開創(chuàng)了可穿戴技術(shù)來監(jiān)測(cè)和分析日常生活中的生理數(shù)據(jù)，在可穿戴設(shè)備、生理學(xué)和身心健康的交叉領(lǐng)域催生了新的研究和發(fā)明。

Picard發(fā)明過一百多項(xiàng)專利，涉及領(lǐng)域包括用于感知、識(shí)別和響應(yīng)人類情感信息的可穿戴和非接觸式傳感器、算法和系統(tǒng)，她以極高的影響力當(dāng)選為美國(guó)國(guó)家工程院院士和美國(guó)國(guó)家發(fā)明家學(xué)院院士，發(fā)明成果主要應(yīng)用于自閉癥、癲癇、抑郁癥、創(chuàng)傷后應(yīng)激障礙、睡眠、壓力、癡呆、自主神經(jīng)系統(tǒng)疾病、人類和機(jī)器學(xué)習(xí)、健康行為改變、市場(chǎng)研究、客戶服務(wù)和人機(jī)交互。

Picard創(chuàng)辦了兩家公司：Empatica主要提供經(jīng)FDA批準(zhǔn)的生物標(biāo)志物、作為可穿戴設(shè)備收集臨床試驗(yàn)數(shù)據(jù)的平臺(tái)，以及首款經(jīng)FDA批準(zhǔn)的用于檢測(cè)癲癇發(fā)作的智能手表；Affectiva公司則提供情感AI技術(shù)。

Picard是受邀演講的?？停鲞^百余場(chǎng)特邀主題演講，在TED上有超過200萬次播放量，在學(xué)術(shù)圈內(nèi)享譽(yù)盛名。

然而，就是這樣一位學(xué)術(shù)巨匠，在NeurIPS的演講中，犯下了一個(gè)極其明顯的錯(cuò)誤。

一句話，徹底毀掉了多年積累的學(xué)術(shù)聲譽(yù)。

這或許提醒著所有人，學(xué)術(shù)的嚴(yán)謹(jǐn)，不僅僅體現(xiàn)在論文和專利上，更是體現(xiàn)在對(duì)人的尊重中。