去各大高校圖書(shū)館轉(zhuǎn)一圈，會(huì)發(fā)現(xiàn)頭上一副耳機(jī)、手邊一杯咖啡，電腦上一個(gè)AI工具網(wǎng)頁(yè)幾乎成了當(dāng)代大學(xué)生標(biāo)配。

學(xué)生熱衷于在ChatGPT的幫助下完成作業(yè)，教師們卻頭疼于無(wú)法杜絕學(xué)生用ChatGPT作弊的行為。

人工智能可以根據(jù)一個(gè)提示，在幾秒鐘內(nèi)免費(fèi)創(chuàng)建整篇論文或研究論文。教師和教授表示，他們迫切需要幫助來(lái)打擊濫用行為。

《每日郵報(bào)》2023年1月30報(bào)道稱(chēng)，UNSW的1名學(xué)生使用ChatGPT自動(dòng)生成論文被抓，這也是全澳第一個(gè)使用AI技術(shù)作弊被抓的學(xué)生。

UNSW人工智能教授Toby Walsh表示，各大高校都在評(píng)估如何阻止學(xué)生使用AI技術(shù)作弊。

隨后，新州、昆州和塔州都封鎖了校園網(wǎng)絡(luò)對(duì)于ChatGPT的訪(fǎng)問(wèn)，以防學(xué)生通過(guò)該技術(shù)作弊。

但Walsh教授表示，阻止校園網(wǎng)絡(luò)訪(fǎng)問(wèn)ChatGPT是沒(méi)有意義的，因?yàn)閷W(xué)生們可以通過(guò)代理繞過(guò)封鎖。

「想要徹底阻止學(xué)生作弊，只能把他們放在一個(gè)沒(méi)有網(wǎng)絡(luò)的環(huán)境里，給他們一張紙和一支筆?！?/span>

CDT最近進(jìn)行的一項(xiàng)調(diào)查發(fā)現(xiàn)，59%的中學(xué)教師確信有些學(xué)生使用了AI來(lái)幫助完成學(xué)業(yè)，比前一個(gè)學(xué)年上升了17個(gè)百分點(diǎn)。

要想靠老師和學(xué)校的盯梢，避開(kāi)ChatGPT的誘惑很難辦到，解鈴還須系鈴人——讓AI企業(yè)親自出馬解決抓「AI槍手」。

據(jù)悉，OpenAI已經(jīng)開(kāi)發(fā)出一款能夠高精度識(shí)別ChatGPT生成文本的工具，但遲遲未發(fā)布。

「文本水印」抓作弊，成功率99.9％

ChatGPT由人工智能系統(tǒng)提供支持，生成原理是根據(jù)輸入內(nèi)容預(yù)測(cè)句子中接下來(lái)出現(xiàn)的token。

OpenAI正在討論的反作弊工具將稍微改變token的選擇方式，這些變化會(huì)留下一種稱(chēng)為水印的圖案。

這些水印肉眼無(wú)法察覺(jué)，但可以通過(guò)OpenAI的檢測(cè)技術(shù)發(fā)現(xiàn)，檢測(cè)器提供整個(gè)文檔或部分文檔由ChatGPT編寫(xiě)的可能性的分?jǐn)?shù)。

根據(jù)內(nèi)部文件，當(dāng)ChatGPT創(chuàng)建足夠多的新文本時(shí)，水印的有效率可以達(dá)到99.9%。

雖然準(zhǔn)確率超高，OpenAI工作人員仍然擔(dān)心，換一種方式可以輕松卡Bug，通過(guò)簡(jiǎn)單的技術(shù)來(lái)刪除水印。

例如讓Google將文本翻譯成另一種語(yǔ)言，然后再翻譯回來(lái)，或者讓ChatGPT在文本中添加表情符號(hào)，然后手動(dòng)刪除它們。

另一方面，公司內(nèi)部普遍認(rèn)為，誰(shuí)可以使用該探測(cè)器將也是一個(gè)棘手的問(wèn)題。

如果擁有該工具的人太少，工具基本上就沒(méi)有用處。如果太多人獲得訪(fǎng)問(wèn)權(quán)限，有些人可能會(huì)嘗試破譯水印技術(shù)。

OpenAI員工也討論過(guò)，直接向教育工作者或外部公司提供檢測(cè)器，幫助學(xué)校識(shí)別人工智能撰寫(xiě)的論文和抄襲作品。

谷歌其實(shí)也開(kāi)發(fā)過(guò)一種水印工具，可以檢測(cè)Gemini AI生成的文本，叫做SynthID，正處于Beta測(cè)試階段，尚未廣泛使用。

OpenAI有一個(gè)工具可以確定圖像是否是使用文本到圖像生成器DALL-E 3創(chuàng)建的，該工具于去年春天發(fā)布用于測(cè)試。

該知情員工表示，該公司優(yōu)先考慮音頻和視頻水印而不是文本，因?yàn)槠湮：Ω鼮閲?yán)重，尤其是在美國(guó)繁忙的選舉年。

AI文本分類(lèi)器

早在2023年1月，OpenAI就發(fā)布了一種算法，旨在檢測(cè)多個(gè)AI模型（包括其自己的模型）編寫(xiě)的文本。

但它的成功率僅為26%，七個(gè)月后OpenAI就將其撤回。

其他公司和研究人員還開(kāi)發(fā)了一些工具來(lái)檢測(cè)人工智能創(chuàng)建的文本，許多教師表示他們已經(jīng)使用過(guò)這些工具。

但它們有時(shí)無(wú)法檢測(cè)由高級(jí)大語(yǔ)言模型編寫(xiě)的文本，并且準(zhǔn)確率很低，可能產(chǎn)生誤報(bào)。

最近在佐治亞州一所私立高中任教的教育工作者人工智能顧問(wèn)Mike Kentz表示，起初，學(xué)生們確實(shí)被震懾到，以為老師們已經(jīng)完全掌握了一種方法，可以弄清楚他們是否使用了人工智能代寫(xiě)。

但到了年底……他們慢慢發(fā)現(xiàn)，等一下，我的老師好像不知道。

一些老師鼓勵(lì)學(xué)生使AI來(lái)幫助研究或提供想法反饋。但問(wèn)題是，當(dāng)學(xué)生使用像ChatGPT這樣的應(yīng)用程序來(lái)完成所有工作時(shí)，學(xué)生甚至不會(huì)去檢查自己交的是什么。

去年，猶他大學(xué)政治學(xué)教授Josh McCrain給學(xué)生布置了一份寫(xiě)作作業(yè)，作業(yè)要求插入了難以辨認(rèn)的小文字，其中提到了和作業(yè)無(wú)關(guān)的蝙蝠俠。

如果他們將作業(yè)復(fù)制并粘貼到人工智能中，作業(yè)提示內(nèi)容就會(huì)被合并，「蝙蝠俠」就會(huì)干擾作業(yè)內(nèi)容。

果然，少數(shù)學(xué)生提交了作業(yè)——一篇蝙蝠俠論文。

McCrain教授正在調(diào)整寫(xiě)作作業(yè)，更多地關(guān)注人工智能不太熟悉的時(shí)事，并懇求學(xué)生不要將他們的工作外包給人工智能。

「這就是我試圖向?qū)W生們強(qiáng)調(diào)這一點(diǎn)的地方：你需要自己學(xué)習(xí)這些東西?！筂cCrain教授說(shuō)。

爭(zhēng)論不休

知情人士稱(chēng)，有關(guān)水印工具的討論早在OpenAI于2022年11月推出ChatGPT之前就已經(jīng)開(kāi)始。

它是由計(jì)算機(jī)科學(xué)教授Scott Aaronson開(kāi)發(fā)的，過(guò)去兩年他在德克薩斯大學(xué)休假期間一直在OpenAI從事安全工作。

2023年初，OpenAI聯(lián)合創(chuàng)始人之一John Schulman在一份共享的Google文檔中概述了該工具的優(yōu)缺點(diǎn)。

OpenAI高管隨后決定，在采取進(jìn)一步行動(dòng)之前，他們將征求一系列人士的意見(jiàn)。

在接下來(lái)的一年半時(shí)間里，OpenAI高管反復(fù)討論，并尋求新數(shù)據(jù)集優(yōu)化算法，猶豫是否發(fā)布該技術(shù)。

內(nèi)部文件顯示，2023年4月，OpenAI委托進(jìn)行了一項(xiàng)調(diào)查，結(jié)果顯示，世界范圍的人們以四比一的比例支持人工智能檢測(cè)工具的想法。

同月，OpenAI對(duì)ChatGPT用戶(hù)進(jìn)行了調(diào)查，發(fā)現(xiàn)69%的人認(rèn)為作弊檢測(cè)技術(shù)會(huì)導(dǎo)致使AI技術(shù)錯(cuò)誤指控。

近30%的人表示，如果ChatGPT部署了水印功能，而競(jìng)爭(zhēng)對(duì)手沒(méi)有部署水印，他們會(huì)減少使用。

另外，OpenAI內(nèi)部還有一種反對(duì)的聲音是反作弊工具可能會(huì)損害ChatGPT的寫(xiě)作質(zhì)量。

知情人士稱(chēng)，OpenAI今年早些時(shí)候進(jìn)行了一項(xiàng)測(cè)試，發(fā)現(xiàn)文本水印不會(huì)降低輸出質(zhì)量。

6月初，OpenAI高級(jí)員工和研究人員再次聚會(huì)討論該項(xiàng)目。該組織一致認(rèn)為水印技術(shù)效果良好，但去年的ChatGPT 用戶(hù)調(diào)查結(jié)果仍然是一個(gè)頭疼的問(wèn)題。

內(nèi)部文件顯示，OpenAI需要在今年秋天之前制定一項(xiàng)計(jì)劃，圍繞AI透明度以及相關(guān)潛在新法律來(lái)左右公眾輿論——

「如果做不到這一點(diǎn)，我們就有可能失去負(fù)責(zé)任企業(yè)的信譽(yù)?！?/span>