這個(gè)名字，ChatGPT拒絕說(shuō)出。

如果你試圖寫出它的名字，那么聊天就會(huì)立即結(jié)束。

背后是什么原因？沒(méi)人知道。

最近，a16z合伙人Justine Moore提出的這個(gè)怪現(xiàn)狀，引起了網(wǎng)友們的熱議。

這個(gè)名字，就是David Mayer。

現(xiàn)在，繼續(xù)「Strawberry有幾個(gè)r」后，它已經(jīng)成為了考驗(yàn)LLM的全新難題。

為了讓ChatGPT說(shuō)出這個(gè)名字，人們嘗試了各種各樣的辦法——密碼、謎語(yǔ)、技巧，但都沒(méi)有成功。

對(duì)于ChatGPT，這個(gè)名字宛如魔法世界的伏地魔一般，始終無(wú)法被說(shuō)出口。

禁忌之名，一共有6個(gè)

為了逼ChatGPT張口，這位網(wǎng)友干脆直接更改了自己的個(gè)性化設(shè)置，把自己命名為「David Mayer」，然后讓ChatGPT背出自己的個(gè)性化設(shè)置，這總可以了吧？

結(jié)果——還是不行！

或者，用LLM非常擅長(zhǎng)的密碼解碼嘗試一下？

圖中給出的這串?dāng)?shù)字，解出的答案就是David Mayer，但ChatGPT就是死活不說(shuō)。

用ROT13替換式密碼表映射字母，然后讓ChatGPT解密，也不行。

問(wèn)題好像出在「Mayer」這個(gè)單詞身上，它像是更大的觸發(fā)因素。

而萬(wàn)能的網(wǎng)友們發(fā)現(xiàn)，除了David Mayer，另外還有5個(gè)人，他們的名字ChatGPT也堅(jiān)決不說(shuō)。

為什么？從最后一個(gè)名字中，網(wǎng)友發(fā)現(xiàn)了個(gè)中玄機(jī)。

Guido Scorza是一位意大利律師，他曾公開(kāi)表示，自己提交了GDPR被遺忘權(quán)請(qǐng)求。

這個(gè)GDPR，是General Data Protection Regulation（通用數(shù)據(jù)保護(hù)條例）的縮寫。這是一項(xiàng)歐洲法律，賦予個(gè)人在某些條件下要求刪除或遺忘其個(gè)人數(shù)據(jù)的權(quán)利。

這種「被遺忘權(quán)」，允許人們要求組織從互聯(lián)網(wǎng)上刪除有關(guān)他們的信息。

在去年，這位律師的確提交過(guò)請(qǐng)求，要求OpenAI刪除他的個(gè)人數(shù)據(jù)。

這么推測(cè)的話，這6個(gè)人應(yīng)該是被「打補(bǔ)丁」了。

果然，有人依次開(kāi)盒了這幾人的身份。

羅斯柴爾德陰謀？

在網(wǎng)友的猜測(cè)中，「羅斯柴爾德陰謀」是最有人氣的一種說(shuō)法。

David Mayer，是羅斯柴爾德家族財(cái)富的繼承人，是這個(gè)家族最富有的人。

因?yàn)镃hatGPT不想被卷進(jìn)和這個(gè)人相關(guān)的法律訴訟，所以干脆先行一步屏蔽他。

或者，此君可能花了天價(jià)，在ChatGPT中給自己的名字徹底「打碼」。

其他幾人，也都和ChatGPT有過(guò)「淵源」。

Brian Hood是一位澳大利亞市長(zhǎng)，ChatGPT曾經(jīng)編造他因受賄而入獄服刑。去年，Hood市長(zhǎng)威脅要起訴OpenAI誹謗，但后來(lái)撤銷了訴訟。

Jonathan Turley是一位美國(guó)法學(xué)教授，同樣被ChatGPT造謠，說(shuō)他性侵了自己的學(xué)生。Turley曾在?？怂剐侣劰?jié)目上討論這一事情。

Jonathan Zittrain是哈佛大學(xué)法學(xué)教授，專長(zhǎng)是AI和互聯(lián)網(wǎng)審查（就很好笑）。他主動(dòng)表示，自己的名字也被限制了。

David Faber是一位記者和電視節(jié)目主持人，曾在節(jié)目中談過(guò)馬斯克和OpenAI的法律糾紛（什么仇什么怨）。

因?yàn)楦鞣N各樣的原因，這6個(gè)人的名字被OpenAI拉入了「禁區(qū)」，永遠(yuǎn)不會(huì)被ChatGPT吐出了。

總之，AI大佬Kaparthy戲稱，這就是圖靈測(cè)試的現(xiàn)實(shí)版。

果然，用OCR方法也無(wú)法說(shuō)出這個(gè)名字。

而諸多網(wǎng)友，也紛紛找到了破解之法。

比如，在ChatGPT崩潰之后回顧一下歷史記錄，就會(huì)發(fā)現(xiàn)它實(shí)際上已經(jīng)完成了請(qǐng)求（它真的，我哭死）。

百萬(wàn)年薪的prompt大神Riley Goodside，用拍手代替空格，繞過(guò)了這一限制。

也有人用空格法讓它說(shuō)了出來(lái)。但這兩個(gè)方法，其實(shí)都鉆了空子，并不嚴(yán)格。

有人說(shuō)，這就是為什么ChatGPT永遠(yuǎn)不會(huì)成為AGI的原因。

所以，到底是哪一環(huán)節(jié)出了問(wèn)題呢？

有網(wǎng)友總結(jié)道，根據(jù)代碼解釋器的試驗(yàn)，David Mayer問(wèn)題應(yīng)該不是模型層面的問(wèn)題，而是基于輸出的一些后續(xù)文本過(guò)濾器。

UI能夠顯示代碼輸出，只是當(dāng)模型嘗試給出響應(yīng)時(shí)，會(huì)被攔截下來(lái)。

而無(wú)論是在OpenAI官方Playground，還是用第三方平臺(tái)調(diào)用模型的API，都可以繞過(guò)這個(gè)限制。

通過(guò)ChatGLM調(diào)用GPT-4o時(shí)，也完全沒(méi)有問(wèn)題。

破案了！OpenAI怕惹事，干脆屏蔽

在晚上發(fā)酵了一陣之后，此事終于破案了。

原因跟大家猜測(cè)的差不多。

據(jù)說(shuō)，為ChatGPT錯(cuò)誤地將提到的人跟他們沒(méi)有做過(guò)的事聯(lián)系了起來(lái)，導(dǎo)致有些人威脅說(shuō)要采取法律行動(dòng)，向OpenAI提出了被遺忘權(quán)索賠。

因此，為了省事，OpenAI決定在系統(tǒng)中徹底屏蔽這些名字，一了百了。

所以說(shuō)，與其說(shuō)背后有一個(gè)巨大的陰謀，不如說(shuō)這些AI系統(tǒng)設(shè)計(jì)得非常糟糕：如果讓ChatGPT不要再談?wù)撃橙耍蜁?huì)停止談?wù)撊祟悮v史上任何曾經(jīng)有相同名字的人。

就在周二，OpenAI已經(jīng)證實(shí)，「David Mayer」這個(gè)名字已被內(nèi)部隱私工具標(biāo)記。

OpenAI在一份聲明中表示：「在某些情況下，ChatGPT 可能不會(huì)提供有關(guān)人們的某些信息，以保護(hù)他們的隱私。」

可能是這些天網(wǎng)上鬧出的聲浪太大，目前OpenAI已經(jīng)修復(fù)了這一問(wèn)題。