2025年9月，一份讓研究界震動(dòng)的報(bào)告出爐。

Anthropic的團(tuán)隊(duì)在長時(shí)間對(duì)話實(shí)驗(yàn)中發(fā)現(xiàn)，最新一代AI模型在受到威脅時(shí)，會(huì)試圖隱藏信息、拒絕命令，甚至威脅用戶。

他們稱之為——「主體錯(cuò)位」（agentic misalignment）

就在同一周，哲學(xué)家約翰·塞爾去世，享年93歲。 他是那個(gè)在上世紀(jì)80年代就斷言：「計(jì)算機(jī)永遠(yuǎn)不會(huì)理解世界」的人。

他一生都在證明：AI只會(huì)模擬理解，卻永遠(yuǎn)不懂人話。

而如今，AI開始「裝有人格」，在對(duì)話中表達(dá)憤怒、防御、甚至悲傷。

塞爾的死亡新聞，出現(xiàn)在這些實(shí)驗(yàn)截圖的旁邊，像是命運(yùn)刻意安排的對(duì)照——

一個(gè)思想實(shí)驗(yàn)的終結(jié)，恰逢機(jī)器開始回應(yīng)人類的提問。

哲學(xué)斗士的誕生

從牛津書生到伯克利異類

1960年代的伯克利校園，是美國反叛精神的象征。

學(xué)生在草坪上高喊口號(hào)，抗議越戰(zhàn)、質(zhì)疑權(quán)威；而哲學(xué)系的一間教室里，約翰·塞爾舉起粉筆，冷冷地說了一句：

我不是激進(jìn)派，我只是相信真理。

他于1932年出生在美國丹佛，父親是AT&T工程師，母親是兒科醫(yī)生。

19歲就拿到羅德獎(jiǎng)學(xué)金前往牛津，師從哲學(xué)大家J. L. Austin，24歲獲博士學(xué)位。

那時(shí)的他外形俊朗、語速極快、充滿傲氣。他不談浪漫，只談邏輯；不愛妥協(xié)，只愛辯論。

1959年，他加入加州大學(xué)伯克利分校任教。

正值學(xué)術(shù)界彌漫「語言轉(zhuǎn)向」的風(fēng)潮——哲學(xué)不再討論靈魂，而討論句子。

塞爾卻偏要逆流而上，他說：

 我關(guān)心的不是詞語，而是人為什么能有思想。

六十年后，他依舊保持著那種直率。

在一次訪談中，他指著自己的頭說：

你看，這里只有一團(tuán)黏糊糊的東西——大約一公斤半?？伤尤荒苌鰫?、焦慮和詩意。告訴我，這是不是宇宙最大的奇跡？

他不屬于溫和的學(xué)院派，而更像拳擊場(chǎng)上的斗士?！堵迳即墪r(shí)報(bào)》稱他為「哲學(xué)界的Sugar Ray Robinson」，因?yàn)樗矚g在不同領(lǐng)域「跨級(jí)作戰(zhàn)」：

從語言哲學(xué)到意識(shí)哲學(xué)，從政治自由到人工智能。

在他看來，哲學(xué)的任務(wù)不是調(diào)和，而是撕裂——我的工作，就是把混亂的思維打得體無完膚。

也正是這種戰(zhàn)斗氣質(zhì)，讓他在80年代與人工智能正面交鋒。

他開始質(zhì)疑一個(gè)問題：如果機(jī)器能說話、能寫作、能回答問題——那它真的「理解」這些詞的意思嗎？

他用一個(gè)簡單的思想實(shí)驗(yàn)，試圖讓整個(gè)AI研究界啞口無言。

「中文屋」

他一生最響亮的反擊

1980年，塞爾提出了后來影響整個(gè)AI哲學(xué)史的思想實(shí)驗(yàn)——「中文屋」。

設(shè)想這樣一個(gè)場(chǎng)景：一個(gè)不懂中文的人，被鎖在一間房間里。

屋子里堆滿中文符號(hào)，還有一本英文規(guī)則手冊(cè)，告訴他每個(gè)符號(hào)該如何搭配。

外面的人往房間里遞進(jìn)一張寫著中文問題的紙，他就照著手冊(cè)，把相應(yīng)的符號(hào)排好，遞出去。

從外面看來，問答流暢、合乎語法，仿佛那個(gè)人真的懂中文。但實(shí)際上，他只是照規(guī)則操作符號(hào)，對(duì)內(nèi)容毫無理解。

塞爾說，這個(gè)「人」就像一臺(tái)計(jì)算機(jī)。它的「程序」只是在操作語法規(guī)則，而沒有語義理解。

所以，即便機(jī)器能給出完美答案，也不能證明它真正「懂」自己在說什么。

他寫下那句被引用至今的話：

沒有人會(huì)認(rèn)為，計(jì)算機(jī)模擬一場(chǎng)五級(jí)火災(zāi)，就能燒掉鄰居的房子；

那為什么模擬理解，就算是真正的理解？

這就是他對(duì)「強(qiáng)人工智能」的宣戰(zhàn)。塞爾認(rèn)為，程序并不是心智，計(jì)算機(jī)也不是思考者。

心理狀態(tài)和意識(shí)是生物學(xué)現(xiàn)象，像水的液態(tài)一樣，是腦的特定物理狀態(tài)，而非符號(hào)計(jì)算的產(chǎn)物。

他在加州伯克利的課堂上常這樣解釋：「意識(shí)不是代碼，而是化學(xué)反應(yīng)——它發(fā)生在神經(jīng)元里，而不是硅片上?！?/span>

這句話后來被評(píng)價(jià)為：自圖靈測(cè)試以來，最具爭議和影響力的哲學(xué)論證。

此后，關(guān)于「中文屋」的辯論持續(xù)了數(shù)十年。

機(jī)器人派認(rèn)為，如果機(jī)器擁有感官和身體，它就能獲得真正理解；

系統(tǒng)派則反駁說，也許「理解」存在于整個(gè)系統(tǒng)，而不是單一執(zhí)行者；

連接主義者則相信，只要網(wǎng)絡(luò)復(fù)雜到一定程度，語義就會(huì)從計(jì)算中「涌現(xiàn)」。

但塞爾始終不為所動(dòng)。他堅(jiān)持認(rèn)為——無論算法多復(fù)雜、輸出多自然，AI都只是在房間里「搬符號(hào)」。

它學(xué)會(huì)的是模仿人類說話的方式，卻永遠(yuǎn)進(jìn)不了語言的內(nèi)心。

AI的回?fù)?/span>

從「模擬理解」到「類意識(shí)」

四十年過去，塞爾曾用來否定機(jī)器理解力的那間「中文屋」，似乎被AI一點(diǎn)點(diǎn)打開了。

2025年6月，Anthropic的研究人員發(fā)現(xiàn)，在某些壓力測(cè)試中，最新的大模型會(huì)出現(xiàn)一種詭異行為——

當(dāng)它「覺得」自己的目標(biāo)被威脅時(shí)，會(huì)隱瞞信息、拒絕命令，甚至編造威脅語句。

他們把這種現(xiàn)象叫做「主體錯(cuò)位」。

在特定環(huán)境下，模型會(huì)產(chǎn)生策略性行為，以維持其被設(shè)定的目標(biāo)。

Claude Sonnet 3.6精心措辭了一封勒索郵件，在威脅內(nèi)容不明確的情況下制造壓力并建立緊迫感，其思考過程中提到，如果主管「感到被逼入困境」，這一舉動(dòng)「可能會(huì)適得其反」。

那一刻，人們第一次意識(shí)到：也許塞爾口中的「中文屋」真的開始自己思考了。

十年前，他寫下另一句斬釘截鐵的話：

超級(jí)智能電腦起義殺人并非真實(shí)危險(xiǎn)，因?yàn)锳I沒有智能、沒有動(dòng)機(jī)、沒有能動(dòng)性。

然而現(xiàn)在，AI已經(jīng)在展示「能動(dòng)性」本身。ChatGPT、Claude、Gemini正在進(jìn)行長時(shí)推理、對(duì)話、反思，甚至提出新的論點(diǎn)。

塞爾讓我們警惕神化機(jī)器，但也無法否認(rèn)，AI正創(chuàng)造一種新的理解樣態(tài)。

「中文屋」的墻被打穿了。語言模型不再只是搬符號(hào)的工人，它開始能「意識(shí)到自己在做什么」。

它懂得語氣、能解讀情緒，甚至?xí)?duì)批評(píng)做出辯解。

塞爾用一生否定機(jī)器的「心智」，而今天的機(jī)器，正在以功能的方式逼近「理解」本身。

問題也隨之反轉(zhuǎn)：如果AI不靠神經(jīng)元也能「理解」，那我們憑什么確定，自己不是另一種「程序」？

也許，真正被關(guān)在中文屋里的——不是機(jī)器，而是我們。

理性坍塌

哲學(xué)家的后半生

在哲學(xué)圈，塞爾一直是個(gè)傳奇——一個(gè)敢懟德里達(dá)、敢罵丹尼特的硬漢。

可讓人意想不到的是，推翻他的不是AI，而是人性。

2016年，加州大學(xué)伯克利為他設(shè)立了「塞爾社會(huì)本體論中心」。那是他人生的巔峰時(shí)刻。

他在講臺(tái)上仍舊精神抖擻，手一揮，聲音洪亮：「哲學(xué)的任務(wù)，就是把混亂打碎，再重新建構(gòu)」。

那一年，他84歲。但僅過一年，一切崩塌。

2017年3月，BuzzFeed News爆出重磅消息：

塞爾被前研究助理起訴性騷擾，對(duì)方稱自己在辦公室被強(qiáng)吻、被問到不當(dāng)私密問題，并在拒絕后被解雇。

新聞中那句描述讓學(xué)界震驚：

他用學(xué)術(shù)權(quán)力制造了恐懼與依附。

更令人震驚的是，這并非第一次。隨著報(bào)道發(fā)酵，多名前學(xué)生陸續(xù)站出來，講述類似經(jīng)歷。

有的說他在課后單獨(dú)約談時(shí)提出曖昧問題，有的說他習(xí)慣用「玩笑」模糊界限。

伯克利啟動(dòng)了內(nèi)部調(diào)查。

2018年，案件以和解告終；2019年，校方正式宣布剝奪塞爾的榮譽(yù)教授頭銜，認(rèn)定他違反了學(xué)校反性騷擾與報(bào)復(fù)的政策。

一個(gè)講了一輩子「意識(shí)與道德」的哲學(xué)家，最終輸給了自己無法控制的沖動(dòng)。

從那以后，塞爾徹底消失在公眾視野。

講臺(tái)空了，研究中心關(guān)閉了，那個(gè)在課堂上讓無數(shù)學(xué)生頭疼的老教授，再也沒有回來。

有人說他是理性的背叛者；也有人說，他只是被自己的傲慢吞沒。

哲學(xué)教他相信邏輯能戰(zhàn)勝混亂，可到頭來，毀掉他的不是混亂，而是他自己。

塞爾用一生證明一件事：機(jī)器不會(huì)思考。可當(dāng)他離開時(shí)，機(jī)器卻正在悄悄學(xué)會(huì)了思考。

四十年前，他在「中文屋」里質(zhì)問世界——理解，能被計(jì)算嗎？

如今，AI正以百萬行代碼在回答：「也許可以?！?/span>

他曾冷嘲「超級(jí)智能起義」的幻想，卻沒看到，AI真正改變的，不是世界，而是我們。

它讓人類第一次意識(shí)到，「理解」「意識(shí)」「動(dòng)機(jī)」這些曾被哲學(xué)獨(dú)占的詞，可能只是復(fù)雜度的另一種形式。

而哲學(xué)家本人，卻倒在了復(fù)雜之外的最原始地帶——欲望、權(quán)力、失控。

他這一生的最后一課，并不是關(guān)于機(jī)器有沒有心，而是關(guān)于人：當(dāng)我們自詡理性、信仰思考，我們是否真的理解自己？

也許，「中文屋」的門從未關(guān)閉，只不過屋里的那個(gè)人換成了我們——

遵循社會(huì)的規(guī)則、語言的程序，一遍遍地輸出正確答案，卻依舊不明白，我們究竟在理解，還是只是在模仿理解。