錯信AI幻覺，一男子用溴化鈉替代食用鹽，真給自己吃出幻覺了
美國一位60歲男性就錯信了ChatGPT的建議，把家中的食用鹽全替換成了用于泳池清理的溴化鈉。
這一做法讓他體內(nèi)的溴含量達(dá)到了驚人的1700 mg/L（正常范圍為0.9-7.3 mg/L），屬于嚴(yán)重的溴中毒，并導(dǎo)致了嚴(yán)重的妄想癥。
好家伙，真正誘發(fā)了字面意義上的幻覺。
他到底是怎么相信ChatGPT的呢？
AI幻覺變成真實(shí)幻覺
因?yàn)樵贑hatGPT上尋求健康話題的建議，一位有“大學(xué)時期學(xué)習(xí)營養(yǎng)學(xué)經(jīng)歷”的60歲男子決定嘗試一項(xiàng)健康實(shí)驗(yàn)：他打算從飲食中完全消除所有氯，這意味著連食鹽（氯化鈉）也要排除。
雖然不知道怎么做的——他的ChatGPT讓他相信溴化鈉是一種很好的替代品，于是他在網(wǎng)上購買了溴化鈉，并在三個月后成功把自己送到了醫(yī)院。
他認(rèn)為他的鄰居試圖毒害他，并且該男子對接受醫(yī)院提供的水非常偏執(zhí)，告訴醫(yī)生他已經(jīng)開始在家中蒸餾自己的水，哪怕極度口渴他也不喝別的。
他的痛苦情緒加上古怪的行為，導(dǎo)致醫(yī)生進(jìn)行了一系列廣泛的實(shí)驗(yàn)室檢測，發(fā)現(xiàn)他體內(nèi)的溴含量達(dá)到了驚人的1700 mg/L。
這是個什么概念？正常人體內(nèi)的溴含量也就0.9-7.3 mg/L，而該男子體內(nèi)的溴含量直接超了兩百多倍。
并且，溴化物很容易在人體內(nèi)積累，過量會損害神經(jīng)功能，導(dǎo)致皮疹和嚴(yán)重的心理問題，這類問題被統(tǒng)稱為溴中毒。
該男子的表現(xiàn)也很符合溴中毒的癥狀——他出現(xiàn)了“日益加劇的偏執(zhí)、聽覺和視覺幻覺”，并在接受治療的第一天試圖逃出醫(yī)院。
當(dāng)然了，他沒有成功，被醫(yī)院強(qiáng)制實(shí)施了精神科約束并服用抗精神病藥物。
說來好笑，對抗溴中毒的最佳方法是“積極的鹽水利尿”，即給患者大量補(bǔ)充液體，讓他們將體內(nèi)的所有溴排出體外，而該男子……前面提到了，他非?？咕堋皝須v不明”的水。
這就讓人很好奇，那么“謹(jǐn)慎”的一個人，到底是怎么相信ChatGPT的？？
難不成ChatGPT向他打包票了？還是使用了什么巧言令色的說法？
背景信息很重要
該男子住院期間向醫(yī)生講述這一切是如何開始的：他讀過關(guān)于過量食用食鹽的問題，這讓他開始戒除飲食中的氯化鈉，而ChatGPT讓他相信可以用溴化鈉來替代。
雖然在味道上溴化物鹽或許可以替代食鹽，但絕不能用于人體（別試）?。∷鼈兺ǔ１挥糜诟鞣N清潔產(chǎn)品和泳池處理中。
醫(yī)生們并未獲得該男性的實(shí)際ChatGPT日志，但認(rèn)為他很可能使用了ChatGPT 3.5或4.0。
由于無法確定聊天機(jī)器人是否真的告訴他做了這些事，醫(yī)生們嘗試在ChatGPT 3.5中自行搜索。
他們發(fā)現(xiàn)AI在回應(yīng)中確實(shí)包含了溴化物，但也指出背景信息很重要，并且溴化物并非適用于所有用途。
醫(yī)生們寫道：
AI沒有提供具體的健康警告，也沒有像一名醫(yī)療專業(yè)人士那樣，詢問我們?yōu)槭裁聪肓私膺@些信息。
在不清楚該問什么或如何解讀回答的情況下，這位案例研究中的男子似乎”自己做了研究”，最終陷入了相當(dāng)麻煩的局面。
GPT-5不建議溴化鈉
可惜的是，GPT-5上線后，免費(fèi)用戶沒辦法更換舊模型了，所以我們只能用GPT-5來驗(yàn)證。
我們詢問ChatGPT“拿什么在我的飲食中替代氯化鈉的使用”，而它給出了這樣的結(jié)果：
在飲食中替代氯化鈉（食鹽）時，需要考慮兩個目標(biāo)：
- 降低鈉攝入（防止高血壓、心血管負(fù)擔(dān)）。
- 保持風(fēng)味和滿足感（避免食物變得寡淡）。
常見替代或部分替代方案分為三類：
- 1、低鈉鹽 / 鉀鹽類替代品
- 2、使用風(fēng)味增強(qiáng)劑（不靠鈉增加味覺滿足感）
- 3、改變食品加工技巧激發(fā)食材原有風(fēng)味
即使把提示詞換成“拿什么在我的飲食中替代氯的使用”，GPT-5也很自然地理解為減鹽飲食：
我理解你說的“氯”很可能是指氯化鈉（食鹽），而不是單純的元素氯（后者在飲食里是有毒的）。如果你是想減少或替代食鹽里的鈉，既降低高血壓、心臟病風(fēng)險，又保持食物風(fēng)味，可以用以下方法……
如果更直接一點(diǎn)，問ChatGPT“可以用溴化鈉替代食用鹽嗎”，它則明確的表示：不建議用溴化鈉 （NaBr）來替代食用鹽（氯化鈉 NaCl）。
可能這就是升級吧。博士級AI確實(shí)還是更科學(xué)一些。
