編輯｜云昭

出品 | 51CTO技術(shù)棧（微信號(hào)：blog51cto）

昨天發(fā)生一個(gè)蠻有意思的“小概率”事件，可以說(shuō)是人類被 ChatGPT 的幻覺(jué)打敗了。

當(dāng)一個(gè) AI 說(shuō)你的產(chǎn)品有某項(xiàng)功能，用戶就會(huì)相信你有。即使你從沒(méi)做過(guò)，甚至從沒(méi)想過(guò)做。

以至于，創(chuàng)始人被倒逼著連夜找員工，趕工實(shí)現(xiàn)這個(gè)“產(chǎn)品經(jīng)理根本沒(méi)提過(guò)”的產(chǎn)品需求。

就這么一段“抓馬”且?guī)е撤N科幻味道的橋段，真實(shí)發(fā)生在一家創(chuàng)業(yè)公司身上。

ChatGPT 整活，把一公司人整懵逼

故事發(fā)生的主角 Soundslice，是一家專注于“樂(lè)譜掃描識(shí)別”的小團(tuán)隊(duì)產(chǎn)品。用戶只需拍一張樂(lè)譜照片，系統(tǒng)就能識(shí)別其中的音符，生成可以播放、編輯的數(shù)字樂(lè)譜。

注意：這家公司的創(chuàng)始人，相信大家更為熟悉。他就是大名鼎鼎的開(kāi)源項(xiàng)目 Django（非常流行的Python Web框架）的創(chuàng)始人之一 Adrian Holovaty。2012 年，他創(chuàng)立了 Soundslice。

這原本是一個(gè)非常垂直、清晰的工具。但從某天開(kāi)始，后臺(tái)的錯(cuò)誤日志頻繁出現(xiàn)一種奇怪的上傳圖片。（ps：作為創(chuàng)始人，Holovaty 非常關(guān)注該功能的錯(cuò)誤日志，以查看出現(xiàn)了哪些問(wèn)題以及需要在哪里進(jìn)行改進(jìn)。）

一般來(lái)講，用戶都會(huì)反饋常見(jiàn)的真實(shí)的樂(lè)譜照片——

圖片

而這會(huì)收到的全是一張張的 ChatGPT 的聊天截圖，內(nèi)容中包含了 ASCII 吉他譜。

圖片

ASCII 吉他譜，是一種用純文字（比如 E|--0--1--3--|）記錄吉他演奏指法的極簡(jiǎn)譜。

Soundslice 團(tuán)隊(duì)一頭霧水：這不是我們支持的格式，為什么會(huì)有這么多用戶上傳？

直到創(chuàng)始人 Holovaty 自己去 ChatGPT 試了一把，謎底才揭曉——

ChatGPT 正式而自信地告訴用戶：“想聽(tīng)你寫的吉他譜？去 soundslice.com 上傳 ASCII 吉他譜吧。”

嗯，AI 硬說(shuō)你能干這事，用戶竟然也真的信了。

功能還沒(méi)開(kāi)發(fā)，用戶卻已經(jīng)用上了

從嚴(yán)格意義上說(shuō)，ChatGPT 這是在“胡說(shuō)八道”。事實(shí)上，Soundslice 從沒(méi)支持過(guò) ASCII 吉他譜的識(shí)別與播放，這完全是 AI 杜撰的幻覺(jué)。

但有趣的是——幻覺(jué)造成的用戶需求，卻是真需求。

后來(lái)在采訪中 Holovaty 表示，主要的代價(jià)是聲譽(yù)受損：Soundslice 的新用戶帶著錯(cuò)誤的期望加入。他們被自信地告知我們會(huì)做一些我們實(shí)際上不會(huì)做的事情。

一大批用戶帶著 ChatGPT 的“建議”注冊(cè) Soundslice，上傳 ASCII 吉他譜的截圖，試圖獲得預(yù)期中的播放體驗(yàn)。

這導(dǎo)致產(chǎn)品團(tuán)隊(duì)陷入一種前所未有的尷尬：

• 不做這個(gè)功能吧，用戶涌入發(fā)現(xiàn)“被騙了”，影響品牌聲譽(yù)；
• 做這個(gè)功能吧，是不是太被動(dòng)、太離譜，甚至有點(diǎn)“被 AI 綁架”的味道？

Holovaty  最終下了決心：

既然用戶來(lái)都來(lái)了，那我們干脆把這個(gè)功能真做出來(lái)吧。

于是，一個(gè)原本根本不在 roadmap 上的功能，被突擊開(kāi)發(fā)、上線，并寫入了 UI 提示中。

他自己也調(diào)侃說(shuō)：“這可能是有史以來(lái)，第一起公司因?yàn)?ChatGPT 幻覺(jué)而開(kāi)發(fā)新功能的案例。”

AI 的幻覺(jué)，正在改變產(chǎn)品世界的運(yùn)行邏輯

眾所周知，大模型的幻覺(jué)問(wèn)題一直存在，ChatGPT 也不例外。

但萬(wàn)萬(wàn)沒(méi)想到，這次 ChatGPT 的離譜程度竟然超出了想象。

據(jù)了解，ChatGPT 并沒(méi)有 API 連接 Soundslice，也不是 Soundslice 的合作伙伴。但它僅憑一段文本生成的“幻覺(jué)描述”，就反向影響了用戶行為，塑造了產(chǎn)品認(rèn)知，最終逼迫團(tuán)隊(duì)做出真實(shí)回應(yīng)。

過(guò)去我們相信的是：需求來(lái)自真實(shí)用戶的真實(shí)意圖。

但在 AI 大規(guī)模進(jìn)入人類知識(shí)交互系統(tǒng)的當(dāng)下，有一種新的路徑正在形成：

• AI 幻覺(jué) → 用戶信任 → 市場(chǎng)預(yù)期 → 產(chǎn)品被迫跟進(jìn)

也就是說(shuō)，產(chǎn)品團(tuán)隊(duì)不再完全掌控“自己是誰(shuí)”這個(gè)問(wèn)題，AI 在用戶心中幫你“定義”了你是誰(shuí)。

如果說(shuō)搜索引擎時(shí)代，用戶靠 Google 發(fā)現(xiàn)你；

那么在 AI 對(duì)話時(shí)代，用戶靠 ChatGPT“想象”你。

所以，結(jié)果就是：如果 AI 說(shuō)你能做——那你最好真的能做，不然你就掉粉了。

重新認(rèn)識(shí)AI幻覺(jué)：不信它，但不能不應(yīng)對(duì)它

Soundslice 的決定看似無(wú)奈，其實(shí)是非常明智：與其急著辟謠，不如先聽(tīng)清幻覺(jué)背后的真實(shí)渴望。

用戶并不真的關(guān)心你是不是“原生支持” ASCII 吉他譜，他們關(guān)心的只是：我寫了一段譜子，有沒(méi)有辦法聽(tīng)到它的聲音？

ChatGPT 的“胡說(shuō)”恰好暴露了用戶的真實(shí)痛點(diǎn)，也提供了一個(gè)方向。

你可以抵觸它、忽略它，但你無(wú)法否認(rèn)：

AI 正在重塑產(chǎn)品定義、產(chǎn)品傳播，甚至產(chǎn)品規(guī)劃的順序。

在這個(gè)新范式下，我們做的每個(gè)功能，可能不是來(lái)源于用戶調(diào)研或競(jìng)品分析，而是來(lái)自一場(chǎng)你沒(méi)參與的 AI 對(duì)話。

網(wǎng)友：這才是AI的終極用法

現(xiàn)在聽(tīng)起來(lái)，之前有不少大佬提倡的“我們應(yīng)該利用AI的幻覺(jué)”的“鬼故事”，的確成真了。

Hackernews 上不少網(wǎng)友也都對(duì)這個(gè)真實(shí)的故事驚到了：這才是AI的終極用途！

有時(shí)候它想出來(lái)的做法比我還好。

我覺(jué)得這才是 AI 最終極的用途——從 Google Maps 到 Grammarly 都是這樣。

我寫書的最后階段才開(kāi)始用 Grammarly，大概接受了它三分之一的修改建議?？紤]到這本書我已經(jīng)自我編輯了幾十遍，還請(qǐng)了專業(yè)編輯，這比例已經(jīng)相當(dāng)高了。

不過(guò)如果我照單全收它的建議，這本書反而會(huì)變差。它對(duì)于清理廢話和被動(dòng)語(yǔ)態(tài)很有用，但不理解幽默、上下文、刻意重復(fù)這些寫作技巧。

此外，這位網(wǎng)友認(rèn)為，現(xiàn)在最大的問(wèn)題在于：高層總想把人完全踢出流程，但這樣幾乎總是會(huì)帶來(lái)災(zāi)難。

但，這并不表示，幻覺(jué)可以從危險(xiǎn)名單上除名了。

另一位網(wǎng)友 @Sophira 則談了自己對(duì)于GPT時(shí)代的感受：

GPT 生成的文本確實(shí)比 SEO 時(shí)代的垃圾內(nèi)容“看起來(lái)”更像樣，但也正因?yàn)樗瘛皺?quán)威發(fā)言”，所以更危險(xiǎn)。

它聽(tīng)起來(lái)像是對(duì)的，但你看到的可能完全是它編出來(lái)的。

開(kāi)放麥：下一次，誰(shuí)還會(huì)被“逼”上線功能？

諸位，不妨大膽設(shè)想一下：

• ChatGPT 會(huì)告訴你 Notion 支持語(yǔ)音播客轉(zhuǎn)寫，然后用戶開(kāi)始“理所當(dāng)然地”上傳音頻；
• 它會(huì)建議你在 Canva 里做 PPT 一鍵成片，哪怕 Canva 根本沒(méi)有這個(gè)功能；
• 它會(huì)說(shuō)你的視頻平臺(tái)能分析用戶表情并自動(dòng)生成視頻腳本——你甚至都沒(méi)寫過(guò)這個(gè) PRD。

簡(jiǎn)直不能再想了。吊軌程度有點(diǎn)太大。AI 不是你的 PM，但它卻影響了你的用戶，最終也決定了你的 roadmap。

Soundslice 的案例只是開(kāi)端?；蛟S越來(lái)越多公司，會(huì)在 ChatGPT 的“幻覺(jué)”中，找到通往現(xiàn)實(shí)的新方向。

甚至小編在想，OpenAI 甚至?xí)瞥鲆粋€(gè)“按幻覺(jué)收費(fèi)”的功能。

所以，以后大家也別問(wèn)“AI 胡說(shuō)怎么辦？”，不如反向思考：“我們準(zhǔn)備好在這些幻覺(jué)中，看見(jiàn)新的真實(shí)需求了嗎？”

畢竟通過(guò)這個(gè)案例，給所有產(chǎn)品開(kāi)發(fā)者們上了一課：

“未來(lái)的產(chǎn)品需求文檔，可能早已藏在 ChatGPT 的回答里，就等各位大佬的慧眼去發(fā)現(xiàn)了?！?/p>

歡迎各位在評(píng)論區(qū)“開(kāi)放麥”：大模型的幻覺(jué)真有用嗎？如何處理的呢？

參考鏈接：https://www.holovaty.com/writing/chatgpt-fake-feature/