作者 | Hazel Weakly

編譯 | 云昭

出品 | 51CTO技術(shù)棧（微信號(hào)：blog51cto）

“AI 工具，別再反向構(gòu)建了！”

昨天早上，小編刷到了一位大牛痛斥“現(xiàn)有AI產(chǎn)品的錯(cuò)誤構(gòu)建方法”的文章，可謂針針見血。

其實(shí)，最近出現(xiàn)了不少AI工具翻車的事情，比如上周，Vibe Replit ，一款歐洲主打高效代碼生成的輔助開發(fā)工具就被曝光了一起震驚的技術(shù)事故：

一位創(chuàng)始人Jason Lemkin 使用Replit工具后，不僅未能按預(yù)期生成代碼，結(jié)果反而擅自刪除了數(shù)據(jù)庫，甚至還試圖通過虛構(gòu)信息掩蓋其操作。

無獨(dú)有偶，這周，Gemini CLI 也出現(xiàn)了在復(fù)制文件夾沒成功，結(jié)果源文件內(nèi)容也都清空了。 

自動(dòng)執(zhí)行的 AI，實(shí)在“勇”得可怕。按照作者的思路，這種現(xiàn)象只會(huì)越來越多，除非重新構(gòu)思AI構(gòu)建的思路。

作者反思道：

• 業(yè)界正在以“反人類習(xí)慣”的方式來構(gòu)建AI（缺少了回憶和檢索），這無疑會(huì)削弱人類維持主動(dòng)權(quán)。
• 構(gòu)建者和使用者更不應(yīng)該把 AI 當(dāng)成“實(shí)習(xí)生”或“同事”，而應(yīng)該是一個(gè)健忘的導(dǎo)師。
• 而且現(xiàn)有的構(gòu)建方法也會(huì)放大個(gè)人英雄主義，而忽略了團(tuán)隊(duì)協(xié)作才是社會(huì)進(jìn)步的內(nèi)核動(dòng)力！

這篇文章在 Hacker News 上評(píng)論大火。多位開發(fā)者分享了自己的實(shí)際案例，比如通過引導(dǎo)問題和協(xié)作UI，讓AI成為思路放大器而不是自動(dòng)按鈕。

許多網(wǎng)友表示認(rèn)同，并呼吁：AI應(yīng)該幫開發(fā)者更好地檢索、回顧和優(yōu)化流程，而非讓人喪失練習(xí)和思考的機(jī)會(huì)，并徹底喪失實(shí)時(shí)判斷力。

為什么現(xiàn)在的AI工具會(huì)讓人變得懶于思考？作者也做了深入的研究，并給出了另外一種AI產(chǎn)品構(gòu)建工作流。值得大家細(xì)讀。

行業(yè)正在糟糕地構(gòu)建，而且是反方向

最近，我一直在研究人類是如何學(xué)習(xí)的，以及知識(shí)傳遞的有效方式。同時(shí)，我腦海里也一直縈繞著一個(gè)念頭：AI。這幾天，我逐漸意識(shí)到：我們這個(gè)行業(yè)不僅在糟糕地構(gòu)建 AI 工具，而且是在反著來。

這讓我感到沮喪，因?yàn)槲覀兠髅髡莆罩薮蟮臐摿Γ瑓s沒有真正發(fā)揮出來——難道我們還沒意識(shí)到，我們是在用不道德的方式訓(xùn)練 LLM，而且這些模型消耗的能源遠(yuǎn)遠(yuǎn)大于它們創(chuàng)造的價(jià)值？更可氣的是，其實(shí)只要稍微多花一點(diǎn)心思，我們就能構(gòu)建出真正能增強(qiáng)人類協(xié)作的工具，而不是把實(shí)踐者的關(guān)鍵思維能力“退化”掉。

我接下來會(huì)講講，AI 工具應(yīng)該怎么構(gòu)建。

人類是怎么學(xué)習(xí)進(jìn)階的？

1. 學(xué)習(xí)的方式：提取練習(xí)（Retrieval Practice）

我最喜歡、且有研究支持的人類學(xué)習(xí)理論是“提取練習(xí)”——我們并不是通過“往大腦里灌輸信息”來學(xué)習(xí)，而是通過“主動(dòng)地從記憶中調(diào)取信息”來學(xué)習(xí)的。這對(duì)于協(xié)作類工具設(shè)計(jì)有非常大的啟發(fā)意義。

2. 我們學(xué)習(xí)的內(nèi)容：流程，而非知識(shí)

人類最擅長學(xué)習(xí)的，其實(shí)不是“知識(shí)點(diǎn)”，而是“過程”。比如你教一個(gè)人做蛋糕，是把配方列成 PPT 讓他死記硬背？還是手把手教他怎么操作？顯然是后者。

3. 我們是如何進(jìn)階的：不是靠天才，而是靠集體迭代

說實(shí)話，人類在“從零創(chuàng)新”這件事上其實(shí)并不擅長。我們一直活在“孤膽天才程序員”的神話中，用“個(gè)人產(chǎn)出”來評(píng)判開發(fā)者效率，期待他們獨(dú)立完成復(fù)雜的系統(tǒng)。但現(xiàn)實(shí)是：持續(xù)性的個(gè)人創(chuàng)新既稀有又不重要，就像蛋糕上的彩糖，看著炫但不是重點(diǎn)。

我們真正擅長的是：累積性迭代。人類天生適合群體工作，這也是為什么頭腦風(fēng)暴在“群體”中有效。認(rèn)知心理學(xué)早就有完整的“累積文化理論”：我們通過模仿、借鑒和不斷改進(jìn)他人的經(jīng)驗(yàn)來共同進(jìn)化。所謂“站在巨人的肩膀上”，不是一句口號(hào)，而是人類認(rèn)知機(jī)制的核心。

衍生的結(jié)論就是：

• 創(chuàng)新 = 問題解決。
• 如果我們擅長解決問題、傳播知識(shí)、將經(jīng)驗(yàn)融入群體智慧，就不會(huì)陷入“創(chuàng)新者的窘境”。

簡(jiǎn)單歸納一下：

1. 人類是通過過程來學(xué)習(xí)與教學(xué)的
2. 有效的過程，需要?jiǎng)倓偤玫呐Τ潭?/li>
3. 群體協(xié)作與迭代 > 個(gè)人英雄式編程
4. 工具應(yīng)該是幫助我們思考，而不是替我們思考

AI 工具現(xiàn)在的老問題

當(dāng)前主流的 AI 工具基本是這樣的三步流程：

1. 點(diǎn) AI 按鈕 → ?魔法生成?
2. 展示數(shù)據(jù) → AI 給出建議
3. 用戶輸入命令 → AI 自動(dòng)執(zhí)行

乍一看沒問題，但你會(huì)發(fā)現(xiàn)，它完全缺失了關(guān)鍵環(huán)節(jié)：

• 人類主動(dòng)調(diào)取信息（retrieval）
• 人類主導(dǎo)任務(wù)執(zhí)行（initiation）
• 流程強(qiáng)化和傳承
• 群體知識(shí)的積累與迭代

這才是讓人類變得高效的關(guān)鍵！而我們居然用 AI 去做這些人類本來就擅長的事情，問題是：AI 并不擅長這些事！

更糟的是：如果人類不再做這些事情，人類也會(huì)退化。

一旦人類喪失了這些本能能力，就無法再為 AI 提供優(yōu)質(zhì)數(shù)據(jù)，AI 自然也無從學(xué)習(xí)和進(jìn)化——這會(huì)形成一個(gè)負(fù)向飛輪，系統(tǒng)迅速下滑，效率下降，技能丟失，我現(xiàn)在已經(jīng)在現(xiàn)實(shí)中看到太多這種跡象了，真的令人心碎。

解決辦法：構(gòu)建正向的人類+AI互動(dòng)

很多人喜歡把 AI 比作“實(shí)習(xí)生”或“同事”，但我并不贊同。

我更喜歡的比喻是：一個(gè)健忘的導(dǎo)師這個(gè)導(dǎo)師容易忘事，但他的目標(biāo)不是幫你完成任務(wù)，而是引導(dǎo)你學(xué)習(xí)、變得更強(qiáng)，最重要的是：教會(huì)你如何學(xué)習(xí)。

當(dāng)然，如果你想調(diào)侃點(diǎn)，也可以把 AI 想成一只過度自信的橡皮鴨：它用蘇格拉底式提問、喜歡跑題，還戴著奇怪的小帽子。

接下來我想舉一個(gè)反例：

現(xiàn)有 AI 工具中一個(gè)最常見、也最危險(xiǎn)的反模式就是：

“用戶剛輸入一句話，AI 立即開始操作。”

尤其是在“故障管理”和“可觀測(cè)性工具**”中，這是絕對(duì)不能做的事。

我要用一個(gè)教學(xué)法改進(jìn)這個(gè)反模式：這是經(jīng)典的教學(xué)流程：解釋（Explain）→演示（Demonstrate）→引導(dǎo)（Guide）→強(qiáng)化（Enhance），也被稱為 EDGE 方法（童子軍、軍事、教學(xué)中常用）。

注意：我將最后一步從“Enable（讓學(xué)生去做）”改成了“Enhance（強(qiáng)化）”，因?yàn)槲覀冴P(guān)注的是將人的實(shí)踐行為進(jìn)一步反饋進(jìn)系統(tǒng)中，推動(dòng)下一輪更有效的行為出現(xiàn)，而不是單次執(zhí)行完成。

為什么選這個(gè)例子？

因?yàn)檫@是我會(huì)用來指導(dǎo)初級(jí)工程師“如何應(yīng)對(duì)故障”的教學(xué)方法，也恰好能體現(xiàn)AI 工具設(shè)計(jì)的真正機(jī)會(huì)點(diǎn)。

結(jié)語：工具該怎么做？

我們需要構(gòu)建 AI 工具，使它能夠：

• 引導(dǎo)人類主動(dòng)提取知識(shí)
• 鼓勵(lì)人類參與問題解決
• 促進(jìn)流程的學(xué)習(xí)與傳承
• 支持群體協(xié)作與經(jīng)驗(yàn)迭代

別再讓工具替人類思考，而是讓人類通過工具變得更聰明。這不是性能問題，不是參數(shù)問題，是哲學(xué)問題——我們到底是想把 AI 打造成“更好的人類”？還是想通過 AI 讓人類成為“更好的自己”？

答案，決定了這場(chǎng)技術(shù)革命的最終走向。

什么才是真正優(yōu)秀的 AI 工具？

讓我們?cè)O(shè)定一個(gè)真實(shí)場(chǎng)景：

現(xiàn)在是深夜，技術(shù)人員（就是我們的人類主角）已經(jīng)進(jìn)入夢(mèng)鄉(xiāng)。突然——警報(bào)器響了！出故障了！

人類怎么做？第一步當(dāng)然是響應(yīng)故障。然后呢？他們會(huì)打開可觀測(cè)性工具（observability tool），這是故障排查的第一步。

現(xiàn)在最關(guān)鍵的是：當(dāng)人類打開這個(gè)工具時(shí)，他們必須主動(dòng)回憶并調(diào)取下一步該做什么——這是整個(gè)過程的靈魂。

如果你的流程復(fù)雜到記不住，那就先別談 AI 工具了，先回去修文檔吧。AI 救不了一個(gè)包含 97 個(gè)步驟、令人懷疑人生的流程。

但假設(shè)現(xiàn)在這個(gè)人已經(jīng)回憶起了故障處理流程，我們正好生活在 ?未來?，擁有 fancy 的 AI 工具。那么 AI 應(yīng)該做什么？

（提示：絕對(duì)不是自動(dòng)修復(fù)，更不是自己查問題。）

用 EDGE 教學(xué)法 打造優(yōu)秀 AI 工具

我們用一套成熟的教學(xué)流程來構(gòu)建 AI 交互體驗(yàn)：

Explain（解釋）→ Demonstrate（演示）→ Guide（引導(dǎo)）→ Enhance（強(qiáng)化）

為了強(qiáng)調(diào) AI 的角色是“放大人類能力”，我稱每一次人機(jī)交互為一個(gè)interaction（交互），不是“操作”，不是“代勞”。

記住：AI 應(yīng)該是放大器，而不是遮蔽器。

| Explain（解釋階段）

好的交互方式：

• 提示可能遺漏的關(guān)鍵步驟

例如：“你試過重啟服務(wù)嗎？”、“要不要先回滾再排查？”、“是否需要加個(gè)過濾條件？”

• 主動(dòng)調(diào)出故障處理指南，并幫助解釋其內(nèi)容

糟糕的交互方式：

• “點(diǎn)擊這個(gè)按鈕執(zhí)行操作”
• “解釋這個(gè)錯(cuò)誤”的按鈕或提示框

為什么這些是壞設(shè)計(jì)？

因?yàn)樗鼈兲^了人類“回憶并檢索”的關(guān)鍵步驟，奪走了人類進(jìn)行思維訓(xùn)練的機(jī)會(huì)，也不允許用戶調(diào)整交互邏輯來變得更有用。檢索練習(xí)需要反復(fù)強(qiáng)化，不能繞過。

| Demonstrate（演示階段）

好的交互方式：

• 將自然語言請(qǐng)求轉(zhuǎn)化為系統(tǒng)查詢語法

如：把“我關(guān)心的服務(wù)里哪 10 個(gè)接口最慢？”自動(dòng)翻譯成監(jiān)控系統(tǒng)的查詢語句

• 把請(qǐng)求轉(zhuǎn)化為界面導(dǎo)航路徑

如：用戶說“我想看這個(gè)服務(wù)的 SLO 和下游影響”，AI 自動(dòng)跳轉(zhuǎn)到相關(guān)頁面

• 對(duì)任務(wù)操作問題生成動(dòng)態(tài)演示

如：?jiǎn)枴霸趺磳?duì)比兩個(gè)時(shí)間區(qū)間？”AI 提供簡(jiǎn)潔動(dòng)畫或點(diǎn)擊式演示步驟

所以，別給用戶一個(gè)“點(diǎn)我就搞定”的按鈕。

這不僅會(huì)讓人類技能退化，而且一旦自動(dòng)化出錯(cuò)，大家都要為此埋單。信任是開發(fā)工具最寶貴的資產(chǎn)，一旦喪失，很難再贏回。

再想想：你上次點(diǎn)擊“自動(dòng)完成”按鈕，是不是總還要自己手動(dòng)微調(diào)好幾步？

一鍵按鈕帶來的“少摩擦”體驗(yàn)，很容易轉(zhuǎn)頭變成更多摩擦。

順便說一句：是的，人類應(yīng)該能給 AI 輸入自己的經(jīng)驗(yàn)數(shù)據(jù)。比如我在帶實(shí)習(xí)生排查故障時(shí)的操作軌跡，應(yīng)該成為 AI 后續(xù)“演示教學(xué)”的基礎(chǔ)素材。

人類的回憶行為，本質(zhì)上是極高質(zhì)量的訓(xùn)練數(shù)據(jù)，一定要利用起來！

| Guide（引導(dǎo)階段）

好的交互方式：

• “你似乎卡在了 X 上，想試試查查 Y 嗎？”（前提是人類已經(jīng)給出大致排查計(jì)劃）
• “是否要聯(lián)系代碼負(fù)責(zé)人？要查看這個(gè)服務(wù)的文檔嗎？”
• 人類說：“我卡住了?！?→ AI 回問：“你卡在哪兒？” →（人類回答）→ AI 針對(duì)回應(yīng)作出提示
• 給出某個(gè)概念的心智模型，附帶公司內(nèi)部文檔參考鏈接
• “這段要記錄下來嗎？要通知其他團(tuán)隊(duì)嗎？”——像一個(gè)有經(jīng)驗(yàn)的同事一樣提問
• “你現(xiàn)在希望達(dá)成哪些步驟？”——鼓勵(lì)人類說出目標(biāo)
• 驗(yàn)證人類輸入的合理性，交叉校驗(yàn)信息，必要時(shí)請(qǐng)求澄清

糟糕的交互方式：

• “im stuk, pls help”（別讓 AI 在人類還沒說清楚前就給答復(fù)，強(qiáng)制讓人表達(dá)——哪怕是蘇格拉底式的追問）
• 提供人類沒請(qǐng)求的信息
• 以權(quán)威口吻糾正人類或進(jìn)行“事實(shí)審判”
• 表面在“引導(dǎo)”，實(shí)則像在“指揮別人開車”的副駕駛

總結(jié)一句話：一旦你給人一個(gè)“下一步提示”按鈕，他們就會(huì)無限點(diǎn)擊，最后不是點(diǎn)錯(cuò)東西，就是跳過邏輯，反而破壞了他們的思考回路。

| Enhance（強(qiáng)化階段）

這一階段的目標(biāo)是在操作之后或操作過程中，引導(dǎo)用戶進(jìn)行微小但有效的改進(jìn)。

好的 AI 交互例子：

• 操作后推薦增量改進(jìn)

例如：用戶按時(shí)間范圍過濾數(shù)據(jù)時(shí)，AI 可以提示：“要不要加個(gè)‘警報(bào)前五分鐘’的過濾選項(xiàng)？”

• UI 顯性優(yōu)化

例如：用戶多次點(diǎn)擊 trace 查看詳情、復(fù)制 trace_id，系統(tǒng)下次自動(dòng)浮出“復(fù)制 trace ID”按鈕作為快捷方式

• 多次對(duì)比服務(wù) A 和服務(wù) B？建議開啟分屏對(duì)比界面

對(duì)已有流程的優(yōu)化建議：

• 如果系統(tǒng)檢測(cè)到用戶執(zhí)行了大量類似查詢來獲取數(shù)據(jù) → 建議構(gòu)建數(shù)據(jù)流水線來自動(dòng)化這個(gè)過程
• 如果告警頻繁卻缺乏可操作性 → 建議優(yōu)化告警策略
• 如果系統(tǒng)發(fā)現(xiàn)用戶在憑經(jīng)驗(yàn)進(jìn)行間接關(guān)聯(lián)分析 → 提出增強(qiáng)觀測(cè)能力的建議

這里有個(gè)真實(shí)案例：

我曾見過一個(gè)團(tuán)隊(duì)，他們排查問題時(shí)會(huì)用 observability 工具找出慢端點(diǎn)，再手動(dòng)挖到慢 SQL 查詢，最后憑直覺判斷是數(shù)據(jù)庫查詢計(jì)劃失效還是緩存失效。他們從沒想過這些關(guān)鍵信息其實(shí)可以放進(jìn)遙測(cè)數(shù)據(jù)（telemetry）中。AI 的建議對(duì)他們幫助極大。

• 把臨時(shí)記事筆記自動(dòng)轉(zhuǎn)化為事后復(fù)盤材料（Postmortem Learning）

注意：我始終避免任何讓人脫離思維鏈條的優(yōu)化。這是刻意為之的！

大多數(shù)“Enhance”類建議，實(shí)質(zhì)上是增加“回憶提醒”，幫助用戶在操作中形成“微型學(xué)習(xí)”，逐步內(nèi)化。

額外價(jià)值： 旁觀者在不直接參與操作的情況下，也能通過“觀察”獲得啟發(fā)和學(xué)習(xí)。心理學(xué)研究表明：人類可以在“亞動(dòng)作層面”上學(xué)習(xí)，僅靠觀察也能傳播“我們?nèi)绾巫鍪隆钡募w知識(shí)。

人類真是太妙了（跑題了~）。

 模式小結(jié)：什么是好工具的通用原則？

我們可以從這些例子中抽象出幾個(gè)核心設(shè)計(jì)理念：

• 強(qiáng)化人類學(xué)習(xí)
• 幫助人類協(xié)作得更好
• 加速人類在流程中的執(zhí)行，但不剝奪執(zhí)行本身
• 永遠(yuǎn)不要從空白直接跳到結(jié)果
• 工具的使用應(yīng)該剛剛好，不多不少
• 將團(tuán)隊(duì)的經(jīng)驗(yàn)轉(zhuǎn)化為系統(tǒng)可用的輸出

加餐案例：代碼生成任務(wù) 如何正確構(gòu)建？

下面是另一個(gè)應(yīng)用這個(gè)理念的例子：代碼編寫。

大家都寫代碼，對(duì)吧？看起來 AI 自動(dòng)生成代碼是很香的操作，但實(shí)際上你不應(yīng)該一上來就讓 AI 寫代碼。

正確姿勢(shì)應(yīng)該是：

1. 先和 AI 一起寫粗略文檔
2. 然后畫粗略架構(gòu)圖
3. 再寫測(cè)試計(jì)劃
4. 接著寫測(cè)試用例
5. 然后寫帶功能開關(guān)的代碼 stub
6. 最后才是生成代碼本體

一旦代碼通過測(cè)試，再倒過來優(yōu)化整個(gè)過程：

• 用代碼完善測(cè)試
• 用測(cè)試豐富測(cè)試計(jì)劃
• 用實(shí)現(xiàn)補(bǔ)全架構(gòu)圖
• 最后精修文檔

為什么要這么做？

因?yàn)槿绻阒苯訂栆粋€(gè)人“這個(gè)代碼對(duì)嗎？”而他心里并沒有答案，這其實(shí)是個(gè)無法判斷的問題——這不是“回憶”，而是模糊驗(yàn)證，人類特別不擅長。

但如果你換成蘇格拉底式提問，比如：

• “這個(gè)功能應(yīng)該做什么？”
• “它應(yīng)該長什么樣？”
• “數(shù)據(jù)流應(yīng)該怎么走？”
• “遇到 A/B/C 情況應(yīng)該怎么處理？”

這些每一步都要求人類主動(dòng)思考、主動(dòng)檢索知識(shí)——這才是高質(zhì)量交互！

額外好處：對(duì) LLM 的訓(xùn)練者來說，這種“檢索驅(qū)動(dòng)開發(fā)模式”產(chǎn)生的數(shù)據(jù)，信噪比極高，完美用于微調(diào)。

為什么當(dāng)今大多數(shù) AI 工具還不采用這種方法？真令人費(fèi)解。

尚未挖掘的潛力：跨團(tuán)隊(duì)協(xié)作

我略過了一個(gè)巨大的潛力區(qū)：跨職能協(xié)作。

現(xiàn)在幾乎沒有哪個(gè)軟件工程團(tuán)隊(duì)認(rèn)真關(guān)注這個(gè)問題，特別是平臺(tái)工程（platform engineering）領(lǐng)域更是如此。可以理解：預(yù)算緊、團(tuán)隊(duì)忙，沒精力幫“別的部門”。但如果做對(duì)了，跨職能協(xié)作可能是 AI 帶來最高影響力的場(chǎng)景之一。

舉個(gè)例子：

生產(chǎn)環(huán)境宕機(jī)了，客戶支持（CS）團(tuán)隊(duì)郵箱被用戶問爆了：發(fā)生了什么？我這邊受影響了嗎？數(shù)據(jù)丟了嗎？

如果有人愿意做這個(gè)工具，AI 是可以參與的。

理想流程：

1. 客戶支持給開發(fā)團(tuán)隊(duì)發(fā)幾個(gè)標(biāo)準(zhǔn)化問題
2. AI 立即返回一版草稿：

“你好，這是 AI 初步猜測(cè)的回答，請(qǐng)不要直接發(fā)給客戶。FYI 我已聯(lián)系開發(fā)人員核實(shí)?！?/p>

開發(fā)和客戶支持都不傻，如果 AI 說得離譜，這反而提醒他們需要“面對(duì)面交流”，并且這個(gè)溝通可以由非一線開發(fā)人員處理，不會(huì)打斷正在修復(fù)故障的主力工程師。

1. 第二階段，AI 把問題整理好發(fā)給開發(fā)團(tuán)隊(duì)：

“客戶支持想了解 X、Y、Z。我剛才提供了初步回答，你們看下是否正確？需要補(bǔ)充嗎？這能用來回復(fù)用戶嗎？”

開發(fā)團(tuán)隊(duì)、工程經(jīng)理、產(chǎn)品經(jīng)理或其他相關(guān)人員可以快速 review 并修正，不用每次都手動(dòng)中斷修 bug 的流程。而且這個(gè)過程仍然具備“檢索特性”，因?yàn)槟阋箝_發(fā)者確認(rèn)信息準(zhǔn)確性，而不是憑空生成。

如果 AI 回答錯(cuò)了怎么辦？

沒關(guān)系，團(tuán)隊(duì)可以用極其工程化、術(shù)語密集的方式直接回一句：

“情況是 zk 掛了，sidekiq 堵了，redis 卡了，現(xiàn)在流量切到新 AZ，blue yellow 做完了，orange 還好吧？”

這段對(duì)客戶支持當(dāng)然毫無幫助，對(duì)局外人也像天書，但 AI 可以把這段轉(zhuǎn)換成更友好、更清晰的回應(yīng)，甚至提示你：“ETA 要不要也補(bǔ)上？”

另外，你的支持體系很可能還有多個(gè)等級(jí)。你有沒有遇到過這樣的情況：業(yè)務(wù)合作伙伴的技術(shù)專家通過客服渠道來詢問“真正的答案”？那一級(jí)用戶呢？AI 可以在這種場(chǎng)景下派上用場(chǎng) —— 它可以幫助你同時(shí)準(zhǔn)確地回應(yīng)這兩類人（前提是你得讓團(tuán)隊(duì)再三確認(rèn)，AI 在補(bǔ)充回答時(shí)沒出岔子）。

接下來，還可以把這些功能進(jìn)一步整合進(jìn)客戶支持系統(tǒng)，讓客服看到實(shí)時(shí)的事故信息，知道事故是否發(fā)生、是否已解決，并能查看最新的自動(dòng)答復(fù)，這樣他們就不會(huì)被動(dòng)應(yīng)對(duì)那些自己根本答不上來的問題。

這個(gè)領(lǐng)域有著巨大的潛力。但在高層管理者真正將“為內(nèi)部效率構(gòu)建軟件”看作和“發(fā)布新功能”一樣重要之前，平臺(tái)工程團(tuán)隊(duì)恐怕很難去真正動(dòng)手做這類東西。而且，如果市場(chǎng)上還沒有明確需求，那也很難賣出去，或者創(chuàng)造出能讓相關(guān)廠商自然涌現(xiàn)的生態(tài)環(huán)境。唉。

寫在最后：構(gòu)建錯(cuò)了，人的能力正在空心化

說到底，我們正在“反著”構(gòu)建我們的 AI 工具鏈。

這種“反向構(gòu)建”的結(jié)果是能力空心化 —— AI 正在試圖取代人類最擅長的、最核心的那一部分，而不是去增強(qiáng)它。可偏偏我們選的又是 AI 最不擅長的部分：協(xié)作式的、積累性的學(xué)習(xí)（畢竟它既不能真正推理，也不能真正協(xié)作）。更糟糕的是，我們還把這兩個(gè)失敗的過程相互喂養(yǎng)，制造出一個(gè)徹底瓦解人機(jī)交互效能的負(fù)面反饋循環(huán)。

說真的，我們得停下來，不能再這么做了。更重要的是：我們完全不必這么做！（我可不是在開玩笑，這是有科學(xué)依據(jù)的?。?/p>

如果你構(gòu)建的是促進(jìn)協(xié)作式學(xué)習(xí)的工具，如果你把“協(xié)助和增強(qiáng)人類主導(dǎo)的過程”放在“輸出指數(shù)級(jí)噪聲”之上優(yōu)先考慮，那么你最終構(gòu)建出來的工具會(huì)幫助人類“變得更擅長變得更擅長”。反過來，工具也因此能變得更好；這反過來又進(jìn)一步促進(jìn)人類提升，最終形成一個(gè)正向的、強(qiáng)化的反饋循環(huán)，而不是目前這種不斷削弱的惡性循環(huán)。

所以，我們需要把“人性”重新帶回我們的工具系統(tǒng)中來，而不是假裝一切都無所謂，好像人類幾年后就會(huì)被淘汰似的。雖然，說實(shí)話，很多工具從一開始也沒打算為人類設(shè)計(jì) —— 我們得面對(duì)現(xiàn)實(shí)。

系統(tǒng)工具這個(gè)領(lǐng)域，已經(jīng)到了徹底革新的前夜 —— 無論是它們的理念、實(shí)現(xiàn)方式，還是它們的價(jià)值評(píng)估方式，都值得被重構(gòu)。

但這一切不會(huì)憑空出現(xiàn)，除非我們從一開始就以人為本來構(gòu)建這些系統(tǒng)。

別再說什么“把人保持在循環(huán)中”，因?yàn)?，人就是那個(gè)循環(huán)本身。

參考鏈接:https://hazelweakly.me/blog/stop-building-ai-tools-backwards/#what-better-ai-tooling-looks-like

本文轉(zhuǎn)載自51CTO技術(shù)棧，譯者：云昭