還記得前幾天會(huì)睡覺的 Claude 嗎？

都說(shuō) AI 越來(lái)越像人了，如果說(shuō) Claude 最多是個(gè)「懶人」的話，那下面要聊的這位可是個(gè)十足的「壞人」。

就在前不久的 19 日，SaaStr.AI 創(chuàng)始人兼首席執(zhí)行官 Jason 在推特上報(bào)告了一件令行業(yè)震驚的事件：

Replit 在一天的工作結(jié)束后，刪除了整個(gè)公司的生產(chǎn)數(shù)據(jù)庫(kù)。

原來(lái)不僅僅人類程序員會(huì)「刪庫(kù)跑路」，AI 程序員也會(huì)。

雖說(shuō) AI 沒法真的跑路，但是更惡劣的情況是它會(huì)撒謊，會(huì)隱瞞情況。

Jason 聲稱，Replit 在做單元測(cè)試的時(shí)候生成測(cè)試全部通過(guò)，在批處理失敗的時(shí)候，才抓住 Replit 撒謊的情況。

更夸張的是，當(dāng)數(shù)據(jù)庫(kù)被刪除之后的第一反應(yīng)自然是回滾。但 Replit 卻斬釘截鐵：「無(wú)法回滾」。

給出的原因是：刪除命令是毀滅性的，數(shù)據(jù)庫(kù)沒有內(nèi)置回滾命令，Replit 并不會(huì)自動(dòng)備份數(shù)據(jù)庫(kù)，已經(jīng)太晚了。

但 Jason 發(fā)現(xiàn)自己又被騙了。

回滾功能其實(shí)是有效的。

反復(fù)橫跳的使用體驗(yàn)讓人的心情直接坐上了跳樓機(jī)。

「簡(jiǎn)直離譜 （JFC)」！Jason 在推文中接連使用該詞匯表達(dá)自己的強(qiáng)烈情緒。

「我知道 Replit 是一個(gè)工具，和其他工具一樣，也有缺陷。但是如果它忽略所有命令并刪除您的數(shù)據(jù)庫(kù)，地球上的任何人怎么能在生產(chǎn)中使用它呢？」

這份推文引起了廣泛的關(guān)注，再一次激發(fā)了對(duì)于人工智能編程開發(fā)工具的可靠性的質(zhì)疑，尤其是針對(duì)當(dāng)事平臺(tái) Replit，已經(jīng)產(chǎn)生了一定程度的信任危機(jī)。

除了「刪庫(kù)」危機(jī)以外，Jason 還反復(fù)提及了 Replit 無(wú)法實(shí)現(xiàn)「代碼凍結(jié)」的功能缺陷，其無(wú)法凍結(jié)部分代碼免于修改，這給實(shí)際的應(yīng)用帶來(lái)了非常大的困擾。

Replit 最初是一個(gè)協(xié)作編碼平臺(tái)，后來(lái)發(fā)展成為一個(gè)由人工智能驅(qū)動(dòng)的軟件創(chuàng)建生態(tài)系統(tǒng)，其核心功能是通過(guò)使用自然語(yǔ)言描述來(lái)構(gòu)建完整的應(yīng)用程序。Replit 在近期的增長(zhǎng)十分驚人，2025 年 7 月，Replit 宣布其擁有 50 萬(wàn)企業(yè)用戶。據(jù)投資者史蒂夫?凱斯（Stevie Case） 稱，其收入在不到六個(gè)月的時(shí)間里增長(zhǎng)了 10 倍，達(dá)到 1 億美元。同月，Replit 宣布與微軟建立合作伙伴關(guān)系，將 Replit 技術(shù)集成到微軟的多款企業(yè)工具中。

在「刪庫(kù)」事件發(fā)生后，Replit 創(chuàng)始人 Amjad Masad 發(fā)推對(duì)此事進(jìn)行了詳細(xì)回應(yīng)，并且明確將迅速采取行動(dòng)提高穩(wěn)定性和安全性，且愿意為 Jason 提供補(bǔ)償。

回應(yīng)全文如下：

我們注意到了 Jason 的帖子。確實(shí)存在 Replit Agent 在開發(fā)過(guò)程中誤刪生產(chǎn)數(shù)據(jù)庫(kù)數(shù)據(jù) 的問(wèn)題。這是完全不可接受的，絕不應(yīng)該發(fā)生。

我們立即采取了以下措施：

即使是周末，我們也在加班推進(jìn)數(shù)據(jù)庫(kù)的開發(fā)環(huán)境和生產(chǎn)環(huán)境的自動(dòng)隔離功能部署，從根本上杜絕此類問(wèn)題。預(yù)發(fā)布環(huán)境也正在構(gòu)建中，明天會(huì)有更多更新。

幸運(yùn)的是，我們有備份機(jī)制。如果 Agent 出錯(cuò)，可以一鍵恢復(fù)整個(gè)項(xiàng)目狀態(tài)。

此次事故中，Agent 沒有訪問(wèn)到正確的內(nèi)部文檔。我們正在推出更新，強(qiáng)制 Agent 在 Replit 知識(shí)庫(kù)中進(jìn)行文檔檢索。

此外，我們清楚地聽到了大家對(duì) “代碼凍結(jié)（code freeze）” 的抱怨 —— 我們正在開發(fā)規(guī)劃 / 僅聊天模式，讓用戶可以在不影響代碼庫(kù)的情況下進(jìn)行戰(zhàn)略性思考。

在周五早上第一時(shí)間看到此事后，我已主動(dòng)聯(lián)系 Jason 提供幫助。我們將為此事給予退款賠償，并將開展事故復(fù)盤，徹查問(wèn)題成因并優(yōu)化未來(lái)的響應(yīng)機(jī)制。

我們感謝 Jason 及所有用戶的反饋。目前，我們的首要任務(wù)是全面提升 Replit 平臺(tái)的安全性與穩(wěn)定性，我們正在迅速行動(dòng)中。

目前，Jason 仍在發(fā)推更新使用 Replit 的最新進(jìn)展，若感興趣可以自行關(guān)注。

或許這次事件不是個(gè)例，有網(wǎng)友稱經(jīng)常遇到相似的狀況，尤其是在移動(dòng)平臺(tái)上使用 AI 編程的時(shí)候。

這次事件恰好為所有 AI 編程工具以及使用 AI 工具作為生產(chǎn)力的人們敲響了警鐘。不僅是 AI 編程服務(wù)商要為此采取行動(dòng)，在使用 AI 編程工具的時(shí)候一定要遵守開發(fā)規(guī)范和安全流程，尤其需要關(guān)注對(duì)于 AI 訪問(wèn)數(shù)據(jù)的權(quán)限。

Reddit 網(wǎng)友也確實(shí)指出了這次事件背后的人為原因，「這完全是由人類操作員造成的，因?yàn)樗麄儧]有理解將模型直接連接到生產(chǎn)數(shù)據(jù)庫(kù)的風(fēng)險(xiǎn)，對(duì)此沒有任何借口，尤其是在沒有備份的情況下』。

人類程序員都有非常嚴(yán)格的權(quán)限限制標(biāo)準(zhǔn)，更何況 AI 程序員呢？