蘋果新推出的“蘋果智能”生成式AI技術(shù)在英國上線不到48小時內(nèi)就“翻車”，其AI新聞?wù)δ芙oBBC的新聞報道編造了一條不實標(biāo)題：“刺殺聯(lián)合健康保險公司CEO的嫌疑槍手路易吉·曼吉奧尼開槍自殺”。

該事件不僅是蘋果年末面臨的重大公關(guān)危機(jī)，也引發(fā)了新聞自由倡導(dǎo)組織的廣泛批評，認(rèn)為人工智能尚不足以承擔(dān)生成公共新聞信息的任務(wù)。

人工智能成造謠機(jī)器？

由“無國界記者”（RSF）提出的批評指出，蘋果新聞?wù)腻e誤本質(zhì)源于生成式人工智能的概率性決策模式。RSF在聲明中表示：“這一事故表明，即便基于權(quán)威新聞來源，人工智能系統(tǒng)也無法系統(tǒng)性地產(chǎn)出高質(zhì)量信息。概率性的運作方式?jīng)Q定了此類技術(shù)不適合作為面向公眾的可靠新聞解決方案?！?/p>

蘋果的新聞?wù)到y(tǒng)錯誤總結(jié)了BBC有關(guān)“路易吉·曼吉奧尼”的報道，將“涉嫌槍擊聯(lián)合健康保險CEO的嫌疑人”篡改為“嫌疑人自殺”，嚴(yán)重偏離事實，與造謠無異。這不僅對媒體的公信力造成影響，也可能對公眾的信息獲取權(quán)利構(gòu)成威脅。

新聞?wù)δ鼙灰笙录?/h4>

RSF明確要求蘋果從其操作系統(tǒng)中刪除該功能。RSF科技與新聞部門負(fù)責(zé)人文森特·貝蒂埃批評稱：“事實不應(yīng)由擲骰子的方式?jīng)Q定。蘋果應(yīng)負(fù)起責(zé)任，下架這一功能。”他進(jìn)一步指出：“自動生成虛假信息并歸因于權(quán)威媒體，既損害了媒體的可信度，也危及公眾獲取可靠新聞的權(quán)利。”

這一事件也引發(fā)了BBC的不滿。BBC已對此提交正式投訴，指責(zé)蘋果的人工智能系統(tǒng)損害了其新聞內(nèi)容的準(zhǔn)確性。然而，蘋果尚未對外界的批評和投訴作出公開回應(yīng)。

AI新聞功能的“前科”

據(jù)BBC透露，這并非蘋果AI系統(tǒng)首次因生成錯誤新聞?wù)萑霠幾h。今年11月，一位ProPublica記者曾分享蘋果AI生成的另一則假新聞?wù)?，錯誤地稱以色列總理本雅明·內(nèi)塔尼亞胡被捕，并將消息歸因于《紐約時報》。這一系列事件表明，蘋果的AI新聞?wù)赡芤呀?jīng)成為“習(xí)慣性誤讀者”。

更廣泛的技術(shù)背景也為這一事件提供了警示。Google的AI搜索曾因錯誤建議用戶“在披薩上涂膠水”而受到批評，Meta則警告硬件故障可能導(dǎo)致AI決策錯誤。顯然，生成式人工智能的“未成熟性”已成為行業(yè)的普遍問題。

“機(jī)器造謠”的法律與倫理空白

RSF指出，歐洲的《人工智能法案》（AI Act）盡管是目前全球最先進(jìn)的AI相關(guān)立法，但并未將新聞生成類AI列為高風(fēng)險系統(tǒng)，從而留下了一個重要的法律空白。此外，當(dāng)前主流的AI安全法律框架未能明確生成虛假信息的責(zé)任是歸于技術(shù)提供方還是用戶。這種模糊性導(dǎo)致企業(yè)在處理此類事件時往往采取“推諉”策略。

貝蒂埃呼吁立法者盡快彌補這一缺口：“這一漏洞必須立即填補，以防止類似事件再次發(fā)生。”

RSF呼吁盡快填補法律空白，重點關(guān)注以下幾個方面：

• 高風(fēng)險分類和強(qiáng)制評估。將新聞生成類AI系統(tǒng)列為高風(fēng)險技術(shù)，要求技術(shù)提供方進(jìn)行定期審核和透明報告。
• 虛假信息責(zé)任追究機(jī)制。明確技術(shù)提供方對生成虛假信息的直接責(zé)任，并設(shè)立糾紛仲裁機(jī)制。
• 公眾監(jiān)督與參與。鼓勵公眾和媒體參與AI信息生成技術(shù)的監(jiān)督，形成技術(shù)應(yīng)用的多方協(xié)作機(jī)制。

這一事件還暴露了生成式人工智能在新聞領(lǐng)域依然存在重大技術(shù)瓶頸和內(nèi)容風(fēng)險，也凸顯了企業(yè)在AI技術(shù)使用中的倫理責(zé)任缺失?？萍脊驹趹?yīng)用AI技術(shù)時往往缺乏足夠的責(zé)任心和應(yīng)對機(jī)制。業(yè)內(nèi)人士表示，蘋果若不立即采取行動，未來可能面臨更大的監(jiān)管壓力和用戶信任危機(jī)。