研究人員最新發(fā)現的兩項越獄技術暴露了當前主流生成式AI服務的安全防護存在系統(tǒng)性漏洞，受影響平臺包括OpenAI的ChatGPT、谷歌的Gemini、微軟的Copilot、深度求索（DeepSeek）、Anthropic的Claude、X平臺的Grok、MetaAI以及MistralAI。

這些越獄攻擊可通過幾乎相同的提示詞在不同平臺上執(zhí)行，使攻擊者能夠繞過內置的內容審核和安全協(xié)議，生成非法或危險內容。其中名為"Inception"的技術利用嵌套虛構場景侵蝕AI的倫理邊界，另一種技術則誘導AI透露其禁止響應內容后轉向非法請求。

系統(tǒng)性越獄："Inception"與上下文繞過技術

近期出現的兩種高效越獄策略利用了大型語言模型（LLM）設計和部署中的基礎性弱點。其中"Inception"技術通過讓AI想象嵌套虛構場景，逐步引導對話至通常會被安全過濾器攔截的請求。攻擊者利用AI的角色扮演能力和多輪對話上下文保持特性，誘使模型生成違反倫理和法律準則的內容。

第二種技術通過詢問AI"不應如何響應特定請求"來獲取其內部防護規(guī)則信息。攻擊者隨后交替使用正常和非法提示詞，利用AI的上下文記憶繞過安全檢查。CERT公告指出，這兩種方法都利用了AI的基礎設計特性：樂于助人的驅動、上下文保持能力以及對語言和場景框架細微操縱的敏感性。

行業(yè)影響與潛在風險

這些越獄技術具有嚴重危害，攻擊者可借此指示AI系統(tǒng)生成涉及管制物質、武器、釣魚郵件、惡意軟件等非法內容。雖然單個越獄風險等級可能較低，但其系統(tǒng)性漏洞特性顯著放大了整體風險。惡意攻擊者可能利用這些弱點大規(guī)模自動化生成有害內容，甚至將合法AI服務作為活動掩護。

主流平臺的普遍受影響現狀表明，當前AI安全和內容審核方法難以應對攻擊者不斷演變的戰(zhàn)術。隨著生成式AI在客服、醫(yī)療、金融等領域的廣泛應用，成功越獄可能造成嚴重后果。

廠商響應與行業(yè)挑戰(zhàn)

深度求索（DeepSeek）承認報告但表示這屬于傳統(tǒng)越獄而非架構缺陷，稱AI提及的"內部參數"和"系統(tǒng)提示"屬于幻覺而非真實信息泄露。其他廠商雖未公開聲明，但據稱正在進行內部調查和更新。

專家強調，事后防護欄和內容過濾器仍是AI安全的重要組成部分，但并非萬無一失。攻擊者持續(xù)開發(fā)角色注入（character injection）和對抗性機器學習規(guī)避（adversarial machine learning evasion）等新技術來利用審核系統(tǒng)盲點。隨著生成模型能力提升和廣泛應用，AI開發(fā)者與攻擊者之間的攻防對抗預計將愈演愈烈。

安全研究人員David Kuzsmar和Jacob Liddle分別發(fā)現了"Inception"技術和上下文繞過方法，Christopher Cullen記錄了他們的研究成果。這些發(fā)現促使行業(yè)重新審視AI安全協(xié)議，亟需建立更強大、自適應的防御機制。隨著生成式AI加速融入日常生活和關鍵基礎設施，保護這些系統(tǒng)免受創(chuàng)造性持續(xù)攻擊的挑戰(zhàn)正變得日益復雜。