在可能阻礙語言模型性能的各種問題和挑戰(zhàn)中，幻覺往往位居榜首。當語言模型生成虛假、誤導或無意義的信息時，就會出現幻覺。在檢索增強生成 (RAG) 系統(tǒng)中，語言模型通過檢索和整合外部信息來增強事實依據，這個問題得到了緩解，但并未完全消除。

在我們理解 RAG 文章系列的新一期中，我們將探討幻覺問題，與獨立語言模型相比，它們在 RAG 系統(tǒng)中的表現如何，最重要的是，如何解決這個具有挑戰(zhàn)性的問題。

為什么 RAG 系統(tǒng)中的幻覺仍然會發(fā)生

正如本系列的開篇所討論的，RAG 系統(tǒng)相較于傳統(tǒng)語言模型的主要優(yōu)勢之一是能夠通過檢索和整合事實準確的信息來減少幻覺，但幻覺仍然可能由于多種原因而產生。事實上，幻覺仍然是 RAG 系統(tǒng)中最重大的挑戰(zhàn)之一，尤其是那些檢索精度有限或知識庫質量不夠高的方法。

RAG 系統(tǒng)中仍然可能出現幻覺的一個原因很簡單：如果檢索到的數據包含錯誤，則生成的響應也可能不正確或具有誤導性。在依賴于知識庫（通常是文檔語料庫，但有時也是結構化數據庫）的 RAG 系統(tǒng)中，數據由人為輸入、傳感器收集等，因此條目包含錯誤或不準確的信息并不少見。當 RAG 的檢索器優(yōu)先考慮或誤解這些“損壞的”數據條目或文檔時，出現幻覺的風險就會增加。如果用戶在 RAG 系統(tǒng)中查詢與該人相關的人名，文檔或數據庫中錯誤輸入的人名就足以觸發(fā)“幻覺秀”……或者更糟的是，如果用戶就是那個人！

當檢索到的信息缺乏足夠的細節(jié)或上下文細微差別（這些對于正確解讀至關重要）時，就會出現另一個問題。例如，銀行聊天機器人 RAG 系統(tǒng)背后的檢索器可能會檢索有關抵押貸款條件的信息來響應客戶的查詢。但是，如果客戶是殘疾人士或特殊身份，有資格享受額外福利，而檢索器未能檢索到這些特定信息，則生成的響應可能會錯失客戶的關鍵機會。這不僅會導致錯誤信息，還可能導致糟糕的用戶體驗，從而可能導致客戶轉向競爭對手。

無論哪種情況，生成器（RAG 系統(tǒng)內的語言模型）都會嘗試根據不完整或誤導性的數據構建響應，從而導致不可靠或不準確的輸出。

緩解 RAG 系統(tǒng)中的幻覺

廣義上講，我們可以識別和分類三種類型的策略或焦點來減輕 RAG 系統(tǒng)中的幻覺：數據、上下文以及檢索器和生成器內的 AI 和推理過程。

數據相關的緩解策略

減少幻覺的關鍵在于確保檢索器使用的知識庫中包含高質量且經過精心整理的數據。如果檢索到的文檔包含錯誤、不精確的條目、過時的信息或偏見，生成器可能會給出誤導性或不正確的響應。為了提高可靠性，可以采取的策略包括嚴格的數據管理、持續(xù)系統(tǒng)地更新知識庫、自動化的事實核查方法以及過濾掉低質量或不相關的來源。

與環(huán)境相關的緩解策略

即使數據的質量和準確性已經得到提升，如果模型未能完全捕捉用戶意圖或檢索所有相關信息，仍然可能出現幻覺。為了解決這個問題，專注于上下文改進的策略包括優(yōu)化檢索技術、使用查詢擴展進行精細搜索、應用重排序模型優(yōu)先選擇與特定場景最相關的文檔，以及采用先進的提示工程技術。這些策略可能有助于提高檢索到的信息和上下文的相關性，從而使最終傳遞給生成器的提示能夠提供堅實的上下文基礎。

人工智能與推理過程相關的緩解策略

最后，即使擁有結構良好的上下文和高質量的數據，語言模型執(zhí)行的推理過程仍然可能導致幻覺。為了應對這一最終挑戰(zhàn)，常見的策略包括使用指令遵循數據集（旨在幫助語言模型理解和遵循明確指令的訓練實例集合）對模型進行微調、結合邏輯推理和常識推理技術、利用事實核查 API 等外部驗證工具，以及在 RAG 工作流中集成多步驟推理框架，以產生更連貫、更精確的響應。

小結

幻覺是當今基于語言模型的人工智能系統(tǒng)面臨的一個關鍵問題，RAG 系統(tǒng)盡管能夠部分解決這一問題，卻也不例外。本文探討了 RAG 背景下的幻覺問題，重點闡述了在生成響應之前檢索外部信息的系統(tǒng)中仍可能出現幻覺的原因，并提出了可在 RAG 系統(tǒng)、數據庫和知識庫中實施的幾種實用策略，以緩解幻覺問題。