1.引言

1.1 RAG 的局限與迭代檢索的提出

在知識密集型任務(wù)中，大語言模型（LLMs）的檢索增強生成（RAG）雖應用廣泛，能提升輸出質(zhì)量、減少幻覺，但仍存缺陷。比如，檢索內(nèi)容常含噪聲，這會致使 RAG 系統(tǒng)性能下滑。復雜查詢時，單次檢索難以獲取充足知識，進而阻礙 RAG 系統(tǒng)的廣泛應用。

為攻克這些難題，迭代檢索應運而生，其持續(xù)更新檢索結(jié)果，以契合生成進程里動態(tài)變化的信息需求?？涩F(xiàn)有的迭代檢索方法多依賴少樣本提示或手動構(gòu)建規(guī)則。這類方式需大量人力，推理時計算成本頗高。更為關(guān)鍵的是，它們忽視了 LLMs 強大的推理與決策能力，未能充分挖掘模型在判定檢索時機與內(nèi)容上的潛力，造成資源浪費。

1.2 Auto-RAG 的創(chuàng)新點與優(yōu)勢

鑒于現(xiàn)有方法的不足，我們設(shè)計了 Auto-RAG，這一以 LLMs 強大決策能力為核心的自主迭代檢索模型。它借助多輪對話與檢索器交互，精心規(guī)劃檢索流程、優(yōu)化查詢語句，直至采集到充足外部知識，最終為用戶輸出精準結(jié)果。

為賦予 LLMs 迭代檢索中的自主決策本領(lǐng)，我們構(gòu)建了自動合成基于推理的決策指令框架，并對最新開源 LLMs 進行微調(diào)。經(jīng)在六個具代表性基準測試的驗證，即便訓練數(shù)據(jù)有限，Auto-RAG 也表現(xiàn)卓越。其能依問題難度與檢索知識的效用，自動調(diào)整迭代次數(shù)，無需人工干預。而且，它以自然語言呈現(xiàn)迭代檢索過程，提升可解釋性，賦予用戶更直觀體驗。例如在處理復雜多跳問題時，Auto-RAG 可通過迭代推理，從檢索到的眾多文檔中精準提取關(guān)鍵知識，逐步逼近正確答案，過程清晰透明，結(jié)果準確可靠。

2.相關(guān)工作

2.1 檢索增強生成（RAG）

RAG 的誕生，旨在應對模型參數(shù)中知識過時以及 LLMs 對長尾知識保留不佳的困境。常見的 RAG 方法遵循檢索-讀取框架，即將檢索文檔與用戶輸入拼接，為 LLMs 補充外部知識。然而，檢索器并非完美無缺，檢索內(nèi)容的噪聲問題，已被眾多研究證實會損害 RAG 系統(tǒng)性能。

為此，學界展開多方面探索。在查詢表述優(yōu)化上，通過改進查詢構(gòu)建方式，提升檢索精準度；檢索器增強方面，采取優(yōu)化檢索器架構(gòu)與算法，提高檢索效率與質(zhì)量；生成器改進方向，著力優(yōu)化生成模型，增強其基于檢索知識生成高質(zhì)量文本的能力；檢索文檔后處理優(yōu)化領(lǐng)域，通過對檢索文檔的篩選、整合與提煉，提升知識可用性。但隨著任務(wù)復雜度攀升，單次檢索獲取足量知識愈發(fā)困難，這些方法仍未徹底解決問題。

2.2 迭代檢索

迭代檢索是為處理復雜問題求解時動態(tài)變化的知識需求而設(shè)，關(guān)鍵在于精準判定檢索時機與內(nèi)容。諸如 ITER-RETGEN 將輸入問題與前次迭代生成的輸出拼接成新查詢，雖取得一定成果，但僅反映既有知識，未明確揭示 LLMs 的信息需求。以生成的下一句為查詢，并依檢索結(jié)果優(yōu)化前一句，雖更精準定位信息需求，卻高度依賴精心設(shè)計的少樣本提示，需持續(xù)檢索與優(yōu)化，人力成本與推理成本居高不下。Self-RAG 訓練 LLMs 反思檢索與生成內(nèi)容，但學習過程機械，未有效培育推理能力，限制了模型表現(xiàn)。

與上述方法相較，Auto-RAG 全面釋放 LLMs 在迭代檢索中的推理式自主決策潛能，憑借推理自主抉擇檢索時機與內(nèi)容，性能更優(yōu)、效率更高，為迭代檢索開辟新路徑。

3.方法

3.1 基于推理的迭代檢索

我們將迭代檢索視作 LLM 與檢索器的多輪交互流程。用戶查詢觸發(fā)交互，持續(xù)至獲取充足知識形成最終答案。每次迭代中，Auto-RAG 依當前狀態(tài)深度推理，判斷是否需額外檢索及確定所需信息，待知識完備則停止查詢并作答。

3.1.1 基于推理的規(guī)劃與查詢優(yōu)化

為優(yōu)化迭代效率與連貫性，我們構(gòu)建契合人類認知的推理范式，涵蓋檢索規(guī)劃、信息提取、答案推斷三個核心環(huán)節(jié)：

檢索規(guī)劃：接收用戶問題時，LLM 需精準明確解答所需知識，檢索文檔后評估是否需進一步檢索及明確后續(xù)檢索方向。此規(guī)劃全程至關(guān)重要，如同導航系統(tǒng)，可提升檢索效率、規(guī)避迷失方向風險（Wang 等人，2024a）。例如在歷史知識問答中，面對“文藝復興對歐洲科技發(fā)展的影響”問題，LLM 應迅速梳理出需檢索文藝復興時期科技成果、代表人物貢獻、社會環(huán)境變革等知識要點，并依據(jù)首輪檢索結(jié)果決定是否深入挖掘特定領(lǐng)域知識或拓展檢索范疇。

信息提?。禾幚頇z索文檔時，LLM 應高效提取關(guān)鍵信息，過濾無關(guān)內(nèi)容。這一過程類似專業(yè)學者研讀文獻，提煉精華，增強處理外部知識的效率與準確性（Wei 等人，2023；Xu 等人，2024）。以醫(yī)學研究文獻檢索為例，面對海量醫(yī)學論文，LLM 需精準提取疾病病因、癥狀、治療方案、實驗數(shù)據(jù)等核心信息，摒棄無關(guān)的研究背景、實驗設(shè)備介紹等冗余內(nèi)容，為答案推斷筑牢基礎(chǔ)。

答案推斷：集齊解答問題的全部知識后，LLM 運用推理生成準確答案，降低幻覺風險，確?；貞煽烤珳剩╓ei 等人，2023）。如在復雜物理問題求解中，綜合各類物理定律、實驗數(shù)據(jù)及現(xiàn)象描述后，LLM 經(jīng)嚴謹推理得出符合物理原理與實際情況的答案，避免無根據(jù)的臆測與錯誤結(jié)論。

這三種推理共同構(gòu)成迭代檢索的思維鏈條。我們采用少樣本提示法激發(fā)推理過程，依實際情境靈活調(diào)整步驟。初始接收問題時可省略后兩步，檢索信息全無關(guān)時跳過信息提取，確保模型依據(jù)情境精準判斷，而非機械模仿與虛構(gòu)答案。用于激發(fā)推理的提示示例見附錄C.1，同時利用靈活提示策略生成多樣查詢，擺脫少樣本提示的風格局限，提升檢索靈活性與全面性。

3.1.2 數(shù)據(jù)過濾與格式化

數(shù)據(jù)過濾：雖闡明迭代檢索推理與查詢優(yōu)化方法，但仍可能產(chǎn)生推理瑕疵或不佳查詢。我們通過對生成的推理與查詢篩選。在含子答案的多跳問答數(shù)據(jù)集里，每次檢索迭代多采樣查詢，保留檢索文檔含子答案的查詢。同時，若最終答案與數(shù)據(jù)集參考答案吻合，則保留數(shù)據(jù)，確保迭代檢索質(zhì)量與答案連貫性。算法 1 清晰勾勒指令合成與過濾框架，從源頭提升數(shù)據(jù)質(zhì)量，為模型訓練與性能優(yōu)化奠定堅實基礎(chǔ)。

數(shù)據(jù)格式化：將迭代檢索視作多輪交互對話，各輪輸入為用戶問題或檢索文檔，輸出是 LLM 的推理、檢索規(guī)劃或最終答案。

3.2 訓練

為賦予任意 LLM 迭代檢索自主決策能力，我們選用標準監(jiān)督微調(diào)策略。依公式 ：

計算交叉熵損失，通過反向傳播優(yōu)化模型參數(shù)，使模型學習到精準的決策模式與推理邏輯，提升在迭代檢索任務(wù)中的性能表現(xiàn)。

3.3 推理

4.實驗

4.1 實驗設(shè)置

本研究聚焦 Auto-RAG 于問答（QA）任務(wù)應用，涵蓋開放域 QA與多跳 QA領(lǐng)域。

為訓練 Auto-RAG，我們以 Natural Questions（NQ）和 2WikiMultihopQA（2Wiki）兩個代表性數(shù)據(jù)集為藍本，精心合成 10,000 條基于推理的指令。選用 Llama-3-8B-Instruct 塑造推理過程，Qwen1.5-32B-Chat 構(gòu)建改寫查詢，隨后用合成指令對 Llama-3-8B-Instruct 微調(diào)五輪，強化其迭代檢索自主決策能力。訓練數(shù)據(jù)迭代次數(shù)分布如圖 2 所示，呈現(xiàn)出一定規(guī)律，為模型性能評估與優(yōu)化提供數(shù)據(jù)洞察。

評估環(huán)節(jié)，我們橫跨 NQ、2Wiki、TriviaQA（TQA）、PopQA（PQA）、HotpotQA（HQA）和 WebQuestions（WQ）六個數(shù)據(jù)集展開嚴格測試，采用 E5-base-v2 作檢索器，以 2018 年 12 月 Wikipedia 數(shù)據(jù)轉(zhuǎn)儲為檢索語料庫，遵循標準報告結(jié)果與指標，NQ、TQA、WQ 用精確匹配（EM），2Wiki、PQA、HQA 用 F1 分數(shù)，各數(shù)據(jù)集超參數(shù)詳情于附錄 B 完整呈現(xiàn)，確保實驗設(shè)置科學合理、結(jié)果可比可靠。

4.2 基線方法

基線設(shè)置全面涵蓋無檢索（Naive Gen）、單次檢索與多次檢索（迭代檢索）方法：

無檢索基線（Naive Gen）：以 Llama-3-8B-Instruct 零樣本設(shè)置評估性能，展現(xiàn)模型自身知識儲備應對問答任務(wù)的水平，為對比檢索增強策略效果提供基礎(chǔ)參照。

單次檢索基線：過程優(yōu)勢，多維度剖析單次檢索性能邊界與提升方向。對比 RECOMP-abstractive 和 Selective-Context 在上下文選擇優(yōu)化的成果、REPLUG 對生成器性能提升成效，以及 IRCoT閱讀解釋檢索文檔時思維鏈（CoT）

多次檢索基線（迭代檢索）：將 Auto-RAG 與 FLARE、Iter-RetGen、Self-RAG 對比。前兩者分別依賴手動定義檢索內(nèi)容與規(guī)則判定檢索時機，Self-RAG 靠預測反思標記決定檢索與評估結(jié)果質(zhì)量，Auto-RAG 則憑借自主推理決策脫穎而出，凸顯智能自主檢索優(yōu)勢。

4.3 主要結(jié)果

表 1 展示六個基準測試結(jié)果，Auto-RAG 在各數(shù)據(jù)集表現(xiàn)優(yōu)異，超越其他迭代檢索方法。與 Iter-RetGen 相比，其擺脫手動定義檢索內(nèi)容與次數(shù)依賴；相對 FLARE，突破預定義規(guī)則限制，自主決策檢索時機與內(nèi)容，精準高效；相較于 Self-RAG，融入迭代推理機制，決策更精細合理，優(yōu)化檢索策略應對復雜任務(wù)，在六個基準測試中成績斐然，有力證明其在問答任務(wù)中的卓越性能與領(lǐng)先地位，為知識檢索與答案生成樹立新標桿。

5.分析

5.1 對問題和檢索器的強適應性

實際應用中，問題復雜度與檢索文檔長度差異顯著，檢驗 Auto-RAG 適應性至關(guān)重要。分析多數(shù)據(jù)集不同檢索文檔數(shù)量下 Auto-RAG 迭代比例與性能：

迭代次數(shù)自適應調(diào)整：如圖 3，單跳 QA 任務(wù) NQ 和 TriviaQA 首輪迭代終止比例高于多跳 QA 任務(wù) HotpotQA，因單跳任務(wù)信息需求相對簡單，模型能快速判定檢索充分性。且隨每輪檢索文檔增多，首輪迭代終止比例上升，表明模型依信息充足度靈活調(diào)控迭代次數(shù)，如信息充裕則速決，不足則持續(xù)檢索，智能適配任務(wù)需求。

文檔數(shù)量影響性能：圖 4 顯示不同文檔數(shù)量影響 QA 性能，在三個任務(wù)中，每輪提供三篇文檔時效果佳，揭示合適文檔量對模型性能提升關(guān)鍵作用，為檢索器設(shè)置與檢索策略優(yōu)化指引方向，確保模型輸入信息質(zhì)與量平衡。

對比無檢索（Naive Gen）和 Standard RAG，Auto-RAG 性能卓越且波動小，穩(wěn)健應對檢索器差異，為復雜多變實際應用筑牢可靠性能根基。

5.2 消融研究

通過消融實驗深度驗證 Auto-RAG 訓練、迭代推理與數(shù)據(jù)構(gòu)建環(huán)節(jié)關(guān)鍵作用：

訓練成效顯著：經(jīng)訓練的 Auto-RAG 相較以少樣本提示合成數(shù)據(jù)引導的未訓練模型優(yōu)勢盡顯。未訓練模型在問答任務(wù)中常陷入困境，因依賴少樣本提示致使推理過程生硬、缺乏靈活性，額外推理開銷巨大。而訓練后的 Auto-RAG 憑借微調(diào)學習，精準捕捉數(shù)據(jù)深層特征與邏輯關(guān)聯(lián)，將知識深度內(nèi)化于模型架構(gòu)，構(gòu)建高效檢索決策體系，有力消除少樣本局限，在復雜問答情境下迅速定位關(guān)鍵知識，大幅提升答案準確性與完整性，彰顯訓練對模型迭代檢索能力進階的核心驅(qū)動價值。

迭代推理賦能：對比直接依檢索文檔生成答案的模型，融入迭代推理的 Auto-RAG 在解決復雜問題時效果提升顯著。缺乏推理環(huán)節(jié)的模型面對多跳、邏輯嵌套問題時易迷失方向，誤判信息關(guān)聯(lián)，答案質(zhì)量參差不齊。Auto-RAG 的迭代推理機制似智慧導航，逐輪剖析問題、精準甄別信息需求、動態(tài)優(yōu)化檢索策略。如在科學知識問答中，面對多因素交織難題，Auto-RAG 層層推理、抽絲剝繭，挖掘知識間微妙聯(lián)系，直至構(gòu)建完整邏輯鏈條解答問題，有力印證推理環(huán)節(jié)對提升模型復雜任務(wù)處理能力的關(guān)鍵意義，契合推理提升模型能力的理論預期。

數(shù)據(jù)構(gòu)建優(yōu)勢：在數(shù)據(jù)合成環(huán)節(jié)，零樣本查詢改寫方法遠超少樣本查詢精煉。少樣本查詢精煉受樣本數(shù)量與分布制約，易陷入局部最優(yōu)陷阱，生成查詢趨同、覆蓋范圍窄。零樣本方法擺脫樣本束縛，基于語義理解與知識泛化動態(tài)生成多元查詢。如歷史事件檢索中，能從不同視角時段構(gòu)建查詢，大幅提升檢索全面性精準度，為模型挖掘深層知識、優(yōu)化答案創(chuàng)造豐富信息源，充分展現(xiàn)數(shù)據(jù)構(gòu)建策略優(yōu)化對提升 Auto-RAG 整體性能的深遠影響。

5.3 數(shù)據(jù)縮放

系統(tǒng)探究 Auto-RAG 在不同指令數(shù)量訓練下性能演變規(guī)律，將訓練數(shù)據(jù)量從 0.1k 精細拓展至 10k 并于問答任務(wù)評估。實驗數(shù)據(jù)（圖 7）清晰顯示：約 0.5k 數(shù)據(jù)量時，模型初獲自主檢索能力萌芽，此階段模型似懵懂學徒，依據(jù)有限指令初步構(gòu)建知識檢索框架，嘗試探索信息海洋，雖檢索決策稍顯稚嫩，但已具備應對簡單問答基礎(chǔ)能力，開啟智能檢索征程第一步。隨數(shù)據(jù)量穩(wěn)步攀升，模型性能呈持續(xù)上揚態(tài)勢。豐富數(shù)據(jù)為模型注入知識養(yǎng)分，助其深化語義理解、拓展知識視野、強化邏輯推理，精準洞察問答任務(wù)復雜模式與微妙語境差異。于海量歷史文獻問答中，大量數(shù)據(jù)使模型精準解析時代背景、人物關(guān)系及事件脈絡(luò)，優(yōu)化檢索路徑、精準篩選關(guān)鍵知識片段，大幅提升答案準確性與權(quán)威性，為模型性能與數(shù)據(jù)規(guī)模間緊密關(guān)聯(lián)提供有力量化支撐，指引模型訓練資源高效配置與性能深度優(yōu)化方向。

5.4 一般任務(wù)性能

為全面度量 Auto-RAG 通用任務(wù)處理實力，精心擇取多領(lǐng)域權(quán)威基準測試，涵蓋 AI2 推理挑戰(zhàn)、考試閱讀理解數(shù)據(jù)集、對抗生成場景及開放圖書問答等。實驗結(jié)果（表 2）表明，Auto-RAG 在 ARC 與 SWAG 任務(wù)中成績耀眼、進步顯著。經(jīng)合成數(shù)據(jù)專項訓練，LLMs 推理內(nèi)核深度強化，賦予 Auto-RAG 應對對抗任務(wù)復雜挑戰(zhàn)卓越智慧。于 ARC 任務(wù)邏輯迷宮里，面對環(huán)環(huán)相扣推理難題，Auto-RAG 運用知識檢索銳眼捕捉關(guān)鍵線索，憑借嚴密邏輯思維熔爐錘煉答案，精準拆解迷惑陷阱、嚴密推導正確結(jié)論，展現(xiàn)強大邏輯推理與知識運用協(xié)同能力；在 SWAG 對抗戰(zhàn)場，面對誤導干擾，Auto-RAG 依深厚知識儲備與靈動應變智慧，精準剖析語境語義、敏銳識破陷阱偽裝，生成合理答案，凸顯強大泛化能力與環(huán)境適應韌性，為處理跨領(lǐng)域復雜任務(wù)筑牢堅實能力根基，拓展人工智能技術(shù)應用邊界。

5.5 效率

對比 Auto-RAG 與 FLARE、Self-RAG 效率（圖 8），F(xiàn)LARE 困于手動規(guī)則桎梏，檢索修訂流程機械、應變遲緩，檢索低概率成分時資源消耗大、效率低迷；Auto-RAG 以自主智能決策為引擎，動態(tài)規(guī)劃檢索軌跡，性能卓越、檢索次數(shù)精簡、處理速度飆升。Self-RAG 處理短問答時逐個文檔孤立生成答案與反思，忽視文檔關(guān)聯(lián)協(xié)同，檢索次數(shù)盲目依賴輸出長度，耗時費力且易陷入局部最優(yōu)；Auto-RAG 依問題復雜度與知識關(guān)聯(lián)度智能調(diào)配迭代節(jié)奏，如敏銳獵手精準捕獲關(guān)鍵知識，高效生成優(yōu)質(zhì)答案，于各數(shù)據(jù)集性能與效率指標優(yōu)勢盡顯（圖 8），于實際問答場景中大幅提升用戶信息獲取時效，重塑智能問答效率典范。

5.6 案例研究

深入對比 Auto-RAG 與 Self-RAG 案例（圖 9），Self-RAG 對檢索文檔獨立處理、孤立評估反思，選最高分答案策略弊端顯著。處理復雜問題時，因未考量文檔內(nèi)在邏輯關(guān)聯(lián)，易被無關(guān)信息誤導，當文檔皆無關(guān)時，無法主動拓展搜索糾錯，致答案可靠性受損；Auto-RAG 以自主決策為智慧中樞，依知識價值動態(tài)導航檢索路徑，遇無關(guān)文檔冷靜篩選、持續(xù)探索，直至掘取關(guān)鍵知識點亮答案燈塔。且 Auto-RAG 以自然語言清晰闡釋推理脈絡(luò)，Self-RAG 反射令牌式反思晦澀難懂。如剖析文學作品深層寓意問答場景，Auto-RAG 以流暢自然語言引領(lǐng)用戶漫步推理之路，Self-RAG 則令用戶于符號迷宮中迷茫，Auto-RAG 大幅提升交互可解釋性與用戶體驗，開啟智能交互新紀元。

6.結(jié)論

在這篇論文中，我們介紹了 Auto-RAG，這是一個以大型語言模型強大的決策能力為核心的自主迭代檢索模型。Auto-RAG 通過多輪對話與檢索器進行交互，系統(tǒng)地規(guī)劃檢索并優(yōu)化查詢以獲取有價值的知識，直到獲得足夠的外部信息，此時將結(jié)果呈現(xiàn)給用戶。為此，我們開發(fā)了一種在迭代檢索中自主合成基于推理的決策指令的方法，并對最新的開源大型語言模型進行了微調(diào)。分析結(jié)果表明，Auto-RAG 不僅實現(xiàn)了出色的性能，還保持了高度的可解釋性，為用戶提供了更直觀的體驗。

本文轉(zhuǎn)載自 ??AIGC前沿技術(shù)追蹤??，作者： 喜歡學習的小仙女