“ 在RAG中根據(jù)不同的場景有多種不同的優(yōu)化方案，因此我們需要根據(jù)場景選擇合適的解決方案。”

在RAG文檔檢索增強(qiáng)中，文檔預(yù)處理是相當(dāng)重要的一環(huán)；以目前大模型的能力來說，已經(jīng)能夠很好的根據(jù)參考文檔回答用戶問題，但現(xiàn)在的問題是在RAG的前期階段——也就是文檔預(yù)處理階段卻是一個技術(shù)難點(diǎn)。

而且針對不同的文檔類型和文檔內(nèi)容，處理方式也不盡相同，因此RAG的文檔處理效果也參差不齊。

而今天我們就來提供一個新的思路，那就是把文檔轉(zhuǎn)換成問答對；因?yàn)?，從用戶的角度來說，用戶提出的問題一般都是有針對性的，而不是寬泛的針對整個文檔進(jìn)行提問。因此，我們就可以根據(jù)文檔內(nèi)容，從多個維度提出幾個經(jīng)典問題，這樣即可以提升檢索速度，也可以提升準(zhǔn)確率。

RAG文檔優(yōu)化之——問答對

先思考一個問題，問答對相當(dāng)于傳統(tǒng)的文檔檢索又那些好處？為什么要使用問答對？

不論是傳統(tǒng)的文檔檢索，還是問答對都屬于文檔預(yù)處理的一種方式；而之所以使用問答對的原因在于，問答形式更符合我們?nèi)祟惖慕涣鞣绞?，也可以說是思維慣性，我們?nèi)祟惏俜种耸陨系慕涣鞫际峭ㄟ^文檔形式Q&A。

其次，傳統(tǒng)的文檔檢索就類似于你要想知道地球?yàn)槭裁磭栟D(zhuǎn)，你可能需要看一整本科普讀物才知道原來是因?yàn)橐Φ拇嬖冢坏趩柎饘Φ姆绞骄皖愃朴诮o你一本十萬個為什么，它直接告訴你地球圍著太陽轉(zhuǎn)的原因是因?yàn)橐Φ拇嬖冢悴恍枰春芏嗥渌臇|西，也不需要明白引力到底是個什么東西。

這種方式雖然可能只是讓你知其然而不知其所以然，但它能夠用最短的時間，最簡單的方式告訴你一些常識性問題。

前面說了問答對的優(yōu)勢，那么什么樣的文檔適合轉(zhuǎn)換成問答對呢？以及怎么把文檔轉(zhuǎn)換成問答對，有那幾種方案？

其實(shí)任何形式的文檔都可以轉(zhuǎn)換成問答對，只不過不同的文檔內(nèi)容處理方式不一樣；比如說基于純文本的文檔和多圖表的文檔處理方式就不太一樣。

但把文檔轉(zhuǎn)換成問答對就有兩種不同的方案了；其實(shí)文檔轉(zhuǎn)換問答對的原理很簡單，就是把文檔內(nèi)容丟給大模型，讓模型根據(jù)文檔內(nèi)容，從多個維度生成三到五個與之相關(guān)的問題即可。

但怎么把文檔丟給大模型這個就要說道說道了。

首先，最簡單的方式就是把整個文檔全部一次性丟給大模型，讓大模型理解文檔然后整理出一系列問題。

但我們應(yīng)該也明白，這種方式肯定是速度最快，最簡單，但也是效果最差的一種方式；這就像你用三天時間看了一本經(jīng)典名著，你最多只能記住其中的幾個景點(diǎn)環(huán)節(jié)，大部分內(nèi)容都被你給忘了。

因此，針對文檔轉(zhuǎn)換成問答對最好的方式，是根據(jù)段落或標(biāo)題對文檔進(jìn)行拆分；然后把拆分之后的文檔再丟給大模型，這樣就可以提升問答對的準(zhǔn)確性。

并且，在召回過程中也可以把相應(yīng)的段落返回給用戶，這樣既增加了權(quán)威性，也可以避免Token浪費(fèi)的問題。

當(dāng)然，由于問答對的特殊形式，問答對也只適合部分業(yè)務(wù)場景，在某些業(yè)務(wù)場景下問答對的效果可能就不那么好了；比如說在長文理解中，使用問答對可能會導(dǎo)致最終的語義混亂。

本文轉(zhuǎn)載自?????AI探索時代???? 作者：DFires