拋棄 OCR，拋棄文本提取，拋棄分塊！提升RAG性能的新方法！
在最近的文章中，筆者介紹了影響 Context 高質量供給的關鍵因素有記憶的存用和記憶的連貫性。
而對記憶源信息（尤其是復雜文檔）的深度理解是高質量Conext供給的又一大關鍵。傳統(tǒng)的文本提取和分塊方法，在面對圖文混排、表格遍布的文檔時，往往力不從心，生成的 Context 質量堪憂，這已成為提升 RAG 應用性能的一大瓶頸。
我們都曾經歷過這樣的“噩夢”：精心構建的 RAG 系統(tǒng)，因為 OCR 識別錯誤、表格內容丟失、或者圖片信息被忽略，導致 LLM 的回答驢唇不對馬嘴。PDF、Word 文檔、PPT 演示稿中那些精心設計的布局、關鍵的圖表數據、甚至是字體樣式的強調，這些豐富的視覺信息在傳統(tǒng)處理流程中幾乎被完全拋棄，只留下一堆可能支離破碎的文本。
今天介紹一個項目 ColiVara ，正試圖從根本上解決這個問題，它帶來的不是對現有流程的修修補補，而是一場針對文檔檢索的“視覺革命”。
ColiVara 的“殺手锏”：用視覺模型“看懂”文檔
ColiVara 的核心理念十分大膽：拋棄 OCR，拋棄文本提取，拋棄分塊！ 它直接將文檔（支持 PDF, DOCX, PPTX 等超過100種格式）的每一頁都視為一張圖像，利用先進的視覺語言模型（基于“ColPali: Efficient Document Retrieval with Vision Language Models” 論文[1]）來生成文檔的“視覺嵌入”。這意味著，ColiVara 不再僅僅“閱讀”文本，它更能“看見”并理解文檔的整體布局、圖片內容、表格結構等視覺元素。
這種方法的優(yōu)勢是顛覆性的：
- 告別信息損失：再也不會有無法識別的表格、丟失的圖片、或因分塊不當導致的上下文割裂。文檔的完整性得到了前所未有的保留。
- 卓越的檢索性能：通過整合文本與視覺特征，ColiVara 在文本和視覺文檔檢索上均展現出業(yè)界領先的性能。其采用的“后期交互 (Late-Interaction)”風格嵌入，即便在純文本文檔上，也比傳統(tǒng)池化嵌入更為精準。
- 開發(fā)者體驗友好：提供簡潔易用的 Python/Typescript SDK 和 REST API，讓開發(fā)者可以快速集成。
ColiVara 為何與眾不同？
你可能會問，如果我的文檔主要是文本，我還需要 ColiVara 嗎？答案是肯定的。正如其文檔所言，即使是純文本文檔，ColiVara 的后期交互式嵌入也能提供更準確的檢索。更重要的是，它為你打開了處理混合內容文檔（這才是現實世界中的常態(tài)）的全新大門。
- 無需自建向量數據庫（大部分情況）：ColiVara 使用 Postgres 和 pgVector 為你處理向量存儲，極大地簡化了部署和維護。當然，如果你堅持，它也提供了單獨的嵌入生成端點，讓你自由選擇存儲方案（但需注意其對多向量和后期交互特性的支持）。
- 廣泛的格式支持：從 PDF 到 Office 全家桶，再到各種圖片格式，基本覆蓋了日常工作中的所有文檔類型。
- 強大的元數據過濾：不僅能進行語義搜索，還能結合文檔或集合的元數據（如作者、日期、標簽）進行精確篩選，完美融合非結構化與結構化數據的檢索優(yōu)勢。
- 透明的評估體系：基于 Vidore 數據集進行可復現的性能評估，其 Release 1.5.0 版本在多個基準測試中取得了平均 86.8 的高分。
快速上手 ColiVara
上手 ColiVara 非常簡單：
- 從 ColiVara 官網（或其指定渠道）獲取免費 API Key。
- 安裝 SDK (?
?pip install colivara-py?? 或??npm install colivara-ts??)。 - 幾行代碼即可索引和搜索文檔：
# Python 示例
from colivara_py import ColiVara
client = ColiVara(api_key="YOUR_API_KEY")
# 索引文檔 (URL, base64 或本地路徑)
client.upsert_document(
name="annual_report_2023",
document_url="https://example.com/report.pdf",
metadata={"year": 2023, "category": "finance"}
)
# 搜索
results = client.search("what were the key financial highlights of 2023?")
print(results)小結
在 RAG 應用成為主流的當下，如何從原始文檔中高效、準確地提取高質量 Context，已經成為決定應用成敗的關鍵。
傳統(tǒng)的解析、分塊、嵌入的分階段過程，帶來的是每一個階段的信息損失，ColiVara的方案讓文檔處理更加簡單和完整，它的新穎思路會給更多人啟發(fā)，也將趨勢更多人在這一新的技術方向探索。
github地址：???https://github.com/tjmlabs/ColiVara??
參考：
[1]ColPali 論文: ???https://arxiv.org/abs/2407.01449??
本文轉載自????AI工程化?????，作者：ully
