檢索增強生成（RAG）已成為增強大型語言模型能力的一項強大技術(shù)。

RAG 框架結(jié)合了基于檢索的系統(tǒng)和生成模型的優(yōu)勢，可以做出更準(zhǔn)確、更能感知上下文和更及時的響應(yīng)。隨著對復(fù)雜人工智能解決方案需求的增長，GitHub 上出現(xiàn)了許多開源 RAG 框架，每個框架都具有獨特的特性和功能。 RAG 框架有哪些功能？

過度簡化的 RAG 工作流程

檢索增強生成（RAG）是一種人工智能框架，它通過整合外部知識源來增強大型語言模型（LLM）的能力。

RAG 的工作原理是從知識庫中檢索相關(guān)信息，并將其用于增強 LLM 的輸入，從而使模型能夠生成更準(zhǔn)確、最新且與上下文相關(guān)的響應(yīng)。

這種方法有助于克服知識截止日期等限制，并降低 LLM 輸出中出現(xiàn)幻覺的風(fēng)險。

為什么不能直接使用 LangChain？

雖然 LangChain 是構(gòu)建 LLM 應(yīng)用程序的強大工具，但它并不能直接替代 RAG。相反，LangChain 可以用來實現(xiàn) RAG 系統(tǒng)。以下是除了使用 LangChain 之外還需要 RAG 的原因：

• 外部知識： RAG 允許你將特定領(lǐng)域或最新信息納入 LLM 的訓(xùn)練數(shù)據(jù)中，而這些信息可能并不存在。
• 提高準(zhǔn)確性： 通過根據(jù)檢索到的信息做出反應(yīng)，RAG 可以大大減少錯誤和幻覺。
• 定制： RAG 使你能夠針對特定數(shù)據(jù)集或知識庫定制響應(yīng)，這對許多業(yè)務(wù)應(yīng)用至關(guān)重要。
• 透明度： RAG 可以更容易地追蹤用于生成響應(yīng)的信息來源，從而提高可審計性。

從本質(zhì)上講，LangChain 提供了構(gòu)建 LLM 應(yīng)用程序的工具和抽象，而 RAG 則是一種可使用 LangChain 實現(xiàn)的特定技術(shù)，用于提高 LLM 輸出的質(zhì)量和可靠性。

GitHub 10 大最佳 RAG 框架

在本文中，我們將探討 GitHub 上目前可用的十大 RAG 框架。這些框架代表了 RAG 技術(shù)的最前沿，值得希望實施或改進其人工智能驅(qū)動的應(yīng)用程序的開發(fā)人員、研究人員和組織進行研究。

1. Haystack

GitHub星級：14.6k星

圖片

Haystack 是一個強大而靈活的框架，用于構(gòu)建端到端問題解答和搜索系統(tǒng)。它采用模塊化架構(gòu)，允許開發(fā)人員輕松創(chuàng)建各種 NLP 任務(wù)的管道，包括文檔檢索、問題解答和摘要：

• 支持多種文檔存儲（Elasticsearch、FAISS、SQL 等）
• 與流行的語言模型（BERT、RoBERTa、DPR 等）集成
• 處理大量文件的可擴展架構(gòu)
• 易于使用的 API，可用于構(gòu)建自定義 NLP 管道

Haystack 的多功能性和豐富的文檔使其成為初學(xué)者和有經(jīng)驗的開發(fā)人員實施 RAG 系統(tǒng)的絕佳選擇。

https://github.com/deepset-ai/haystack

2. RAGFlow

GitHub星級：11.6k

圖片

RAGFlow 是 RAG 框架領(lǐng)域中一個相對較新的加入者，但由于其注重簡潔性和效率，很快就獲得了人們的青睞。該框架旨在通過提供一套預(yù)建組件和工作流來簡化基于 RAG 的應(yīng)用程序的構(gòu)建過程：

• 直觀的工作流設(shè)計界面
• 針對常見用例的預(yù)配置 RAG 管道
• 與流行的矢量數(shù)據(jù)庫集成
• 支持自定義嵌入模型

RAGFlow 的用戶友好型方法使其成為開發(fā)人員的一個極具吸引力的選擇，這些開發(fā)人員希望快速創(chuàng)建和部署 RAG 應(yīng)用程序原型，而無需深入研究底層的復(fù)雜性。

https://github.com/infiniflow/ragflow

3. Txtai

GitHub Stars: 7.5k

圖片

txtai 是一個多功能的人工智能數(shù)據(jù)平臺，它超越了傳統(tǒng)的 RAG 框架。它為構(gòu)建語義搜索、語言模型工作流和文檔處理管道提供了一套全面的工具：

• 嵌入式數(shù)據(jù)庫，用于高效的相似性搜索
• 用于集成語言模型和其他人工智能服務(wù)的 API
• 用于自定義工作流的可擴展架構(gòu)
• 支持多種語言和數(shù)據(jù)類型

txtai 的一體化方法使其成為那些希望在單一框架內(nèi)實現(xiàn)各種人工智能功能的企業(yè)的絕佳選擇。

https://github.com/neuml/txtai

4. STORM

GitHub星級：5千顆星

斯坦福開放源代碼 RAG 模型

STORM（斯坦福開源 RAG 模型）是斯坦福大學(xué)開發(fā)的面向研究的 RAG 框架。與其他一些框架相比，STORM 的星級可能較少，但其學(xué)術(shù)背景和對前沿技術(shù)的關(guān)注使其成為對 RAG 技術(shù)最新進展感興趣的研究人員和開發(fā)人員的寶貴資源：

• 實施新穎的 RAG 算法和技術(shù)
• 注重提高檢索機制的準(zhǔn)確性和效率
• 與最先進的語言模型集成
• 大量文件和研究論文

對于那些希望探索 RAG 技術(shù)前沿的人來說，STORM 提供了一個以嚴(yán)謹(jǐn)學(xué)術(shù)為后盾的堅實基礎(chǔ)。

https://github.com/stanford-oval/storm

5. LLM-App

GitHub星級：3.4K

圖片

LLM-App 是用于構(gòu)建動態(tài) RAG 應(yīng)用程序的模板和工具集合。LLM-App 的主要功能包括：

• 可快速部署的即用型 Docker 容器
• 支持動態(tài)數(shù)據(jù)源和實時更新
• 與流行的 LLM 和矢量數(shù)據(jù)庫集成
• 針對各種 RAG 用例的可定制模板

LLM-App 對操作方面和實時功能的重視，使其成為希望部署生產(chǎn)就緒的 RAG 系統(tǒng)的企業(yè)的一個極具吸引力的選擇。

https://github.com/pathwaycom/llm-app

6. Cognita

GitHub星級：3K星級

圖片

Cognita 是 RAG 框架領(lǐng)域的新成員，專注于為構(gòu)建和部署人工智能應(yīng)用提供統(tǒng)一的平臺。雖然與其他一些框架相比，它的星級較低，但其全面的方法和對 MLOps 原則的強調(diào)使其值得考慮：

• 用于 RAG 應(yīng)用程序開發(fā)的端到端平臺
• 與流行的 ML 框架和工具集成
• 內(nèi)置監(jiān)控和可觀測功能
• 支持模型版本和實驗跟蹤

對于希望簡化整個 ML 生命周期的企業(yè)來說，Cognita 的人工智能應(yīng)用開發(fā)整體方法使其成為一個令人信服的選擇。

https://github.com/truefoundry/cognita

7. R2R

GitHub星級：2.5K星級

圖片

R2R（Retrieval-to-Retrieval，檢索到檢索）是一個專門的 RAG 框架，其重點是通過迭代改進來改善檢索過程。雖然它的星級可能較少，但其創(chuàng)新的檢索方法使其成為一個值得關(guān)注的框架：

• 實施新穎的檢索算法
• 支持多步驟檢索流程
• 與各種嵌入模型和向量存儲集成
• 分析和可視化檢索性能的工具

對于有興趣推動檢索技術(shù)發(fā)展的開發(fā)人員和研究人員來說，R2R 提供了一套獨特而強大的工具。

8.Neurite

GitHub星級：909星

神經(jīng)元（Neurite）

Neurite 是一個新興的 RAG 框架，旨在簡化構(gòu)建人工智能驅(qū)動的應(yīng)用程序的過程。雖然與其他一些框架相比，它的用戶群較小，但它注重開發(fā)者體驗和快速原型開發(fā)，因此值得探索：

• 用于構(gòu)建 RAG 管道的直觀 API
• 支持多個數(shù)據(jù)源和嵌入模型
• 內(nèi)置緩存和優(yōu)化機制
• 自定義組件的可擴展架構(gòu)

Neurite 強調(diào)簡單性和靈活性，這使其成為希望在應(yīng)用程序中快速實現(xiàn) RAG 功能的開發(fā)人員的一個極具吸引力的選擇。

https://github.com/satellitecomponent/Neurite

9. FlashRAG

GitHub星級：905星

中國人民大學(xué)自然語言處理與信息檢索實驗室的 FlashRAG

FlashRAG 是由中國人民大學(xué)自然語言處理與信息檢索實驗室開發(fā)的輕量級高效 RAG 框架。FlashRAG 的主要特點包括

• 優(yōu)化檢索算法，提高檢索速度
• 支持分布式處理和擴展
• 與流行的語言模型和向量存儲集成
• 基準(zhǔn)測試和性能分析工具

對于速度和效率至關(guān)重要的應(yīng)用，F(xiàn)lashRAG 提供了一套專門的工具和優(yōu)化方案。

https://github.com/RUC-NLPIR/FlashRAG

10. Canopy

GitHub星級：923星

Canopy 是一個 RAG 框架，由以矢量數(shù)據(jù)庫技術(shù)著稱的 Pinecone 公司開發(fā)。它利用 Pinecone 在高效矢量搜索方面的專業(yè)知識，提供了一個功能強大、可擴展的 RAG 解決方案：

• 與 Pinecone 的矢量數(shù)據(jù)庫緊密集成
• 支持流式和實時更新
• 先進的查詢處理和重排能力
• 管理和版本化知識庫的工具

Canopy 注重可擴展性和與 Pinecone 生態(tài)系統(tǒng)的集成，對于已經(jīng)使用或考慮使用 Pinecone 滿足矢量搜索需求的企業(yè)來說，Canopy 是一個極佳的選擇。

https://github.com/pinecone-io/canopy

寫在最后

RAG 框架的世界多種多樣，發(fā)展迅速，我們探討的十個框架都具有獨特的優(yōu)勢和功能。從全面、成熟的 Haystack 到 FlashRAG 和 R2R 等新興的專業(yè)框架，總有一款解決方案適合各種需求和用例：

• 項目的具體要求
• 你需要的定制化程度和靈活性
• 框架的可擴展性和性能特點
• 圍繞框架的社區(qū)規(guī)模和活動
• 可用文檔和支持的質(zhì)量

通過仔細評估這些因素并嘗試使用不同的框架，你可以找到最適合你需求的 RAG 解決方案，幫助你構(gòu)建更智能、更能感知上下文的人工智能應(yīng)用程序。對于希望在其應(yīng)用程序和服務(wù)中利用人工智能力量的開發(fā)人員和組織機構(gòu)來說，隨時了解 RAG 技術(shù)的最新發(fā)展情況至關(guān)重要。