RAG-Anything部署教程手把手搭建一套完整的多模态RAG检索增强生成系统【免费下载链接】RAG-AnythingRAG-Anything: All-in-One RAG Framework项目地址: https://gitcode.com/GitHub_Trending/ra/RAG-AnythingRAG-Anything 是一个 All-in-One 多模态 RAG 框架你丢给它 PDF、PPT、Office 文档甚至图片它会自动拆出文本、图表、表格、公式建好知识图谱后统一检索问答。如果你的资料里不止有纯文字——论文里的实验图、财报里的表格、技术文档里的公式——这套系统能让你用一套框架把它们全部纳入检索范围。下面按真实上手动线走一遍装环境、配.env、跑通第一份文档、调参到批量处理最后聊聊生产部署和常见坑。一图看懂 RAG-Anything 在做什么传统 RAG 只吃文本遇到图和表格基本就看不见了。RAG-Anything 的处理链路分四步多模态解析通过 MinerU 等解析器把文档拆成结构化的内容列表同时做文本层级抽取、图片说明生成、LaTeX 公式识别、表格结构解析知识图谱锚定对每份文档抽取实体与关系构建多模态知识图谱图文之间的跨模态关系会被显式建连双路索引图数据进图谱文本和多媒体描述同时嵌入向量库混合检索查询时图检索和向量检索并行召回结果交给 LLM 生成答案。RAG-Anything 多模态 RAG 系统架构从文档解析到图知识锚定再到混合检索的完整链路这套设计的直接好处是查某张图说明了什么或表 3 里的数据意味着什么系统能真的定位到那些非文本元素。十分钟装起来两种安装方式从 PyPI 直接装最省事要求 Python 3.8内存建议 8GB 以上。pip install raganything默认只装核心依赖。如果需要处理特定格式按需加 extras场景命令处理 BMP/TIFF/GIF/WebP 图片pip install raganything[image]处理 TXT/MD 文本文件pip install raganything[text]扫描版 PDF 想用好一点的 OCRpip install raganything[paddleocr]全部装齐pip install raganything[all]从源码装想改代码再选它git clone https://gitcode.com/GitHub_Trending/ra/RAG-Anything cd RAG-Anything uv sync首次使用时 MinerU 的模型会自动下载无需手动处理。想验证解析器装好了没有可以跑一下仓库里不需要 API 密钥的测试脚本python examples/image_format_test.py python examples/office_document_test.py一个常被忽略的依赖Office 文档.doc/.docx/.ppt/.pptx/.xls/.xlsx的解析依赖系统级的LibreOffice它不是 pip 包需要单独安装apt-get install libreoffice或官网下载。没装它时 Office 文件会解析失败。.env怎么配密钥、模型与并行度项目根目录有一份env.example复制为.env再改cp env.example .env新手只需要动这几组其余保持默认即可### LLM默认走 OpenAI 兼容接口换其他厂商改绑定即可 LLM_BINDINGopenai LLM_MODELgpt-4o LLM_BINDING_HOSThttps://api.openai.com/v1 LLM_BINDING_API_KEYyour_api_key VISION_MODELgpt-4o ### Embedding示例默认用 Ollama 本地跑 bge-m3 EMBEDDING_BINDINGollama EMBEDDING_MODELbge-m3:latest EMBEDDING_DIM1024 EMBEDDING_BINDING_HOSThttp://localhost:11434几个影响体验的关键参数MAX_ASYNC4LLM 最大并发请求数。文档多、图多时调大能明显提速但别超出你 API 的限流MAX_PARALLEL_INSERT2同时处理几份文档。注释里建议小于MAX_ASYNC/2CHUNK_SIZE1200/CHUNK_OVERLAP_SIZE100切片大小官方推荐 500~1500PARSERmineru解析器选型可换成docling或paddleocrLOG_LEVELINFO排查问题时调成DEBUG。完整参数含义可以直接翻env.example本身注释写得很细。跑通第一份文档验证管线真的通了装完不要急着上生产先用示例脚本把端到端流程跑一遍python examples/raganything_example.py 你的文档.pdf --api-key 你的KEY --parser mineru这个脚本会完成解析 → 入库 → 纯文本查询 → 多模态查询整个闭环日志会滚动输出各阶段进度。看到查询返回结果说明解析器、LLM、Embedding、存储四层都通了。查询侧它演示了两种玩法也是理解这套系统的钥匙纯文本查询rag.aquery(问题, modehybrid)走知识图谱 向量混合检索带多模态内容的查询aquery_with_multimodal(...)把一段 LaTeX 公式或一张表直接作为查询条件传入让回答必须结合该图表内容。如果想跳过解析直接喂数据比如内容来自自己的解析管线可以用insert_content_list接口直接插入结构化内容列表示例在examples/insert_content_list_example.py。批量入库与性能调优单篇跑通后批量入库是绕不开的一步。核心入口是process_folder_complete支持指定文件夹、文件扩展名白名单、递归扫描和并发数max_workers底层实现在 raganything/batch.py。调优上按这个优先级来先开并发MAX_CONCURRENT_FILES批量文件数和MAX_ASYNCLLM 并发是吞吐的主要来源再控切片CHUNK_SIZE偏大召回粗、偏小上下文碎1200 左右是比较稳的起点解析器选择扫描版多的场景换paddleocrOffice/HTML 为主可以试试docling上下文感知开启 docs/context_aware_processing.md 里描述的上下文配置把页眉、图注等邻近信息一起送入处理能显著改善图表问答质量。更多批量处理参数和增量入库机制见 docs/batch_processing.md。进阶部署离线环境、vLLM 与存储选型离线环境部署内网跑不动外网模型是常见场景。两件事tiktoken 缓存设TIKTOKEN_CACHE_DIR指向本地缓存目录避免初始化时联网拉取仓库提供了scripts/create_tiktoken_cache.py用于预生成完整步骤看 docs/offline_setup.md模型走本地服务LLM 和 Embedding 都可以指向本地部署的 vLLM/Ollama 端点。vLLM 高吞吐推理生产环境建议用 vLLM 承载 LLM改三行配置即可切换LLM_BINDINGvllm LLM_MODELQwen/Qwen2.5-72B-Instruct LLM_BINDING_HOSThttp://localhost:8000/v1部署细节在docs/vllm_integration.md。存储后端默认文件存储够用文档量上来后在.env里把 KV、向量、图谱存储切到 PostgreSQL、Milvus、Qdrant、Neo4j 等后端即可env.example里都留有对应配置段按实际中间件填连接信息就行。踩坑指南这些问题提前知道能省半天现象原因与处理Office 文件解析报错没装 LibreOffice它是外部程序pip 装不了装 opencv 超时网络问题uv用户设UV_HTTP_TIMEOUT120 uv sync重试初始化卡住/失败离线环境忘了配TIKTOKEN_CACHE_DIR联网时首次会自动下载图表问答效果差检查图注是否被抽取、VISION_MODEL是否为多模态模型docs/multimodal_rag_failure_modes.md有一份完整的失败模式排查清单记忆占用过高降低MAX_CONCURRENT_FILES和MAX_PARALLEL_INSERT或调大CHUNK_SIZE减少切片数想换 OCR 但装不上PaddleOCR 之外还需要按平台单独安装paddlepaddleCPU/GPU 包不同扩展方向跑顺之后几个值得探索的点换解析器组合MinerU 管 PDF/图片Docling 管 Office/HTMLPaddleOCR 管扫描件按文档类型分流自定义模态处理器继承GenericModalProcessor就能把私有格式如特殊图表、CAD 导出接进管线参考examples/modalprocessors_example.pyVLM 增强查询文档里含图时系统会自动把图片编码后连同上下文一起发给视觉模型分析这是图里到底画了什么这类问题的正解。从单篇验证到批量入库再到离线生产RAG-Anything 的每一步都有现成脚本和文档兜底——先把examples/raganything_example.py跑绿剩下的就是调参了。【免费下载链接】RAG-AnythingRAG-Anything: All-in-One RAG Framework项目地址: https://gitcode.com/GitHub_Trending/ra/RAG-Anything创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
RAG-Anything部署教程手把手搭建一套完整的多模态RAG检索增强生成系统【免费下载链接】RAG-AnythingRAG-Anything: All-in-One RAG Framework项目地址: https://gitcode.com/GitHub_Trending/ra/RAG-AnythingRAG-Anything 是一个 All-in-One 多模态 RAG 框架你丢给它 PDF、PPT、Office 文档甚至图片它会自动拆出文本、图表、表格、公式建好知识图谱后统一检索问答。如果你的资料里不止有纯文字——论文里的实验图、财报里的表格、技术文档里的公式——这套系统能让你用一套框架把它们全部纳入检索范围。下面按真实上手动线走一遍装环境、配.env、跑通第一份文档、调参到批量处理最后聊聊生产部署和常见坑。一图看懂 RAG-Anything 在做什么传统 RAG 只吃文本遇到图和表格基本就看不见了。RAG-Anything 的处理链路分四步多模态解析通过 MinerU 等解析器把文档拆成结构化的内容列表同时做文本层级抽取、图片说明生成、LaTeX 公式识别、表格结构解析知识图谱锚定对每份文档抽取实体与关系构建多模态知识图谱图文之间的跨模态关系会被显式建连双路索引图数据进图谱文本和多媒体描述同时嵌入向量库混合检索查询时图检索和向量检索并行召回结果交给 LLM 生成答案。RAG-Anything 多模态 RAG 系统架构从文档解析到图知识锚定再到混合检索的完整链路这套设计的直接好处是查某张图说明了什么或表 3 里的数据意味着什么系统能真的定位到那些非文本元素。十分钟装起来两种安装方式从 PyPI 直接装最省事要求 Python 3.8内存建议 8GB 以上。pip install raganything默认只装核心依赖。如果需要处理特定格式按需加 extras场景命令处理 BMP/TIFF/GIF/WebP 图片pip install raganything[image]处理 TXT/MD 文本文件pip install raganything[text]扫描版 PDF 想用好一点的 OCRpip install raganything[paddleocr]全部装齐pip install raganything[all]从源码装想改代码再选它git clone https://gitcode.com/GitHub_Trending/ra/RAG-Anything cd RAG-Anything uv sync首次使用时 MinerU 的模型会自动下载无需手动处理。想验证解析器装好了没有可以跑一下仓库里不需要 API 密钥的测试脚本python examples/image_format_test.py python examples/office_document_test.py一个常被忽略的依赖Office 文档.doc/.docx/.ppt/.pptx/.xls/.xlsx的解析依赖系统级的LibreOffice它不是 pip 包需要单独安装apt-get install libreoffice或官网下载。没装它时 Office 文件会解析失败。.env怎么配密钥、模型与并行度项目根目录有一份env.example复制为.env再改cp env.example .env新手只需要动这几组其余保持默认即可### LLM默认走 OpenAI 兼容接口换其他厂商改绑定即可 LLM_BINDINGopenai LLM_MODELgpt-4o LLM_BINDING_HOSThttps://api.openai.com/v1 LLM_BINDING_API_KEYyour_api_key VISION_MODELgpt-4o ### Embedding示例默认用 Ollama 本地跑 bge-m3 EMBEDDING_BINDINGollama EMBEDDING_MODELbge-m3:latest EMBEDDING_DIM1024 EMBEDDING_BINDING_HOSThttp://localhost:11434几个影响体验的关键参数MAX_ASYNC4LLM 最大并发请求数。文档多、图多时调大能明显提速但别超出你 API 的限流MAX_PARALLEL_INSERT2同时处理几份文档。注释里建议小于MAX_ASYNC/2CHUNK_SIZE1200/CHUNK_OVERLAP_SIZE100切片大小官方推荐 500~1500PARSERmineru解析器选型可换成docling或paddleocrLOG_LEVELINFO排查问题时调成DEBUG。完整参数含义可以直接翻env.example本身注释写得很细。跑通第一份文档验证管线真的通了装完不要急着上生产先用示例脚本把端到端流程跑一遍python examples/raganything_example.py 你的文档.pdf --api-key 你的KEY --parser mineru这个脚本会完成解析 → 入库 → 纯文本查询 → 多模态查询整个闭环日志会滚动输出各阶段进度。看到查询返回结果说明解析器、LLM、Embedding、存储四层都通了。查询侧它演示了两种玩法也是理解这套系统的钥匙纯文本查询rag.aquery(问题, modehybrid)走知识图谱 向量混合检索带多模态内容的查询aquery_with_multimodal(...)把一段 LaTeX 公式或一张表直接作为查询条件传入让回答必须结合该图表内容。如果想跳过解析直接喂数据比如内容来自自己的解析管线可以用insert_content_list接口直接插入结构化内容列表示例在examples/insert_content_list_example.py。批量入库与性能调优单篇跑通后批量入库是绕不开的一步。核心入口是process_folder_complete支持指定文件夹、文件扩展名白名单、递归扫描和并发数max_workers底层实现在 raganything/batch.py。调优上按这个优先级来先开并发MAX_CONCURRENT_FILES批量文件数和MAX_ASYNCLLM 并发是吞吐的主要来源再控切片CHUNK_SIZE偏大召回粗、偏小上下文碎1200 左右是比较稳的起点解析器选择扫描版多的场景换paddleocrOffice/HTML 为主可以试试docling上下文感知开启 docs/context_aware_processing.md 里描述的上下文配置把页眉、图注等邻近信息一起送入处理能显著改善图表问答质量。更多批量处理参数和增量入库机制见 docs/batch_processing.md。进阶部署离线环境、vLLM 与存储选型离线环境部署内网跑不动外网模型是常见场景。两件事tiktoken 缓存设TIKTOKEN_CACHE_DIR指向本地缓存目录避免初始化时联网拉取仓库提供了scripts/create_tiktoken_cache.py用于预生成完整步骤看 docs/offline_setup.md模型走本地服务LLM 和 Embedding 都可以指向本地部署的 vLLM/Ollama 端点。vLLM 高吞吐推理生产环境建议用 vLLM 承载 LLM改三行配置即可切换LLM_BINDINGvllm LLM_MODELQwen/Qwen2.5-72B-Instruct LLM_BINDING_HOSThttp://localhost:8000/v1部署细节在docs/vllm_integration.md。存储后端默认文件存储够用文档量上来后在.env里把 KV、向量、图谱存储切到 PostgreSQL、Milvus、Qdrant、Neo4j 等后端即可env.example里都留有对应配置段按实际中间件填连接信息就行。踩坑指南这些问题提前知道能省半天现象原因与处理Office 文件解析报错没装 LibreOffice它是外部程序pip 装不了装 opencv 超时网络问题uv用户设UV_HTTP_TIMEOUT120 uv sync重试初始化卡住/失败离线环境忘了配TIKTOKEN_CACHE_DIR联网时首次会自动下载图表问答效果差检查图注是否被抽取、VISION_MODEL是否为多模态模型docs/multimodal_rag_failure_modes.md有一份完整的失败模式排查清单记忆占用过高降低MAX_CONCURRENT_FILES和MAX_PARALLEL_INSERT或调大CHUNK_SIZE减少切片数想换 OCR 但装不上PaddleOCR 之外还需要按平台单独安装paddlepaddleCPU/GPU 包不同扩展方向跑顺之后几个值得探索的点换解析器组合MinerU 管 PDF/图片Docling 管 Office/HTMLPaddleOCR 管扫描件按文档类型分流自定义模态处理器继承GenericModalProcessor就能把私有格式如特殊图表、CAD 导出接进管线参考examples/modalprocessors_example.pyVLM 增强查询文档里含图时系统会自动把图片编码后连同上下文一起发给视觉模型分析这是图里到底画了什么这类问题的正解。从单篇验证到批量入库再到离线生产RAG-Anything 的每一步都有现成脚本和文档兜底——先把examples/raganything_example.py跑绿剩下的就是调参了。【免费下载链接】RAG-AnythingRAG-Anything: All-in-One RAG Framework项目地址: https://gitcode.com/GitHub_Trending/ra/RAG-Anything创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
