LLM Wiki

LightRAG

10分钟阅读

LightRAG

一句话定义

LightRAG 是由香港大学数据科学实验室（HKUDS）开发的轻量级图检索增强生成框架——它将知识图谱（Knowledge Graph）引入 RAG 流程，通过实体-关系三元组的结构化表示与双层检索机制，在保持低计算开销的同时显著提升复杂问答场景下的检索精度与上下文关联性。

摘要

LightRAG 于 2024 年 10 月以论文《LightRAG: Simple and Fast Retrieval-Augmented Generation》（arXiv:2410.05779）首次公开，由 Zirui Guo、Lianghao Xia、Yanhua Yu、Tu Ao、Chao Huang 等人提出。与微软 GraphRAG 的社区摘要方案不同，LightRAG 采用基于关键词的图索引与双层检索（低层级实体检索 + 高层级主题检索）策略，在农业、计算机科学、法律、混合领域等多个基准测试中，以 49%–85% 的综合胜率超越 NaiveRAG、RQ-RAG、HyDE 以及 GraphRAG。截至 2026 年 5 月，其 GitHub 仓库已获得超过 15,000 颗星标，支持 Neo4j、PostgreSQL、MongoDB、OpenSearch 等多种存储后端，兼容 OpenAI、Ollama、Azure、Gemini 等主流 LLM 服务商，并提供完整的 WebUI、知识图谱可视化、Langfuse 可观测性集成与 RAGAS 评估支持。

详情

起源与背景

传统 RAG 系统依赖”文档切分 → 向量嵌入 → 相似度检索”的扁平化流程，在面对需要跨文档关联推理的复杂问题时，往往产生碎片化且缺乏上下文连贯性的答案。微软于 2024 年推出的 GraphRAG 通过社区检测与层级摘要来解决这一问题，但其索引阶段需要大量 LLM 调用，计算成本高昂且不支持增量更新。

LightRAG 的研究团队来自香港大学数据科学实验室（HKUDS），该团队长期从事图神经网络与推荐系统研究。他们观察到 GraphRAG 的”重索引”范式在实际工程中面临成本与延迟的双重瓶颈，因此提出了一种更轻量的替代方案：用关键词索引替代社区摘要，用双层检索替代全局搜索，在保持图增强检索优势的同时大幅降低系统复杂度。

核心机制 / 工作原理

LightRAG 的工作流程分为索引阶段和查询阶段两大部分：

索引阶段（Indexing）：

  1. 文档解析与切分：支持四种切分策略——固定长度（Fix）、递归分割（Recursive）、向量切分（Vector）、段落切分（Paragraph）
  2. 实体与关系抽取：通过 LLM 从文档 chunk 中提取实体（Entity）和关系（Relation），构建知识图谱的节点与边
  3. 关键词索引构建：为每个实体和关系生成关键词索引，建立关键词到图节点的映射
  4. 向量索引构建：同时为实体和关系生成向量嵌入，支持语义相似度检索
  5. 图与向量的融合存储：知识图谱结构与向量表示并行存储于同一后端

查询阶段（Query）：

  1. 关键词提取：从用户查询中提取核心关键词
  2. 双层检索（Dual-Level Retrieval）：
    • 低层级检索（Low-Level）：基于关键词精确匹配图中的具体实体及其直接关系，适用于事实性、细节性问题
    • 高层级检索（High-Level）：基于抽象关键词进行主题级图遍历，捕获更广泛的上下文关联，适用于综合性、概览性问题
  3. 混合检索模式（Mix Mode）：同时执行低层和高层检索，并通过 Reranker 模型（推荐 BAAI/bge-reranker-v2-m3）对结果进行重排序，是启用 Reranker 时的推荐默认模式
  4. 答案生成：将检索到的结构化上下文注入 prompt，由 LLM 生成最终答案

增量更新机制：LightRAG 支持向已有知识图谱中增量插入新文档，无需全量重建索引。新文档的实体和关系会被提取后融合进现有图结构，同时更新关键词索引和向量索引。这一特性使其能够适应快速变化的数据环境。

角色化 LLM 配置：系统定义了四个独立的 LLM 角色——EXTRACT（实体抽取）、QUERY（查询应答）、KEYWORDS（关键词提取）、VLM（视觉语言模型），每个角色可配置不同的模型，允许在索引阶段使用较弱的模型降低成本，在查询阶段使用更强的模型提升质量。

应用 / 使用场景

  • 企业知识库问答：将内部文档、产品手册、FAQ 构建为知识图谱，支持跨文档关联查询。例如，AI 答疑助手从传统 RAG 升级到 LightRAG 后，检索精度与答案连贯性显著提升
  • 法律与合规检索：法律条文之间存在复杂的引用与关联关系，知识图谱的多跳推理能力可有效捕获这些关联
  • 学术文献综述：在计算机科学、农业等领域的实验中，LightRAG 在 comprehensiveness（全面性）和 diversity（多样性）两个维度上均优于传统 RAG 方案
  • 代码生成与胶水编程：在业务需求到代码的转化场景中，LightRAG 可作为知识检索层，将业务规则、API 文档、历史代码片段结构化存储，辅助 LLM 生成高采纳率的业务代码
  • 多模态文档处理：通过 RAG-Anything 集成，支持 PDF、图片、Office 文档、表格、公式等多模态内容的索引与检索

局限与争议

  • LLM 依赖：实体与关系抽取的质量高度依赖 LLM 能力。官方建议使用至少 320 亿参数的模型，且上下文长度不低于 32KB（推荐 64KB），这在资源受限的环境中可能构成门槛
  • 与 GraphRAG 的差距有限：在混合领域（Mixed Domain）的综合评测中，GraphRAG 在 comprehensiveness 指标上略胜 LightRAG（50.4% vs 49.6%），说明在某些全局性问题上，社区摘要方案仍有优势
  • 抽取幻觉风险：LLM 在实体抽取阶段可能产生幻觉，引入图谱中不存在的虚假实体或关系，影响下游检索质量
  • Embedding 一致性约束：索引和查询必须使用相同的嵌入模型，更换模型需要清空向量表重新构建，增加了运维复杂度
  • 大规模场景的工程挑战：尽管 2025 年 10 月的更新消除了处理瓶颈，但在超大规模数据集（千万级文档）上的实际表现仍需更多工程验证

与其他实体的关系

  • RAG —— LightRAG 是 RAG 范式的图增强扩展，继承了 RAG 的”检索+生成”基本架构，同时引入知识图谱解决传统 RAG 的碎片化检索问题
  • vLLM —— LightRAG 系统的底层推理通常由 vLLM 等高性能推理框架提供，尤其在需要 32B+ 参数模型的场景中
  • Agent-Memory —— LightRAG 构建的知识图谱可作为 Agent 长期记忆的结构化存储层，支持实体级与主题级的关联检索

参考来源

相关提及文章：

关系图谱

反向链接