opea/graphrag

GraphRAG应用

概述和主要用途

传统RAG在获取精确信息方面表现良好，但在处理针对整个文本语料库的全局问题（如"数据集中的主要主题是什么？"）时存在不足。GraphRAG由微软论文《From Local to Global: A Graph RAG Approach to Query-Focused Summarization》提出，旨在通过构建实体知识图谱和社区识别，实现对本地和全局查询的有效处理。

核心功能和特性

• 利用LLM从源文档中提取实体知识图谱
• 使用层次化Leiden算法识别紧密关联的实体社区，并为每个社区提取摘要
• 针对输入查询识别相关社区，从各社区摘要中生成部分答案（查询聚焦摘要，QFS）
• 最终生成阶段基于中间社区答案响应用户查询

架构与部署详情

GraphRAG示例基于https://github.com/opea-project/GenAIComps%E4%B8%AD%E5%AE%9A%E4%B9%89%E7%9A%84%E7%BB%84%E4%BB%B6%E7%BA%A7%E5%BE%AE%E6%9C%8D%E5%8A%A1%E5%AE%9E%E7%8E%B0%E3%80%82%E4%BB%A5%E4%B8%8B%E4%B8%BA%E4%B8%8D%E5%90%8C%E5%BE%AE%E6%9C%8D%E5%8A%A1%E4%B9%8B%E9%97%B4%E7%9A%84%E4%BF%A1%E6%81%AF%E6%B5%81%E7%A4%BA%E6%84%8F%E5%9B%BE%EF%BC%9A

mermaid
---
config:
  flowchart:
    nodeSpacing: 400
    rankSpacing: 100
    curve: linear
  themeVariables:
    fontSize: 50px
---
flowchart LR
    %% Colors %%
    classDef blue fill:#ADD8E6,stroke:#ADD8E6,stroke-width:2px,fill-opacity:0.5
    classDef orange fill:#FBAA60,stroke:#ADD8E6,stroke-width:2px,fill-opacity:0.5
    classDef orchid fill:#C26DBC,stroke:#ADD8E6,stroke-width:2px,fill-opacity:0.5
    classDef invisible fill:transparent,stroke:transparent;
    style GraphRAG-MegaService stroke:#000000

    %% Subgraphs %%
    subgraph GraphRAG-MegaService["GraphRAG MegaService "]
        direction LR
        RET([Retrieval MicroService]):::blue
        LLM([LLM MicroService]):::blue
        EM([Embedding MicroService]):::blue
    end
    subgraph UserInterface[" User Interface "]
        direction LR
        a([User Input Query]):::orchid
        Ingest([Ingest data]):::orchid
        UI([UI server<br>]):::orchid
    end


    GDB{{Graph DB<br><br>}}
    DP([Data Preparation MicroService]):::blue
    GW([GraphRAG GateWay<br>]):::orange


    %% Data Preparation flow
    %% Ingest data flow
    direction LR
    Ingest[Ingest data] --> UI
    UI --> DP

    %% interactions buried inside the DP and RET microservice implementations
    DP <-.-> EM
    DP <-.-> LLM
    RET <-.-> EM
    RET <-.-> LLM


    %% Questions interaction
    direction LR
    a[User Input Query] --> UI
    UI --> GW
    GW <==> GraphRAG-MegaService
    RET ==> LLM


    direction TB
    %% Graph DB interaction
    RET <-.-> |d|GDB
    DP <-.-> |d|GDB

    linkStyle 2 stroke:#000000,stroke-width:2px;
    linkStyle 3 stroke:#000000,stroke-width:2px;
    linkStyle 4 stroke:#000000,stroke-width:2px;
    linkStyle 5 stroke:#000000,stroke-width:2px;

注意：数据准备（Dataprep）和检索器（Retriever）微服务在实现中使用LLM微服务和嵌入微服务。例如，Dataprep使用LLM从文本中提取实体和关系以构建图谱，Retriever使用LLM总结社区（相似实体及其属性的集群）。这些端点交互及相应的提示模板嵌入在微服务实现中，不由megaservice编排器调度管理，也不暴露在megaservice中（图中以细黑线表示）。

部署选项

下表列出了可用的部署选项和实现细节：

验证配置