
opea/graphrag传统RAG在获取精确信息方面表现良好,但在处理针对整个文本语料库的全局问题(如"数据集中的主要主题是什么?")时存在不足。GraphRAG由微软论文《From Local to Global: A Graph RAG Approach to Query-Focused Summarization》提出,旨在通过构建实体知识图谱和社区识别,实现对本地和全局查询的有效处理。
GraphRAG示例基于GenAIComps中定义的组件级微服务实现。以下为不同微服务之间的信息流示意图:
mermaid--- config: flowchart: nodeSpacing: 400 rankSpacing: 100 curve: linear themeVariables: fontSize: 50px --- flowchart LR %% Colors %% classDef blue fill:#ADD8E6,stroke:#ADD8E6,stroke-width:2px,fill-opacity:0.5 classDef orange fill:#FBAA60,stroke:#ADD8E6,stroke-width:2px,fill-opacity:0.5 classDef orchid fill:#C26DBC,stroke:#ADD8E6,stroke-width:2px,fill-opacity:0.5 classDef invisible fill:transparent,stroke:transparent; style GraphRAG-MegaService stroke:#000000 %% Subgraphs %% subgraph GraphRAG-MegaService["GraphRAG MegaService "] direction LR RET([Retrieval MicroService]):::blue LLM([LLM MicroService]):::blue EM([Embedding MicroService]):::blue end subgraph UserInterface[" User Interface "] direction LR a([User Input Query]):::orchid Ingest([Ingest data]):::orchid UI([UI server<br>]):::orchid end GDB{{Graph DB<br><br>}} DP([Data Preparation MicroService]):::blue GW([GraphRAG GateWay<br>]):::orange %% Data Preparation flow %% Ingest data flow direction LR Ingest[Ingest data] --> UI UI --> DP %% interactions buried inside the DP and RET microservice implementations DP <-.-> EM DP <-.-> LLM RET <-.-> EM RET <-.-> LLM %% Questions interaction direction LR a[User Input Query] --> UI UI --> GW GW <==> GraphRAG-MegaService RET ==> LLM direction TB %% Graph DB interaction RET <-.-> |d|GDB DP <-.-> |d|GDB linkStyle 2 stroke:#000000,stroke-width:2px; linkStyle 3 stroke:#000000,stroke-width:2px; linkStyle 4 stroke:#000000,stroke-width:2px; linkStyle 5 stroke:#000000,stroke-width:2px;
注意:数据准备(Dataprep)和检索器(Retriever)微服务在实现中使用LLM微服务和嵌入微服务。例如,Dataprep使用LLM从文本中提取实体和关系以构建图谱,Retriever使用LLM总结社区(相似实体及其属性的集群)。这些端点交互及相应的提示模板嵌入在微服务实现中,不由megaservice编排器调度管理,也不暴露在megaservice中(图中以细黑线表示)。
下表列出了可用的部署选项和实现细节:
| 平台 | 部署方法 | 链接 |
|---|---|---|
| Intel Gaudi2 | Docker Compose | Gaudi部署 |
| 部署方法 | LLM引擎 | LLM模型 | 硬件 |
|---|---|---|---|
| Docker Compose | TGI | meta-llama/Meta-Llama-3.1-8B-Instruct | Intel Gaudi |
探索更多轩辕镜像的使用方法,找到最适合您系统的配置方式
通过 Docker 登录认证访问私有仓库
无需登录使用专属域名
Kubernetes 集群配置 Containerd
K3s 轻量级 Kubernetes 镜像加速
VS Code Dev Containers 配置
Podman 容器引擎配置
HPC 科学计算容器配置
ghcr、Quay、nvcr 等镜像仓库
Harbor Proxy Repository 对接专属域名
Portainer Registries 加速拉取
Nexus3 Docker Proxy 内网缓存
需要其他帮助?请查看我们的 常见问题Docker 镜像访问常见问题解答 或 提交工单
manifest unknown 错误
TLS 证书验证失败
DNS 解析超时
410 错误:版本过低
402 错误:流量耗尽
身份认证失败错误
429 限流错误
凭证保存错误
来自真实用户的反馈,见证轩辕镜像的优质服务