openeuler/avatarchatbot

OPEA Docker镜像文档

镜像概述

OPEA（Open Platform for Enterprise AI）官方Docker镜像基于openEuler构建，是一个开放平台项目，旨在帮助用户创建开放、多提供商、健壮且可组合的生成式AI（GenAI）解决方案，充分利用生态系统中的创新成果。该镜像仓库可免费使用，且不受每用户速率限制。

• 维护方：openEuler CloudNative SIG
• 获取帮助：openEuler CloudNative SIG、openEuler社区

核心功能与特性

OPEA平台包含以下核心组件：

• 可组合构建块框架：提供用于构建最先进生成式AI系统的详细框架，包括大型语言模型（LLMs）、数据存储和提示引擎
• 架构蓝图：检索增强型生成式AI组件堆栈结构和端到端工作流的架构设计
• 四步评估体系：围绕性能、功能、可信度和企业级就绪性对生成式AI系统进行分级评估

更多信息请访问opea.dev，技术文档详见https://opea-project.github.io/%E3%80%82

支持的标签及Dockerfile链接

AvatarChatbot Docker镜像的标签由AvatarChatbot版本和基础镜像版本组成，具体信息如下：

使用方法

AvatarChatbot服务可轻松部署在Intel Gaudi2或Intel XEON可扩展处理器上，部署步骤如下：

1. 设置环境变量

1.1 设置必要环境变量

bash
# 示例：host_ip="192.168.1.1"
export host_ip="外部公网IP"
# 示例：no_proxy="localhost, 127.0.0.1, 192.168.1.1"
export no_proxy="你的无代理列表"
export HUGGINGFACEHUB_API_TOKEN="你的Huggingface API令牌"

1.2 （若使用代理环境）设置代理相关环境变量

bash
export http_proxy="你的HTTP代理"
export https_proxy="你的HTTPS代理"

1.3 设置其他环境变量

获取set_env.sh：set_env.sh

bash
# 在Xeon处理器上执行
source set_env.sh

2. 运行Docker Compose

选择与硬件匹配的compose.yaml文件。

CPU环境示例

获取compose.yml：compose.yml

bash
docker compose -f compose.yml up -d

执行后将自动从Docker Hub拉取镜像：

bash
docker pull openeuler/avatarchatbot:latest

3. 使用AvatarChatbot服务

bash
curl [***]{host_ip}:3009/v1/avatarchatbot \
  -X POST \
  -d @assets/audio/sample_whoareyou.json \
  -H 'Content-Type: application/json'