epam/ai-dial-core

AI DIAL Core 镜像文档

镜像概述

AI DIAL Core 是一个核心组件镜像，旨在为各类AI模型提供统一的API访问入口，作为单一接入点集中管理和简化AI模型的API调用流程。通过该镜像，用户无需直接对接多个AI模型的原生接口，可通过统一规范的接口访问不同模型，降低系统集成复杂度，提升API调用的可管理性和可维护性。

核心功能与特性

• 单一接入点：提供统一的API端点，集中接收和转发所有AI模型的调用请求，简化客户端接入逻辑
• API统一管理：支持对多类AI模型接口进行集中配置，包括接口地址、认证信息、调用参数等关键配置项
• 多模型兼容：灵活适配各类AI模型接口，支持文本生成、图像识别、语音处理等不同类型AI模型的统一接入
• 调用流程优化：内置请求路由和格式转换机制，自动适配不同模型的接口规范，降低跨模型调用的适配成本

使用场景与适用范围

典型使用场景

• 企业多AI模型整合：企业内部部署多个异构AI模型时，通过该镜像统一接入，避免客户端对接多套API
• AI服务标准化：为组织内部或外部用户提供标准化的AI服务访问接口，确保调用体验一致性
• 简化客户端开发：客户端仅需对接统一接口，无需关注后端模型差异，降低客户端开发和维护成本
• AI资源集中治理：通过单一入口实现对AI模型调用的权限控制、流量监控和使用计量

适用范围

• 需整合多个AI模型API的企业级应用
• 提供AI服务的平台型系统
• 需要简化AI模型访问流程的开发团队
• 对AI服务调用有统一管理需求的场景

使用方法与配置说明

基础使用（Docker Run）

通过以下命令快速启动AI DIAL Core容器：

bash
docker run -d \
  --name ai-dial-core \
  -p 8080:8080 \
  -e MODEL_REGISTRY_URL="http://model-registry:8500" \
  -e AUTH_ENABLED="true" \
  -e ADMIN_API_KEY="your-secure-admin-key" \
  docker.xuanyuan.run/ai-dial-core:latest

参数说明：

• -p 8080:8080：端口映射，将容器内服务端口（默认8080）映射到主机端口
• MODEL_REGISTRY_URL：模型注册中心地址，用于发现和管理可用AI模型
• AUTH_ENABLED：是否启用API认证（true/false），生产环境建议开启
• ADMIN_API_KEY：管理员API密钥，用于配置管理操作的身份验证

环境变量配置

AI DIAL Core支持通过环境变量进行详细配置，关键配置项如下：

Docker Compose 配置示例

以下是使用docker-compose部署的示例配置：

yaml
version: '3.8'

services:
  ai-dial-core:
    image: docker.xuanyuan.run/ai-dial-core:latest
    container_name: ai-dial-core
    ports:
      - "8080:8080"
    environment:
      - PORT=8080
      - MODEL_REGISTRY_URL=http://model-registry:8500
      - AUTH_ENABLED=true
      - ADMIN_API_KEY=${ADMIN_API_KEY}
      - REQUEST_TIMEOUT=45000
      - LOG_LEVEL=info
      - CORS_ALLOWED_ORIGINS=https://app.example.com,https://admin.example.com
    restart: unless-stopped
    networks:
      - ai-service-network

networks:
  ai-service-network:
    driver: bridge

API调用示例

通过统一接口调用AI模型的示例请求：

bash
curl -X POST http://localhost:8080/api/v1/invoke \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer ${API_KEY}" \
  -d '{
    "modelId": "text-generator-v2",
    "input": "请介绍Docker容器技术",
    "parameters": {
      "temperature": 0.7,
      "max_tokens": 500
    }
  }'

请求参数说明：

• modelId：目标AI模型的唯一标识符（需在注册中心预先注册）
• input：模型输入内容，根据模型类型调整格式
• parameters：模型特定的调用参数，将自动转发至目标模型

持久化配置

如需持久化配置数据，可通过挂载卷实现：

bash
docker run -d \
  --name ai-dial-core \
  -p 8080:8080 \
  -v ./dial-config:/app/config \
  -e CONFIG_PERSIST_PATH="/app/config" \
  docker.xuanyuan.run/ai-dial-core:latest

挂载的./dial-config目录将存储模型配置、认证策略等持久化数据，容器重启后配置不丢失。