hcltechaiforce/aiforce-ems

AIForce嵌入模型服务（EMS）

镜像概述

AIForce嵌入模型服务（EMS）是一个微服务，为AIForce生态提供嵌入模型能力，核心功能是将文本或其他数据类型转换为向量嵌入。这些嵌入是实现语义搜索、相似性匹配及RAG（检索增强生成）管道的关键基础。

核心功能

• 向量嵌入生成：支持从文本等数据类型生成高质量向量嵌入
• Hugging Face集成：通过Hugging Face平台获取并使用预训练嵌入模型
• 持久化存储：支持嵌入相关资产的持久化存储，便于后续复用和管理

使用场景

• 语义搜索：基于向量嵌入实现精准的语义检索，提升搜索结果相关性
• 相似性匹配：快速定位与目标内容语义相似的文本或数据
• RAG管道：为检索增强生成系统提供嵌入支持，优化生成内容的准确性

配置说明

可通过环境变量配置服务参数，常见参数包括：

• MODEL_NAME：指定使用的Hugging Face模型名称（如sentence-transformers/all-MiniLM-L6-v2）
• STORAGE_PATH：嵌入资产的持久化存储路径
• PORT：服务监听端口（默认8080）

部署示例

Docker Run命令

bash
docker run -d -p 8080:8080 \
  -e MODEL_NAME=sentence-transformers/all-MiniLM-L6-v2 \
  -e STORAGE_PATH=/data/embeddings \
  -v ./local-embeddings:/data/embeddings \
  hcltechaiforce/aiforce-ems

Docker Compose示例

yaml
version: '3.8'
services:
  ems:
    image: hcltechaiforce/aiforce-ems
    ports:
      - "8080:8080"
    environment:
      - MODEL_NAME=sentence-transformers/all-MiniLM-L6-v2
      - STORAGE_PATH=/data/embeddings
    volumes:
      - ./local-embeddings:/data/embeddings