mc0618232/litellm

mc0618232/litellm镜像说明

镜像概述

本镜像基于docker.litellm.ai/berriai/litellm官方镜像构建，新增了繁体中文（***）的国际化支持，保留原镜像的所有核心功能，可帮助开发者统一调用多种大语言模型（LLM），降低跨模型集成的复杂度。

核心功能

1. 支持OpenAI、Anthropic、Google等主流LLM的统一API接口调用
2. 新增繁体中文（***）语言适配，满足相关地区用户的使用需求
3. 支持模型参数自定义配置，如温度、最大 tokens 等
4. 提供轻量级HTTP服务，便于快速部署和集成

使用场景

1. 面向繁体中文（***）地区用户的AI应用开发
2. 需要同时调用多种LLM模型的项目
3. 简化LLM集成流程的中小团队或个人开发者

配置说明

可通过环境变量配置关键参数，常见配置项包括：

• OPENAI_API_KEY：OpenAI API密钥（若使用OpenAI模型）
• MODEL：默认使用的LLM模型（如gpt-3.5-turbo）
• PORT：服务监听端口（默认8000）

部署示例

Docker Run命令

bash
docker run -d -p 8000:8000 \
  -e OPENAI_API_KEY="your_openai_key" \
  -e MODEL="gpt-3.5-turbo" \
  docker.xuanyuan.run/mc0618232/litellm

Docker Compose配置

yaml
version: "3.8"
services:
  litellm:
    image: docker.xuanyuan.run/mc0618232/litellm
    ports:
      - "8000:8000"
    environment:
      - OPENAI_API_KEY=your_openai_key
      - MODEL=gpt-3.5-turbo
    restart: always

部署后，可通过http://localhost:8000访问服务，具体接口文档可参考Litellm官方文档。 ===END===