提供统一OpenAI格式接口,支持调用100+ LLMs(包括Bedrock、Azure、OpenAI等),解决多模型接入与管理的复杂性问题。 支持/chat/completions、/embeddings、/images等多端点;兼容100+ LLM提供商;8ms P95 latency的低延迟性能(1k RPS下);提供Python SDK与Proxy Server(AI Gateway)双接入方式。 基于Python构建,集成Python SDK与Proxy Server(AI Gateway),支持REST接口及A2A、MCP协议,实现多LLM统一管理与调用。 适用于企业级AI应用开发、多LLM模型集成场景,满足低延迟高并发需求,支持Cursor IDE等开发工具集成。
请登录使用轩辕镜像享受快速拉取体验,支持国内访问优化,速度提升
docker pull ghcr.io/berriai/litellm-database:main-v1.81.14.rc.2探索更多轩辕镜像的使用方法,找到最适合您系统的配置方式
通过 Docker 登录认证访问私有仓库
无需登录使用专属域名
Kubernetes 集群配置 Containerd
K3s 轻量级 Kubernetes 镜像加速
VS Code Dev Containers 配置
Podman 容器引擎配置
HPC 科学计算容器配置
ghcr、Quay、nvcr 等镜像仓库
Harbor Proxy Repository 对接专属域名
Portainer Registries 加速拉取
Nexus3 Docker Proxy 内网缓存
需要其他帮助?请查看我们的 常见问题Docker 镜像访问常见问题解答 或 提交工单
docker search 限制
站内搜不到镜像
离线 save/load
插件要用 plugin install
WSL 拉取慢
安全与 digest
新手拉取配置
镜像合规机制
manifest unknown
no matching manifest(架构)
invalid tar header(解压)
TLS 证书失败
DNS 超时
域名连通性排查
410 Gone 排查
402 与流量用尽
401 认证失败
429 限流
D-Bus 凭证提示
413 与超大单层
来自真实用户的反馈,见证轩辕镜像的优质服务