ghcr.io/tbphp/gpt-load:2.0.0-rc.44

GPT-Load

面向多渠道、多凭证场景的自托管 AI 网关

API 密钥、订阅账号、流量调度、故障处理、请求日志与用量统计，所有能力均收敛在统一入口之后。

English · 中文 · 日本語 | 官方网站

---

赞助方

成为赞助方

赞助详情（可折叠）

OfoxAI：一站式整合文本、图像、视频能力的 AI 平台。OfoxAI 是统一 AI API 平台，聚合了多家服务商的文本、图像、视频模型。它提供兼容 OpenAI 的端点以及原生 Anthropic、Gemini 接口，开发者可通过单一平台获取构建 AI 应用、智能体和内容生成场景所需的各类模型。立即探索 OfoxAI 的模型与 API →

PackyCode：通过单个 API 端点和单组 API 密钥即可访问主流 AI 模型。服务访问快速可靠，内置自动故障切换能力，并为 Codex 和 Claude Code 提供专属高速链路。新用户可获 1 免费额度，首次充值享折扣，符合条件的链路最高可节省 80% 成本。支持支付，无货币兑换溢价和额外充值手续费。点击专属链接注册即可立即开始开发。

单入口即可接入和管理全球主流 AI 模型。Fluxion AI 面向个人开发者、技术团队和企业提供统一 API，用于接入和管理各类主流 AI 服务。平台采用动态多链路调度提升可用性，模型性能、响应耗时与成本全程透明可查。根据所选模型与链路不同，API 调用成本相比官方基准价可降低 40%–98%。立即访问注册即可获赠 7 *** API 额度（专属链接）。

为中国大陆及全球用户提供网站与 API 的防护加速服务，同时可通过客户端 SDK 将加速与安全能力延伸至原生/移动端应用。服务涵盖自建私有部署 CDN、订阅制高防 CDN，是一套自主可控、可灵活组合的 CDN 网络。

感谢 APIMart 对本项目的赞助！APIMart 是面向 AI 图像与视频生成场景的低成本 API 平台 —— GPT-Image-2 服务低至 0.006 ***/张，1 ***可生成超过 160 张图像。单条异步 API 同时覆盖图像与视频生成能力：提交任务获取任务 ID 后，可通过轮询或回调方式拉取结果。支持数万张图像的批量生成且无超时限制，更换模型无需修改业务代码。采用按量付费模式，无月费门槛，点击此处即可注册使用。

为什么选择 GPT-Load

你的应用仅需配置一个基础 URL 和一组 AccessKey 即可完成接入。所有服务商、账号、凭证、模型与路由策略均可在管理后台中配置。

• 单网关兼容原生协议 — 可统一管理官方 API、云平台、模型服务与各类兼容中转服务，客户端无需改动原有 OpenAI、Anthropic 或 Gemini 原生调用方式。
• 统一的 API 密钥与订阅管理机制 — Codex、Claude、Antigravity、Grok 与各类 API 密钥渠道共享统一的凭证管理、调度与健康检查能力。
• 内置调度与故障隔离 — 支持多凭证调度、权重自定义、重试、冷却、黑名单与会话亲和等能力，降低过载或故障凭证对业务的影响。
• 可观测、自托管、部署简单 — 管理后台内嵌可视化界面，基于 SQLite、MySQL 或 PostgreSQL 存储数据并支持本地凭证加密，可直接查看服务健康状态、路由信息、请求日志、用量与成本估算。

快速开始

[!WARNING] 如果你当前使用的是 1.x 版本，请先阅读从 1.x 迁移章节。2.0 版本无法直接打开、导入或原地迁移 1.x 版本的数据。

1. 启动服务

运行环境需提前安装 Docker 与 Docker Compose。

git clone --depth 1 https://github.com/tbphp/gpt-load.git
cd gpt-load

cp .env.example .env
docker compose up -d

确认服务正常启动：

curl --fail http://127.0.0.1:3001/health

首次启动时系统将自动生成管理密钥，请读取并妥善保存：

docker compose exec gpt-load sh -c 'cat /app/data/auth.key'

使用该密钥登录管理控制台。

你也可以在启动前在 .env 文件中显式指定 AUTH_KEY。默认情况下服务仅监听环回地址，不会暴露到公网。

2. 初始配置

初始设置共分为三步：

1. 添加渠道 — 选择上游服务类型，添加一个或多个 API 密钥。对于订阅类渠道，按照提示完成 OAuth 授权流程或导入对应凭证。
2. 创建分组 — 选定关联渠道，配置可使用的模型列表与运行时策略。
3. 创建 AccessKey — 设定该密钥允许使用的分组与客户端协议，将生成的 AccessKey 配置到你的业务应用中。

订阅渠道的 OAuth 回调端口说明

Codex、Claude 和 Antigravity 的 OAuth 客户端使用固定回调端口。Docker Compose 会将这些端口绑定到 HOST 变量指定的地址，默认值为 127.0.0.1；若设置 HOST=0.0.0.0，这些回调端口将在宿主机所有网络接口上对外开放。由于上游客户端固定了端口号，单台宿主机同一时间只能运行一个默认配置的 Compose 实例。

如果你通过 SSH 远程连接服务，或使用远程浏览器访问管理后台，浏览器本地的 localhost 可能无法正常回调到 GPT-Load 服务 — 你可以将完整的回调 URL 粘贴到授权对话框中即可完成授权流程。

界面截图

分组管理 — 在同一页面查看所有渠道、模型、凭证数量、流量数据与服务健康状态

用量统计 — 查看请求趋势、缓存命中率、Token 分类统计与成本估算数据

支持范围

客户端协议

内置渠道

• 官方与云服务商 — OpenAI、Anthropic、Gemini、xAI、Azure OpenAI、AWS Bedrock、Google Vertex AI
• 模型服务 — DeepSeek、Moonshot AI、SiliconFlow、智谱 AI、阿里云、火山引擎、OpenRouter、Cline、Groq、Cerebras、Mistral、Nebius、Parasail、Wafer、Hugging Face (Chat)、Cohere (文本重排序)、OpenCode Go、OpenCode Zen
• 订阅制渠道 — Codex、Claude、Antigravity、Grok
• 自定义渠道 — OpenAI 兼容（任意符合 OpenAI 接口规范的中转服务）

部署与数据说明

Docker Compose 默认使用应用自行管理的 SQLite 数据库。数据存储在名为 gpt-load-data 的 Docker 数据卷中，包含数据库文件、auth.key 与 encryption.key。

[!IMPORTANT] encryption.key 用于解密通道凭证。在备份或迁移操作中，数据库与该密钥必须一同留存。一旦密钥丢失或被替换，现有已加密的凭证将无法恢复，且当前版本不支持主密钥轮换。

使用外部数据库

通过统一的 DATABASE_DSN 即可连接 SQLite、MySQL 或 PostgreSQL：

mysql://user:password@db.example:3306/gpt_load?charset=utf8mb4&collation=utf8mb4_bin
postgres://user:password@db.example:5432/gpt_load?sslmode=require

常用操作命令：

docker compose logs -f # 查看日志
docker compose pull && docker compose up -d # 更新至最新的 2.x 版本镜像
docker compose stop # 停止服务

官方 Compose 配置文件使用镜像 ghcr.io/tbphp/gpt-load:2。在正式发布（GA）前，2 标签对应经过验证的 2.0 Beta 及 RC 版本；正式发布后，该标签将仅追踪稳定的 2.x 发行版。精确镜像标签会省略 Git 标签的 v 前缀（例如 2.0.0-beta.25），而 2.0-beta 始终对应 2.0 Beta 发布通道。latest 标签仍保留指向 1.x 版本。

使用原生二进制包

从 https://github.com/tbphp/gpt-load/releases 下载对应你平台的构建包，首次使用前请先通过配套的 SHA256SUMS 文件完成校验：

chmod +x ./gpt-load-linux-amd64

HOST=127.0.0.1 DATA_DIR=./data ./gpt-load-linux-amd64

随后打开对应页面即可。目前已为 5 个目标平台提供便携版构建包，覆盖 Linux、macOS（amd64 / arm64）以及 Windows；其中 gpt-load-windows-amd64.exe 会像之前一样在前台保持运行。

Windows 桌面用户也可以选择下载 gpt-load-windows-setup.exe。仅需一次管理员权限确认，安装程序就会安装并启动一个低权限 Windows 服务，开启开机自启，同时在桌面和开始菜单创建指向 GPT-Load 管理页面的快捷方式。安装程序在结束前会显示生成的管理密钥，请在关闭页面前妥善保存，受保护的密钥副本会存储在 %ProgramData%\GPT-Load\data\auth.key。服务配置及其对应的 .env 文件位于 %ProgramData%\GPT-Load，持久化数据统一存放在 %ProgramData%\GPT-Load\data。

安装更新版本的安装包时，程序会先优雅停止现有服务，再完成更新。Windows 的卸载操作会移除程序和对应服务，但会保留所有数据。高级用户仍可通过 gpt-load-windows-amd64.exe service start|stop|restart|status 命令管理已安装的服务。

环境配置

程序启动时会读取当前目录下的 .env 文件，已存在的进程环境变量优先级更高。除非另有说明，所有配置改动都需要重启进程或容器方可生效；通用配置模板可参考 .env.example。

所有环境变量说明

环境代理仅会在凭证、分组或全局设置均未单独指定代理时生效。

从 1.x 版本迁移

[!WARNING] GPT-Load 2.0 是完整重写版本。它无法直接打开、导入或原地迁移 1.x 的数据。

请使用独立的数据库、DATA_DIR、端口和 Docker 卷部署 2.0 版本。仅在验证通过后切换流量，并保留原有 1.x 部署，直到回滚窗口期结束。1.4.x 维护分支的文档可在官方文档中查阅。

开源依赖

GPT-Load 的部分功能基于以下项目实现，在此致谢：

GPT-Load 自身实现了凭证存储、账号选择、调度、重试、健康检查、亲和性、日志记录和用量策略功能。第三方声明文件位于 THIRD_PARTY_NOTICES.md，完整许可证文本存放在 LICENSES/ 目录下，每个发布版本都会附带一份覆盖所有 Go 依赖关系的 CycloneDX SBOM 文件。

通道图标用于标识对应的上游服务提供商。所有商标归其各自所有者所有，本项目与这些商标持有者不存在关联关系，也未获得其官方认可或背书。

项目支持

平台支持

社区支持

基础设施支持

---

MIT 许可证 · 第三方声明 · 安全策略