ghcr.io/tashfeenahmed/freellmapi:sha-cf0c216

FreeLLMAPI

每月40亿 tokens。29个免费 LLM 提供商。358个免费模型端点。一个 OpenAI兼容端点。

聚合数十家提供商的免费额度，外加自定义的 OpenAI 兼容聊天、嵌入、图像和音频端点，统一通过单个 /v1 API 提供。密钥加密存储。路由会为每个请求选择最佳可用模型，当某个提供商达到速率限制时自动切换到下一个，并跟踪每个密钥的使用情况，确保不超过任何免费额度上限。

freellmapi.co · 浏览完整目录：251个模型系列，358个免费端点

English · 简体中文

路由会通过签名源自动更新自身的模型目录：新的免费模型、配额变更和兼容性修复无需 git pull 即可生效。在 freellmapi.co 启用服务（每年19***，可随时取消）。

---

目录

• 为什么存在
• 支持的提供商
• 兼容的 CLI 与编码代理
• 对比分析
• 功能特性
• 快速开始
• 桌面应用
• 与 OpenAI 兼容客户端配合使用
• 支持语言
• 高级版（实时目录）
• 使用 API
• 截图展示
• 工作原理
• 限制说明
• 贡献指南
• 免责声明

指南： 安装与部署 · API 参考 · 客户端与编码代理 · 提示词压缩 · 架构与内部原理 · 文档索引 · 贡献者指南

为什么存在

如今，每一家严肃的 AI 实验室都提供免费额度，通常是每月数百万 tokens、每天数千次请求。单独来看，每个额度都只是玩具。但将它们整合起来，就能形成每月约 40亿 tokens 的有效推理能力，涵盖从轻量快速到性能尚可的 251个模型系列/358个提供商端点。

问题在于手动整合这些额度非常麻烦：29种不同的 SDK、29种不同的速率限制、29个可能导致请求失败的环节。FreeLLMAPI 将这些整合为一个 OpenAI 兼容端点。只需将任何 OpenAI 客户端库指向本地服务器，它就会透明地路由到您已添加密钥的所有提供商。

而且免费额度的情况每周都在变化：提供商可能会无预警地推出模型、停用模型或更改配额。FreeLLMAPI 会为您跟踪所有这些变化。路由会自动从 freellmapi.co 拉取签名模型目录，因此您的安装无需 git pull 即可保持最新。有关更新速度的信息，请参见 高级版（实时目录）。

支持的提供商

Google
Groq
Cerebras
OpenCode Zen

Mistral
OpenRouter
Cloudflare
Cohere

Z.ai（智谱）
NVIDIA
HuggingFace

ModelScope Qwen3 · DeepSeek V4 · GLM-5（需绑定阿里云中国区账号）

… 以及另外17家免费提供商

此外还有 自定义 提供商 — 可在密钥页面将聊天、嵌入、图像或音频模型指向任何 OpenAI 兼容端点（llama.cpp、LM Studio、vLLM、本地 Ollama 或远程网关）。

完整且实时更新的列表请访问 freellmapi.co/models，包含每个模型的速率限制、上下文窗口和免费 token 预算。

兼容的 CLI 与编码代理

Claude Code
Codex CLI
Gemini CLI
Aider

Cline
Roo Code
Continue
OpenCode

Goose
Qwen Code
Kilo Code
Crush

Cursor
Zed
JetBrains AI
DeepSeek Harness

… 以及任何 OpenAI 兼容客户端、Anthropic SDK、Gemini SDK 或支持 Ollama 的应用

大多数工具只需一条命令即可完成配置 — npx freellmapi setup-claude、setup-codex、setup-aider、setup-dsh（DeepSeek Harness），以及另外十个配置生成器，它们会获取您的实时目录、备份现有配置，且不会覆盖已有内容。Claude Code 和 Codex 还提供零持久化启动器（freellmapi launch、freellmapi launch-codex），仅在子进程中注入凭据。Zed 和 JetBrains AI 通过可选的 Ollama 模拟 连接；Gemini CLI 通过 /v1beta 支持其原生协议。

各工具的详细使用指南、配置 CLI 参考、无头客户端的可撤销 URL 令牌以及 MCP 服务器均位于 客户端与编码代理 →

对比分析

基于2026年7月的公开文档 — 欢迎指正。

功能特性

快速开始

一行命令（需 Docker — 会设置 ~/freellmapi 目录、生成加密密钥、拉取镜像并启动容器）：

curl -fsSL https://freellmapi.co/install.sh | bash

倾向于先阅读脚本再通过管道执行 bash？脚本在此。重新运行脚本是安全的：您的 .env 文件（及加密密钥）会被保留，且容器会更新至 :latest 标签。

打开 http://localhost:3001，在 Keys 页面添加您的提供商密钥，根据需要重新排序 Fallback Chain（回退链），然后从 Keys 页面顶部获取统一 API 密钥。您的 OpenAI SDK 需指向此统一密钥。

在 Windows 系统上，最简单的方式是使用桌面版 **https://github.com/tashfeenahmed/freellmapi/releases/latest**（见下文）。在 Android 系统上，请参阅实验性的 Termux 指南。

其他所有内容 — Docker Compose、本地开发、声明式启动配置、生产构建、局域网访问及备份 — 均位于 docs/install.md。

高级版（实时目录）

路由器会自动保持其模型目录的更新：它每天从 freellmapi.co 拉取一次签名目录，并将新模型、配额变更和提供商特性修复应用到本地数据库。您自己的启用/禁用选择和自定义提供商不会被改动，并且每次下载在应用前都会通过固定的 Ed25519 密钥进行验证。

该目录目前跟踪 29 个提供商、251 个模型系列、358 个提供商/模型端点，以及大约每月 40 亿 tokens 的列出免费额度容量。可在 freellmapi.co/models 浏览完整列表。

高级版可在您运行的每台路由器上保持该签名目录的实时性。当提供商推出强大的免费模型、悄悄收紧配额或更改通信格式时，实时推送的路由器会在我们发布更新后立即接收。

立即在 freellmapi.co 启用 →

• 每年 19 ***或一次性 49 ***，终身有效。通过 Stripe 结账；可随时自助取消。
• 一个 fla_ 密钥适用于您运行的所有路由器：桌面端、家庭实验室、树莓派。
• 在仪表板的 Premium 下激活；可在 freellmapi.co/manage 自助取消或管理账单。
• 路由器本身永远保持 MIT 许可且完全免费。高级版仅提供实时推送，其收入用于资助日常模型测试和目录维护，以确保目录正常运行。

目录服务器永远不会看到您的提示词、补全内容或提供商密钥——无论如何，路由器始终完全自托管。

• 添加提供者 — 复制 server/src/providers/openai-compat.ts 作为模板，将其接入 server/src/providers/index.ts，在 server/src/db/index.ts 中植入其模型，在 server/src/__tests__/providers/ 中添加测试。
• 添加端点 — 内容审核（moderations）和其他 OpenAI 兼容接口。提供者基类可增加新方法；适配器声明其支持的方法。
• 改进路由器 — 成本感知路由（成本最低-健康-速度最快的权衡）、更优的延迟加权优先级、区域固定。
• 仪表板优化 — 分析页面图表、密钥轮换用户体验、从 .env 批量导入密钥。
• 文档 — 更多示例、Go/Rust 等语言的客户端库代码片段、Docker 或 Fly 的部署指南。

npm install && npm run dev 将在 :3０01 启动服务器，在 :5173 启动仪表板，两者均支持 HMR。如需可重复的设置，在 Bash 中使用 ./scripts/dev-bootstrap.sh，或在 PowerShell 中使用 .\scripts\dev-bootstrap.ps1；两者均会保留已有的 .env 文件。PR 应包含测试，确保现有测试套件通过（npm test），并与仓库中已有的 .editorconfig / tsconfig 默认配置保持一致。数据库迁移工作流和完整贡献者流程详见 CONTRIBUTING.md。

Contributors

免责声明

本项目仅供个人实验和学习使用，不适合生产环境。 免费套餐的存在是为了让开发者能够基于其进行原型开发；它们并非稳定、受支持的推理基础设施，不应被视为此类设施。如果您基于 FreeLLMAPI 构建实际应用，请在发布前替换为付费 API。您与每个上游提供者的关系受您创建账户时接受的条款约束——当流量通过本项目代理时，这些条款仍然适用，您有责任遵守它们。

各提供者的服务条款（ToS）对个人单用户代理的看法——2026 年 5 月逐提供者审核——详见 docs/architecture.md#terms-of-service-review。

许可证

MIT