【免费下载链接】CliRelay
Self-hosted AI gateway for coding CLIs — one OpenAI/Claude/Gemini/Codex-compatible endpoint, with a multi-tenant web console, request logs, and spend quotas.
CliRelay 是一个自托管(self-hosted)的OpenAI 兼容 AI 网关,专为编程 CLI 工具设计:它把你已经在付费的 Claude、Codex、Gemini 订阅账号和各种 API Key 统一挂在一个端点后面,让 Claude Code、Codex、Gemini CLI 以及任何 OpenAI 兼容客户端都能直接复用,同时提供多租户 Web 控制台、完整请求日志和消费配额管理。
为什么你需要一个 AI 网关
用过 Claude Code 或 Codex 的同学大概都遇到过这些场景:
- 📇账号池管理头疼:手上有 3 个 Claude 订阅、2 个 Codex 账号,切换要反复改环境变量或配置文件;
- 💸用量不可控:团队成员共用你的 Key,跑了一天不知道烧了多少钱;
- 🩹没有容灾:某个账号额度用尽或 429 限流,任务直接中断,手动切账号;
- 📊零可观测性:谁调用了哪个模型、耗了多少 token、延迟多少,完全摸黑。
CliRelay 的思路是:客户端只认一个地址,剩下的事(鉴权、选账号、协议转换、失败切换、记账)全部交给网关。
CliRelay 核心能力一览
| 能力 | 说明 |
|---|---|
| 🔌一个端点接所有上游 | Claude、Codex、Gemini CLI、Antigravity、Vertex、Bedrock、xAI/Grok、Qwen、Kimi、iFlow 及任意 OpenAI 兼容上游,统一收口在http://your-host:8317 |
| 🧭智能路由与故障转移 | 通道组(Channel Group)+ 轮询/填充满先/会话粘滞调度;账号耗尽或失败自动冷却并切换备用账号 |
| 📈全链路可观测 | 监控中心提供健康分数、P50–P99 延迟、首 Token 时间、失败分析和用户→模型→通道流量图 |
| 💳消费管控 | 客户端 Key 按门户账号分组,支持日/周期/终身配额、RPM/TPM 限速、按模型计费和一键周期重置 |
| 🏛️团队级多租户 | 租户之间账号、Key、数据隔离;用户角色 + 细粒度权限;安全敏感操作全部落审计日志 |
| 🖥️浏览器管理面板 | /manage控制台:引导式登录添加账号、可视化改配置、模型与定价管理、在线升级 |
一个请求是怎么流转的
客户端发来的每一个请求,在 CliRelay 内部会经过四步:
- 鉴权(Authenticate):客户端 Key 解析出所属门户账号和权限配置,决定可用通道组、模型和配额;
- 准入(Admit):在请求到达上游之前,先检查日/周期/终身消费、请求数配额、RPM、TPM 和并发限制;
- 路由(Route):按调度策略把请求投给组内健康的通道(AI 账号或 Provider Key),失败则冷却该通道并自动故障转移到下一个;
- 转换与记录(Translate & Record):执行器负责 OpenAI ⇄ Anthropic ⇄ Gemini 协议互转,流式返回结果,并写入请求日志与用量统计,驱动所有仪表盘。
协议转换的实现在 internal/translator/,各上游的调度、冷却与执行器在 internal/runtime/executor/。
支持哪些上游
CliRelay 支持的上游非常宽,主流接入方式包括:
| Provider / 通道 | 接入方式 |
|---|---|
| Anthropic Claude | OAuth 浏览器/设备码登录、会话 Key 导入、API Key |
| OpenAI Codex | OAuth、refresh token 导入、API Key |
| Google Gemini | OAuth(Gemini CLI)、API Key |
| Antigravity | OAuth、refresh token 导入 |
| Vertex AI / AWS Bedrock | 服务账号 JSON、API Key 或 SigV4 |
| xAI / Grok、Qwen、Kimi、iFlow | OAuth、设备码、Cookie 导入 |
| 任意 OpenAI 兼容上游 | API Key(如 OpenRouter 等 Chat Completions 服务) |
添加账号时控制台是引导式的:按"浏览器登录 / 设备码 / 凭据导入"三类分组,一步步告诉你该复制哪个地址、为什么登录页打不开、凭据从哪来。已有的 Claude 会话 Key、Codex refresh token、Grok SSO Cookie 可以直接批量导入成账号,失败行还能单独重试。
快速上手:Docker Compose 三步跑起来
推荐用 Docker Compose 部署,它会一次性启动 CliRelay、PostgreSQL 15、Redis 7 和 updater 升级边车:
git clone https://gitcode.com/gh_mirrors/cl/CliRelay cd CliRelay docker compose up -d首次启动时clirelay-init服务会自动创建.env和config.yaml,并生成管理密码等密钥。启动后记住两个地址:
| 入口 | 地址 |
|---|---|
| API 端点 | http://localhost:8317 |
| 管理控制台 | http://localhost:8317/manage(用admin+.env中的CLIRELAY_ADMIN_PASSWORD登录) |
然后在控制台完成两件事:
- 加上游:AI Accounts → Add AI account登录订阅账号,或AI Providers添加 API Key;
- 建客户端 Key:Portal Accounts → Create user,每个门户账号可持有一个或多个 Key。
⚠️ 全新安装默认没有可用客户端 Key,任何客户端请求都会被拒绝,务必先创建 Key。config.example.yaml 里的
your-api-key-*都是占位符,永远无效。
把你的编程 CLI 接上网关
拿到客户端 Key 后,各工具改一行配置就能指向 CliRelay。
Claude Code——设置两个环境变量即可:
export ANTHROPIC_BASE_URL=http://localhost:8317 export ANTHROPIC_AUTH_TOKEN=sk-your-client-key claudeCodex CLI——在~/.codex/config.toml中新增一个自定义 provider:
model_provider = "clirelay" [model_providers.clirelay] name = "openai" base_url = "http://localhost:8317/v1" requires_openai_auth = true任何 OpenAI 兼容客户端——直接用 Chat Completions 接口,把Authorization换成你的客户端 Key 即可。
💡 控制台里的CC Switch Config还能一键生成 Claude Code / Codex 的导入预设,模型映射和通道组都填好了,省去手改配置。
控制台巡礼:请求日志、配额与多租户
请求日志:每次调用都有据可查
请求日志列出每一次调用的通道、门户用户与 Key、缓存/输入/输出 Token、延迟和成本,支持按用户、模型、通道、状态筛选。开启正文存储后,还能点开查看完整的请求与响应内容。
相关查询与写入实现在 internal/usage/ 下的请求日志与滚动统计模块。
通道组与模型广场:流量往哪走,一目了然
通道组决定某个 Key 能用哪些通道、组内流量怎么分摊;模型广场则展示当前租户可达的每个模型的能力、服务通道与百万 Token 价格。
多租户与审计:为团队而生的权限体系
租户各自持有独立的账号、Key、路由和数据,管理员可在头部切换生效租户;角色以resource.action形式授权(如providers.test、models.write),决定每个用户能看到哪些页面和按钮;谁改了什么、从哪里改的、是否成功,全部记录在审计日志中。
生产部署与进阶玩法
| 部署形态 | 适用场景 | 参考文档 |
|---|---|---|
| 单节点 Docker Compose | 个人、小团队、NAS | docs/production-checklist_CN.md |
| 挂在 nginx 等反向代理后 | 公网 HTTPS、自定义域名 | docs/reverse-proxy_CN.md |
| 多实例共享同一 PostgreSQL | 流量分摊、自动故障转移、滚动发布 | docs/multi-instance-deployment_CN.md |
其他值得了解的设计点:
- 🗄️PostgreSQL 15+ 是唯一事实来源,Redis 7+ 只存可重建的缓存、锁、限流和队列状态,迁移细节见 docs/postgres-redis-migration.md;
- ⚙️配置可热改:面板 Config 页提供分组表单 + 内联校验,也能用 YAML 源码编辑器;小内存主机可一键套用推荐的低资源配置;
- 🔁在线升级:updater 边车负责拉取新版本,面板会展示目标版本、每个阶段和最终结果;
- 📦可嵌入 SDK:sdk/ 提供了可嵌入的 Go SDK,方便在自己的应用里复用这套代理能力,用法见 docs/sdk-usage_CN.md。
写在最后
CliRelay 解决的本质问题很简单:让你已经付费的 AI 账号像 API 池一样被管理——一个 OpenAI 兼容端点收口所有客户端,账号自动调度与故障转移,消费可计量可封顶,团队可按租户隔离使用。如果你正在同时维护 Claude Code、Codex、Gemini CLI 多个工具,又希望用量和成本尽在掌握,这套网关值得部署到自己的服务器上跑一跑。
项目核心入口在 cmd/server/,完整部署编排见 docker-compose.yml。CliRelay 基于 MIT 协议开源,感谢上游 CLIProxyAPI 项目奠定的代理核心。
【免费下载链接】CliRelay
Self-hosted AI gateway for coding CLIs — one OpenAI/Claude/Gemini/Codex-compatible endpoint, with a multi-tenant web console, request logs, and spend quotas.
相关推荐
十分钟上手 T3 Code:把 Claude Code、Codex、Cursor 全塞进一个窗口
十分钟上手 T3 Code:把 Claude Code、Codex、Cursor 全塞进一个窗口 如果你是那种"每个 AI 编程工具都想试一遍"的开发者,大概已
AI Agent代码智能体后端前端移动开发桌面应用把 Claude Code、Codex、Cursor 塞进一个公司:Paperclip 统一调度实战
把 Claude Code、Codex、Cursor 塞进一个公司:Paperclip 统一调度实战 2026 年,一线开发者桌面上的现状是这样的:左边开着 5
人工智能AI 应用AI Agent多智能体Agent 编排Agent 工作流MCP 服务后端前端同一套 Skills 跨 Agent 迁移:Claude Code、Codex、Gemini CLI 的兼容性实测
同一套 Skills 跨 Agent 迁移:Claude Code、Codex、Gemini CLI 的兼容性实测 当开发者的技能资产被锁定在单一工具里,迁移一
AI 技能AI 插件
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考