多 Key 轮换
Round-Robin 分发请求,遇到 429 自动退避,降低单 Key 限流风险。
OpenAI 兼容 · Vercel Edge · 开源
轻量级开源 AI API 中转服务
把多个 Provider、多把 Key、Fallback、用量统计和 Admin 后台收进一个透明代理。客户端继续用 OpenAI 接口,团队获得更稳的模型入口。
FEATURES
从请求入口到 Provider、Key Pool、Fallback 和告警,AI Relay 负责把不稳定的上游变成稳定的统一接口。
Round-Robin 分发请求,遇到 429 自动退避,降低单 Key 限流风险。
支持 OpenAI、Claude、DeepSeek、MiMo 与自定义 Provider,按模型前缀自动路由。
Provider 到 Key Pool 的链式故障转移,让上游异常不直接暴露给客户端。
保留 /v1/chat/completions 与 /v1/models 习惯,现有 SDK 几乎零改动接入。
集中管理密钥、配额、用量统计、模型测试和 Provider 配置。
面向 Vercel Edge Runtime 设计,免费层也能快速跑起个人或团队中转站。
QUICK START
沿用 README 的最短路径:先部署,再验证健康状态,进入 Admin 添加 Provider Key,最后直接调用 OpenAI 兼容接口。
用 Vercel 克隆仓库,填入 RELAY_API_KEY、RELAY_ADMIN_KEY、RELAY_SIGNING_SECRET。
Deploy with VercelRELAY_API_KEY=your-strong-client-key
RELAY_ADMIN_KEY=your-admin-key
RELAY_SIGNING_SECRET=your-signing-secret部署完成后检查公开健康端点,确认 Edge Function 已经正常响应。
curl https://你的项目.vercel.app/health
# {"status":"ok"}进入 Admin 后台,添加 OpenAI、Claude、DeepSeek、MiMo 或自定义 Provider Key。
https://你的项目.vercel.app/admin
# 使用 RELAY_ADMIN_KEY 登录把客户端 base URL 指向你的 Relay,继续使用 OpenAI 兼容请求格式。
curl -X POST https://你的项目.vercel.app/v1/chat/completions \
-H "Authorization: Bearer YOUR_RELAY_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"gpt-4o","messages":[{"role":"user","content":"你好!"}]}'API
| 端点 | 说明 | 访问 |
|---|---|---|
GET /v1/models | 列出所有可用模型 | Bearer Key |
GET /v1/models/:id | 查询单个模型信息 | Bearer Key |
POST /v1/chat/completions | Chat Completions,支持流式和非流式 | Bearer Key |
GET /health | 公开健康检查 | Public |
GET /api/status | 服务状态详情 | Public |
MODELS
模型列表来自服务端 Provider 注册表和自定义 Provider 配置,部署后会随配置动态变化。
gpt-5.*
gpt-, o1-, o3-, o4-, chatgpt-, dall-e-*
claude-*
deepseek-*
mimo-*
mimo-v2.5-pro-sgp, mimo-v2.5-flash-sgp, mimo-v2.5-sgp*
mimo-v2.5-pro-coding, mimo-v2.5-coding*
mimo-v2.5-pro*
ARCHITECTURE