v7.0 · Cloudflare Pages + D1 免费部署

一个令牌,
背后是整个账号池。

Agnes Gateway 将多个上游 API Key 聚合成一个 OpenAI 兼容入口: 加权轮询、健康熔断、RPM 限流、流式转发,全部开箱即用。

openai 兼容调用
curl /api/v1/chat/completions \
  -H "Authorization: Bearer gt-xxxxxxxx" \
  -d '{"model": "agnes-2.5-flash", "messages": [...], "stream": true}'

核心特性

为稳定性而生

每一行代码都围绕「把每一次调用送到可用的上游」

加权轮询

按权重随机分配请求,自动尊重每个账号的 RPM 限额,把额度用在刀刃上。

健康熔断

连续失败自动降权摘除,401/402 永久封禁,429 触发冷却后自动回归,全程无需人工干预。

流式转发

原生 SSE 透传,先探测上游状态再开始输出,失败自动换号重试,客户端无感。

令牌限流

为每个调用方签发独立网关令牌,分钟级滑动计数,SHA-256 哈希存储,明文仅显示一次。

加密存储

上游密钥以 AES-256-GCM 加密入库,加密密钥由 Workers 密钥独立持有,落库即密文。

免费托管

Cloudflare Pages Functions + D1 免费档运行,无服务器运维、全球边缘节点、零成本起步。

API 文档

完全兼容 OpenAI 格式

现有代码只需替换 Base URL 与 API Key

Base URL /api/v1

所有请求需携带 Authorization: Bearer <网关令牌>,令牌在控制台「网关令牌」页生成。

GET /v1/models 获取可用模型列表
curl /api/v1/models \
  -H "Authorization: Bearer gt-xxxxxxxx"
POST /v1/chat/completions 文本对话,支持 stream: true 流式
curl /api/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer gt-xxxxxxxx" \
  -d '{
    "model": "agnes-2.5-flash",
    "messages": [{"role": "user", "content": "你好"}],
    "stream": false
  }'
POST /v1/embeddings 向量(仅 openai 协议账号)
POST /v1/images/generations 图像生成(OpenAI 兼容透传)
POST /v1/videos 视频生成(OpenAI 兼容透传)

模型支持

内置模型列表

默认全透传由上游校验;设置 AGNES_MODEL_WHITELIST=1 可开启白名单模式(仅放行以下模型)

文本模型

  • agnes-2.0-flash
  • agnes-2.5-flash
  • agnes-2.5-pro
  • agnes-2.5-pro-alpha
  • agnes-2.5-pro-beta

图像模型

  • agnes-image-2.0-flash
  • agnes-image-2.1-flash

视频模型

  • agnes-video-v2.0
  • agnes-video-2.5
  • agnes-video-2.5-flash