速率限制

限流按令牌所属分组独立计算，三个维度同时生效：

维度	含义
RPM	每分钟请求数（requests per minute）
TPM	每分钟 token 数（tokens per minute）
RPD	每日请求数（requests per day）

具体额度见「模型广场 → 模型的 API 选项卡 → 速率限制」，或控制台令牌详情页。

超限的返回

超出任一维度都会返回 HTTP 429，响应体形如：

{
  "error": {
    "message": "rate limit exceeded",
    "type": "rate_limit_error"
  }
}

处理建议

• 指数退避重试：1s → 2s → 4s → 8s，最多重试 3～4 次，并加随机抖动。
• 区分错误类型：429 是限流，402 是余额不足，5xx 是上游故障，重试策略不同。
• 批量任务降速：并发数不要超过 RPM / 60，否则会稳定撞限。
• 长文本注意 TPM：一次 100K token 的请求会一次性消耗大量 TPM 额度。

与上游限流的关系

即使你没有撞到本站限流，上游渠道也可能限流。这种情况通常表现为 429 或 5xx，系统会自动切换到同分组的其他渠道重试；全部失败才会把错误返回给你。