主题
模型与分组
模型清单
模型是否可用取决于令牌的配置:模型白名单、分组、以及该分组是否已开通对应渠道。所以清单以接口返回为准:
bash
curl "$BASE_URL/v1/models" -H "Authorization: Bearer $NEW_API_KEY"也可以在 模型广场 页面浏览:每个模型会显示供应商、能力(推理 / 工具 / 文件 / 多模态)、上下文长度、支持的协议、所属分组与实时价格。
分组
分组决定三件事:能不能用、多少钱、稳到什么程度。
| 分组 | 定位 | 价格 | 稳定性 | 适合 |
|---|---|---|---|---|
| 满血 | 官方直连线路 | 最高 | 最稳,能力与官方一致 | 线上产品、对一致性要求高的任务 |
| 稳定 | 均衡线路 | 中 | 较好,高峰期可能略有排队 | 内部工具、日常开发 |
| 特惠 | 低价线路 | 最低 | 一般,高峰期更容易被限流 | 批量任务、可重试的离线作业 |
| 越狱 | 宽松线路 | 低 | 一般 | 需要宽松内容策略的特定场景 |
可能遇到的情况
除「满血」外,其余分组在高峰期或资源调整时可能出现:
- 偶发
429(限流)或5xx(服务波动),重试通常可以恢复 - 首 token 变慢,长上下文请求更明显
- 极少数官方专属能力不可用(例如某些批量接口、文件接口)
- 之前建立的提示词缓存可能不再命中,下一次请求按「缓存写入」重新计费,见缓存与计费
- 模型可用性可能随运营调整变化,以模型广场的实时状态为准
生产环境怎么选
面向用户的线上业务、涉及敏感数据、需要稳定 SLA 的,用满血;内部工具与开发调试可用稳定;特惠 / 越狱不建议承载生产流量。
按场景选分组
| 场景 | 建议分组 | 理由 |
|---|---|---|
| 线上产品、客户可见 | 满血 | 能力与稳定性有保证 |
| 内部工具、日常开发 | 稳定 | 价格与稳定性折中 |
| 批量离线任务、可重试 | 特惠 | 成本最低,失败可重跑 |
| 特殊内容策略需求 | 越狱 | 仅用于明确需要时,风险自担 |
分组的三个影响
- 能不能用:令牌不在某个分组里,就无法用该分组下的模型。
- 多少钱:最终价格 = 基准价 × 分组倍率(按 1M token 计)。
- 多快:每个分组有独立的 RPM / TPM / RPD,见速率限制。
切换分组
分组是绑定在令牌上的,切换方式是换一个令牌,或在控制台编辑令牌的分组设置。请求头里不能临时指定分组。