Skip to content

模型与分组 ​

模型清单 ​

模型是否可用取决于令牌的配置:模型白名单、分组、以及该分组是否已开通对应渠道。所以清单以接口返回为准:

bash
curl "$BASE_URL/v1/models" -H "Authorization: Bearer $NEW_API_KEY"

也可以在 模型广场 页面浏览:每个模型会显示供应商、能力(推理 / 工具 / 文件 / 多模态)、上下文长度、支持的协议、所属分组与实时价格。

分组 ​

分组决定三件事:能不能用、多少钱、稳到什么程度。

分组定位价格稳定性适合
满血官方直连线路最高最稳,能力与官方一致线上产品、对一致性要求高的任务
稳定均衡线路中较好,高峰期可能略有排队内部工具、日常开发
特惠低价线路最低一般,高峰期更容易被限流批量任务、可重试的离线作业
越狱宽松线路低一般需要宽松内容策略的特定场景

可能遇到的情况 ​

除「满血」外,其余分组在高峰期或资源调整时可能出现:

  • 偶发 429(限流)或 5xx(服务波动),重试通常可以恢复
  • 首 token 变慢,长上下文请求更明显
  • 极少数官方专属能力不可用(例如某些批量接口、文件接口)
  • 之前建立的提示词缓存可能不再命中,下一次请求按「缓存写入」重新计费,见缓存与计费
  • 模型可用性可能随运营调整变化,以模型广场的实时状态为准

生产环境怎么选

面向用户的线上业务、涉及敏感数据、需要稳定 SLA 的,用满血;内部工具与开发调试可用稳定;特惠 / 越狱不建议承载生产流量。

按场景选分组 ​

场景建议分组理由
线上产品、客户可见满血能力与稳定性有保证
内部工具、日常开发稳定价格与稳定性折中
批量离线任务、可重试特惠成本最低,失败可重跑
特殊内容策略需求越狱仅用于明确需要时,风险自担

分组的三个影响 ​

  1. 能不能用:令牌不在某个分组里,就无法用该分组下的模型。
  2. 多少钱:最终价格 = 基准价 × 分组倍率(按 1M token 计)。
  3. 多快:每个分组有独立的 RPM / TPM / RPD,见速率限制。

切换分组 ​

分组是绑定在令牌上的,切换方式是换一个令牌,或在控制台编辑令牌的分组设置。请求头里不能临时指定分组。

内容以模型广场与后台实际配置为准。