Skip to main content

创建、接入与管理

本文按使用顺序介绍控制台创建吞吐预留(表单参数与费用确认)、API 接入调用、查看监控与日常管理(扩缩容、续订、退订、叠加容量包、溢出策略修改)。

开始之前

开始使用吞吐预留前,确认三样东西已就绪:
  • 百炼模型服务:已在百炼控制台开通。
  • 业务空间:已创建业务空间;调用预留容量时使用该空间的专属域名与 API Key。
  • API Key:在目标业务空间内创建,步骤见获取与配置 API Key。
本页覆盖使用吞吐预留的完整流程:
创建吞吐预留 → 接入调用 → 查看与监控 → 日常管理(叠加容量包/扩缩容/续订/退订)

创建吞吐预留

进入创建页面:登录百炼控制台,在左侧导航选择模型推理 > 吞吐预留,单击创建吞吐预留。 表单按控制台实际顺序逐项填写:
表单项可填什么什么时候可选
预留名称自定义名称,不超过 50 个字符始终显示
选择模型下拉选择要预留容量的模型始终显示;选定后付费周期选项随所选模型动态出现
推理模式标准模式 / 高速模式始终显示;两者区别见吞吐预留概述
付费周期按天 / 按 8 小时时段 / 按小时后付费按天:两种模式均可。按 8 小时时段:仅标准模式,且仅每日 22:00–次日 00:00 可下单。按小时后付费:仅高速模式,选定高速后出现
输入容量 / 输出容量单位 kTPM(1 kTPM = 每分钟 1,000 Tokens),输入起步 200、步长 10,输出起步 20、步长 1始终显示;买前用TPM 容量计算器估算,长输入与缓存折算规则见长输入与前缀缓存
购买时长1~30、60、90、120、365 天仅预付费/按天显示;按 8 小时时段固定 8 小时无需填写;后付费按实际使用计费无时长
到期自动续费开启 / 关闭,默认开启;开启后到期前 1 天的 8:20–20:00 间自动扣款,最多尝试 4 次仅预付费/按天显示;按 8 小时时段不支持自动续费
单次续费时长1~30、60、90、120、365 天开启到期自动续费后显示(仅按天)
溢出策略自动溢出(默认,超出部分自动转按量计费、业务不中断)/ 仅使用预留容量(超出部分直接返回 429 限流错误、不产生额外费用)始终显示
创建成功即全额扣费。容量费用按购买量一次性支付,与是否发起调用无关:即使从未调用,费用也全额产生、不按实际用量退减。确认理解后再提交购买。
填写过程中,页面右侧费用明细实时显示预估费用与计费说明。参数确认后单击立即购买,在弹窗中核对费用并单击确认支付。 创建完成后去哪里拿专属模型 code?返回吞吐预留列表页,展开对应模型卡片,在详情区概览页签找到专属模型 code,单击复制。后续所有调用都用它替换 model 参数。

接入调用

前提:预留实例状态为运行中。调用方式只有一条规则:把请求的 model 参数替换为专属模型 code,其余与普通模型调用一致。控制台详情区的API 接入页签只提供部分协议示例(OpenAI 兼容、DashScope);三种协议的完整调用方式如下。
  • OpenAI Chat 兼容
  • Anthropic 兼容
  • OpenAI Responses
适合已按 OpenAI Chat Completions 协议接入的业务。两种 endpoint 均可使用:DashScope 域名 https://dashscope-intl.aliyuncs.com/compatible-mode/v1,或业务空间专属域名 https://{workspaceId}.{region}.maas.aliyuncs.com/compatible-mode/v1({workspaceId}、{region} 替换为实际值,如 ap-southeast-1)。
  • cURL
  • Python
curl -X POST https://dashscope-intl.aliyuncs.com/compatible-mode/v1/chat/completions \
  -H "Authorization: Bearer $DASHSCOPE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "your-dedicated-model-code",
    "messages": [
      {
        "role": "user",
        "content": "你好"
      }
    ]
  }'
改用业务空间专属域名时,把上面示例的域名替换为 https://{workspaceId}.{region}.maas.aliyuncs.com/compatible-mode/v1 即可,其余参数不变。
确认调用是否命中预留容量:查看响应中的 service_tier 字段——返回 ptu_default(标准模式)或 ptu_fast(高速模式),说明命中预留容量;provisioned_tokens 为本次消耗的折算容量。字段含义见查看容量消耗与缓存命中。

查看与监控

在百炼控制台的吞吐预留页面查看容量、用量与运行状态。页面按使用动线分三层:
  • 预留列表:每个模型一张卡片,用于查找目标预留。
  • 卡片详情区:单击卡片查看更多展开,含概览、监控、API 接入三个页签——分别用于判断容量是否充足、排查调用问题、获取调用示例;概览页签底部为该模型下的容量实例列表,扩缩容、续订、退订的入口都在实例行的操作列。

预留列表

预留列表的模型卡片:容量趋势图与生效中的容量实例
卡片展示以下信息:
卡片信息含义
模式标签、状态该预留的推理模式与实例当前状态。
生效预留数生效中的容量实例数量;统计范围包含历史已过期、已停止、已释放的预留,不等于当前可用数量。
已预留输入/输出 TPM该模型名下全部实例的容量合计。
列表可按基础模型、时间、状态、性能筛选。卡片上的购买容量与叠加容量包入口作用相同,均为当前专属模型 code 追加容量实例。

卡片详情区

详情区包含三个页签:
  • 概览
  • 监控
  • API 接入
概览页签:部署配置、统计卡、使用率趋势、超额降级统计
从三处判断容量是否充足:
检查项位置判断标准
利用率统计卡(平均利用率)与使用率趋势曲线利用率持续接近 100% 说明容量不足。
峰值统计卡7 日内峰值(近 7 日容量使用峰值)峰值接近或超过购买容量说明高峰时段不足。
超额降级超额降级统计(最近降级时间与次数,仅自动溢出策略下产生)频繁降级说明超出频繁,建议扩容(见管理操作)。
使用率趋势提供三种统计方式:
统计方式说明
以购买容量观测以购买容量为基准计算利用率。
以折算容量观测以按折算系数折算后的容量为基准(长输入与缓存折算方式)。
包含溢出用量用量中额外计入溢出到按量计费的部分。
部署配置卡片展示预留名称、专属模型 code、基础模型与输入/输出容量,溢出策略旁提供修改入口(见管理操作)。

容量实例列表

容量实例列表:容量实例 ID、输入/输出 TPM、状态、付费周期、生效/到期时间、自动续费与操作列
容量实例列表位于概览页签底部,标题为「该模型下的容量实例列表」。每个容量实例对应一次容量购买,逐行管理:
列说明
容量实例 ID实例唯一标识,调用管理 OpenAPI 时用于指定实例。
输入/输出 TPM实例的输入/输出容量。
状态含义见实例状态。
付费周期预付费/按天、预付费/按 8 小时时段、后付费/按小时。
生效/到期时间生效与到期时点,到期前显示剩余天数。
自动续费开/关,切换即生效(仅预付费/按天)。
操作列提供扩缩容、续订、退订入口(按实例状态显示);叠加容量包按钮位于列表标题旁,与卡片上的入口等价。

管理操作

各付费方式可执行的操作与约束:
付费方式扩缩容续订退订 / 删除关键约束
预付费/按天支持支持(含自动续费)走费用中心退订退订不可恢复、按惩罚系数结算退费;API 无法直接释放预付费实例(须费用中心办理)
后付费/按小时支持不适用(无到期概念)删除实例即停止计费归零后的实例可直接删除;删除 Model Code 前须先释放全部实例
按 8 小时时段不支持不支持不支持时段到期后容量自动失效;不支持自动续费
叠加容量包可追加到预付费或后付费的预留上;一个专属模型 code 下最多存在一个未删除的后付费实例。溢出策略在概览页签修改。
操作解决的问题入口适用实例费用与规则
叠加容量包追加一个新容量实例卡片叠加容量包/购买容量,或容量实例列表标题旁按天、按小时后付费实例叠加容量包计费
扩缩容在原实例上调大/调小容量(含归零)容量实例列表操作列按天、按小时后付费实例扩容、缩容
续订 / 自动续费延长有效期、避免到期中断容量实例列表操作列 / 自动续费列开关按天实例计费规则
退订彻底停止并释放实例容量实例列表操作列(跳转费用中心办理)按天实例退订
修改溢出策略决定超出部分转按量还是返回 429概览页签溢出策略旁修改全部实例溢出策略与计费
以上各项操作均提供对应的 OpenAPI 接口,调用方式见吞吐预留 API 参考。

叠加容量包

叠加容量包弹窗:确认专属模型 code 后选择付费周期与容量
单击卡片叠加容量包(或购买容量),按以下顺序完成:
确认专属模型 code → 选择付费周期 → 填写购买时长与自动续费(仅按天)→ 填写输入/输出容量 → 核对费用并支付
叠加容量包的可选付费周期:
付费周期适用条件
预付费/按天预付费或后付费的预留均可
预付费/按 8 小时时段仅标准模式基础,且仅部分模型支持,支持列表见8 小时时段预留计费
后付费实例不能通过叠加容量包创建:一个专属模型 code 下最多存在一个未删除的后付费实例。后付费/按小时仅在新建吞吐预留时可选(仅高速模式)。 其余参数(购买时长、自动续费、输入/输出容量)的取值与新建一致:输入起步/步长 200/10 kTPM,输出 20/1 kTPM。 购买成功后,该预留的总容量相应增加;专属模型 code 不变,API 调用无需任何改动。 与在原实例上扩容的差异:
方式改动对象计费
叠加容量包新增独立实例,与原实例并存独立购买,可自选付费周期与时长(如按 8 小时时段)
扩缩容调整原实例的输入/输出 TPM新增部分按剩余有效期计费

扩缩容、续订与退订

三个操作都在容量实例列表的操作列:
  • 扩缩容
  • 续订
  • 退订
扩缩容弹窗:原配置与新配置对照、需补交金额与费用明细
单击扩缩容。弹窗以原配置 / 新配置对照展示输入、输出 TPM(滑条调整,未做改动时提示配置未发生变化);调整后实时显示需补交金额与费用明细,并展示已使用小时数 / 剩余小时数——二者是扩容与缩容结算的计费基准。
输入与输出 TPM 均可调整为 0(归零):归零后停止产生容量费用,专属模型 code 保留,可通过扩容恢复调用。缩容与归零按减配结算退费,惩罚系数为已使用 ≤30 天 1.2、>30 天 1.0,详见缩容。惩罚系数仅预付费实例适用;后付费实例删除即停止计费,不产生退款。

修改溢出策略

溢出策略创建后可以修改:在概览页签的溢出策略处单击修改。超出部分转为按量计费还是返回 429 由溢出策略决定,两种策略的行为差异与计费影响见溢出策略与计费。

实例状态

实例的五种状态及含义:
状态含义与去向
运行中正常服务,专属模型 code 可调用。
待生效已创建,等待生效。
变配中正在执行扩缩容。
已停止三种成因:到期、欠费、容量归零。到期与欠费停止的实例续费后恢复;归零的实例在扩缩容弹窗重新扩容后即恢复。
已释放资源已回收,不可恢复。
预付费实例到期的处理节奏:到期后立即停机(不可调用,仍可续费),停机 2 小时后释放。

常见问题

按三步排查:
  1. 先看溢出策略:若为仅使用预留容量,超出预留容量必然返回 429;可在概览页签把溢出策略改为自动溢出。
  2. 在概览页签查看超额降级统计,确认超出发生的频率。
  3. 频繁超出说明容量不足:通过扩缩容上调容量,或购买叠加容量包。
在监控页签按失败类型分流:4xx 多为请求自身问题(参数、鉴权);5xx 为服务端错误,可重试;限流类错误按上一条的方向排查容量;内容安全类错误请检查输入内容。
到期后立即停机(不可调用,仍可续费),停机 2 小时后释放、不可恢复。建议保持到期自动续费开启,规则见到期与生命周期。
在概览页签看两个信号:使用率曲线持续贴近 100%,或超额降级统计的次数频繁增加。任一信号持续出现,即建议扩容输入/输出容量。