限流

​

限流规则

• 账号级别限流：限流按主账号维度计算，账号下所有RAM子账号、业务空间和API Key 的调用量合并计算。
• 模型独立限流：不同模型限流额度相互独立，具体参见下方表格。

​

FAQ

​

为什么触发限流？

根据错误信息判断触发了哪类限流：

• Requests rate limit exceeded 或 You exceeded your current requests list：触发了每分钟请求数（RPM）限流。
• Allocated quota exceeded 或 You exceeded your current quota：触发了每分钟 Token 消耗（TPM）限流。
• Request rate increased too quickly：请求频率在短时间内激增，触发了系统稳定性保护——即使总调用量未达到 RPM 或 TPM 上限也会触发。
• 其他报错，参见错误码确认原因。

除 RPM 和 TPM 外，限流策略可能按秒级 RPS（RPM/60）与 TPS（TPM/60）执行。即使每分钟总调用量未超限，短时间内的请求爆发也可能触发限流。

​

如何查看模型调用量？

模型调用完一小时后，在模型监控（新加坡或北京）页面设置查询条件（例如，选择时间范围、业务空间等），再在模型列表区域找到目标模型并单击操作列的监控，即可查看该模型的调用统计结果。具体请参见模型监控文档。

数据按小时更新，高峰期可能有小时级延迟，请您耐心等待。

​

遇到限流后多久恢复？

通常在一分钟内恢复。如出现其他报错，参见错误码进行处理。

​

模型响应速度与付费有关吗？

模型输出速度与是否付费无关。免费额度和付费调用使用相同的模型服务基础设施，同一模型的生成速度相同。免费额度仅控制请求是否被接受——额度耗尽时返回 403 错误（开通免费额度用完即停后），不会降低已接受请求的生成速度。

​

什么因素影响模型响应速度？

• 模型类型：轻量模型（如 qwen-flash）比大型模型（如 qwen-max）生成更快。
• 输出长度：输出 Token 越多，总耗时越长。
• 服务器负载：高峰期可能略有波动。

​

限流会降低已接受请求的生成速度吗？

不会。限流（RPM/TPM）仅导致超出限制的请求被拒绝（返回 429 错误）。免费额度耗尽时（开通免费额度用完即停）返回 403 错误，同样不影响已接受请求的速度。429 为速率限制，403 为配额耗尽，两者均为拒绝机制。

​

如何避免限流？

1. 选用高限流模型：稳定版或最新版比带日期的快照版本限流更宽松。
2. 优化调用策略
   • 降低调用频率：收到 Requests rate limit exceeded 或 You exceeded your current requests list 时，降低API调用频率。
   • 减少 Token 消耗：收到 Allocated quota exceeded 或 You exceeded your current quota 时，缩短输入或限制输出长度。
   • 平滑请求速率：收到 Request rate increased too quickly 时，采用匀速调度、指数退避或请求队列将请求均匀分散，避免瞬时高峰。
3. 添加备选模型 触发限流后切换到备用模型继续生成，可降低失败概率、提升吞吐量。以下代码在调用 qwen-plus-2025-07-28 触发限流后，自动改用 qwen-plus-2025-07-14 重试。也可以选择不同系列的模型（如 qwen-flash）作为备选模型，进一步降低主备模型同时限流的风险。
   示例代码

   Copy

   import os
   import asyncio
   from openai import AsyncOpenAI, APIStatusError
   
   # 配置
   API_KEY = os.getenv("DASHSCOPE_API_KEY")
   # 主用模型
   MODEL = "qwen-plus-2025-07-28"
   # 备选模型
   BACKUP_MODEL = "qwen-plus-2025-07-14"
   # 测试问题
   QUESTION = "你是谁？"
   # 并发设置
   NUM_REQUESTS = 10
   
   client = AsyncOpenAI(
       api_key=API_KEY,
       # 调用时请将WorkspaceId替换为真实的业务空间ID
       base_url="https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1"
   )
   
   async def send_request(model):
       """发送单个请求"""
       try:
           await client.chat.completions.create(
               model=model,
               messages=[{"role": "user", "content": QUESTION}]
           )
           return True
       except APIStatusError as e:
           if e.status_code == 429:
               print(f"[限流触发] 模型 {model}")
               return False
           raise
       except Exception as e:
           print(f"[请求失败] 模型 {model}，错误：{e}")
           return False
   
   async def task(i):
       # 尝试主模型
       if await send_request(MODEL):
           return True
       # 限流时尝试备用模型
       return await send_request(BACKUP_MODEL)
   
   async def main():
       results = await asyncio.gather(*(task(i) for i in range(NUM_REQUESTS)))
       print(f"成功请求: {sum(results)}, 失败请求: {len(results) - sum(results)}")
   
   if __name__ == "__main__":
       asyncio.run(main())
   

4. 拆分任务：长对话或大型文档会快速消耗大量 Token。将大批量任务拆分为小批次，分时段提交。
5. 批量推理：无需实时响应时，使用批量推理（Batch API）。批量请求不受实时限流约束，但需考虑排队和处理时间。
6. 提升限流额度：默认限流额度不足时，在百炼控制台的限流提额页面提升模型的临时 TPM 额度，提交后立即生效。详见提升临时限流额度。

​

如何控制 Token 用量或费用支出？

限流仅约束单位时间内的调用速率，不限制累计用量。如需控制 Token 用量或费用支出，可通过以下方式管理：

• 设置消费限额与费用告警：在账单费用卡片设置费用告警，开启月度消费限额并配置阈值通知，达到阈值即提醒，避免超额支出。详见账单查询与成本管理。
• 开启免费额度用完即停：对支持免费额度的模型，可开启免费额度用完即停，免费额度耗尽后自动停止调用，避免产生额外费用。详见新人免费额度。
• 监控模型调用量：定期查看各模型的 Token 用量，及时发现异常增长，参见上文如何查看模型调用量？。

​

充值后是否还会被限流？

充值不改变模型默认的 RPM 和 TPM 限流阈值。限流按阿里云主账号维度配置，与计费相互独立；充值（按量付费）仅确保账号不因欠费停服，不会提升限流值。 如需更高的限流额度，请参见本文如何避免限流？，或在百炼控制台的限流提额页面申请提升临时限流额度。

​

提升临时限流额度

默认限流额度不足时，可在百炼控制台提升模型的临时 TPM 额度。 目前支持华北2（北京）和新加坡地域。

1. 登录百炼控制台，进入限流提额页面。
2. 单击页面右上角的提升模型临时限流额度。
3. 在弹窗中选择模型，填写期望的 Token 账号限流（Token/60 秒）值。弹窗中会显示当前额度和可设置上限。
4. 单击确定，提额立即生效。

提额生效后，可通过以下方式确认：

• 在限流提额页面的列表中，查看已提额的模型及对应限流数据。
• 在模型列表中进入对应模型的详情页，查看更新后的限流数据。

​

文本生成-千问

​

千问语言模型

​

千问VL（视觉理解/图生文）

​

千问Omni（全模态）

​

千问Omni-Realtime（实时多模态）

​

千问OCR（文字提取）

​

千问数学模型

​

千问Coder

​

千问翻译模型

​

千问数据挖掘模型

​

千问深入研究模型

​

文本生成-千问-开源版

​

千问语言模型开源版

​

Qwen-VL（视觉理解/图生文）

​

Qwen3-Omni

​

Qwen3-Omni-Captioner

​

Qwen-Coder

​

文本生成-第三方模型

​

DeepSeek

​

Kimi

​

MiniMax

​

GLM

​

GLM-Z.AI直供

​

图像生成

​

千问（Qwen-Image）

​

文生图-Z-Image

​

万相

​

AI试衣OutfitAnyone

​

视频生成

​

HappyHorse系列

​

万相系列

​

舞动人像AnimateAnyone

​

悦动人像EMO

​

灵动人像LivePortrait

​

声动人像VideoRetalk

​

表情包Emoji

​

视频风格重绘

​

音乐生成

​

语音对话

​

实时语音对话

​

语音合成（文本转语音）

​

Qwen-Audio-TTS

​

Qwen-TTS

​

Qwen-TTS-Realtime

​

Qwen-TTS声音复刻

​

Qwen-TTS声音设计

​

CosyVoice

​

Qwen-Audio-TTS/CosyVoice声音复刻/设计

Qwen-Audio-TTS/CosyVoice声音复刻/设计共用一个模型，共用限流额度。

​

语音识别（语音转文本）与翻译（语音转成指定语种的文本）

​

Qwen3-LiveTranslate-Flash

​

Qwen-LiveTranslate-Flash-Realtime

​

Qwen-Audio-3.0-ASR-Flash-Streaming

​

Qwen-Audio-3.0-ASR-Flash-Filetrans

​

Qwen-Audio-3.0-ASR-Flash

​

Qwen-ASR

​

Qwen-ASR-Realtime

​

Paraformer

​

Fun-ASR

​

Fun-ASR-Realtime

​

文本向量

​

多模态向量

​

排序模型

​

行业

​

意图理解

​

角色扮演

​

已下线模型

详细信息，请参见 模型下线机制说明 。