限流

​

限流規則

• 帳號層級限流：限流按主帳號維度計算，帳號下所有RAM子帳號、業務空間和API Key 的調用量合并計算。
• 模型獨立限流：不同模型限流額度相互獨立，具體參見下方表格。

​

請求體大小限制

透過API發送請求時，網關對請求體（Request Body）大小有以下限制：

​

FAQ

​

為什麼觸發限流？

根據錯誤資訊判斷觸發了哪類限流：

• Requests rate limit exceeded 或 You exceeded your current requests list：觸發了每分鐘請求數（RPM）限流。
• Allocated quota exceeded 或 You exceeded your current quota：觸發了每分鐘 Token 消耗（TPM）限流。
• Request rate increased too quickly：請求頻率在短時間內激增，觸發了系統穩定性保護——即使總調用量未達到 RPM 或 TPM 上限也會觸發。
• 其他報錯，參見錯誤碼確認原因。

除 RPM 和 TPM 外，限流策略可能按秒級 RPS（RPM/60）與 TPS（TPM/60）執行。即使每分鐘總調用量未超限，短時間內的請求爆發也可能觸發限流。

​

如何查看模型調用量？

模型調用完一小時後，在模型監控（新加坡或北京）版面設定查詢條件（例如，選擇時間範圍、業務空間等），再在模型列表地區找到目標模型並單擊操作列的监控，即可查看該模型的調用統計結果。具體請參見模型監控文檔。

資料按小時更新，高峰期可能有小時級延遲，請您耐心等待。

​

遇到限流後多久恢複？

通常在一分鐘內恢複。如出現其他報錯，參見錯誤碼進行處理。

​

模型響應速度與付費有關嗎？

模型輸出速度與是否付費無關。免費額度和付費調用使用相同的模型服務基礎設施，同一模型的產生速度相同。免費額度僅控制請求是否被接受——額度耗盡時返回 403 錯誤（開通免費額度用完即停後），不會降低已接受請求的產生速度。

​

什麼因素影響模型響應速度？

• 模型類型：輕量模型（如 qwen-flash）比大型模型（如 qwen-max）產生更快。
• 輸出長度：輸出 Token 越多，總耗時越長。
• 伺服器負載：高峰期可能略有波動。

​

限流會降低已接受請求的產生速度嗎？

不會。限流（RPM/TPM）僅導致超出限制的請求被拒絕（返回 429 錯誤）。免費額度耗盡時（開通免費額度用完即停）返回 403 錯誤，同樣不影響已接受請求的速度。429 為速率限制，403 為配額耗盡，兩者均為拒絕機制。

​

如何避免限流？

1. 選用高限流模型：穩定版或最新版比帶日期的快照版本限流更寬鬆。
2. 最佳化調用策略
   • 降低調用頻率：收到 Requests rate limit exceeded 或 You exceeded your current requests list 時，降低API調用頻率。
   • 減少 Token 消耗：收到 Allocated quota exceeded 或 You exceeded your current quota 時，縮短輸入或限制輸出長度。
   • 平滑請求速率：收到 Request rate increased too quickly 時，採用勻速調度、指數退避或請求隊列將請求均勻分散，避免瞬時高峰。
3. 添加備選模型 觸發限流後切換到備用模型繼續產生，可降低失敗機率、提升輸送量。以下代碼在調用 qwen-plus-2025-07-28 觸發限流後，自動改用 qwen-plus-2025-07-14 重試。也可以選擇不同系列的模型（如 qwen-flash）作為備選模型，進一步降低主備模型同時限流的風險。
   範例程式碼

   Copy

   import os
   import asyncio
   from openai import AsyncOpenAI, APIStatusError
   
   # 配置
   API_KEY = os.getenv("DASHSCOPE_API_KEY")
   # 主用模型
   MODEL = "qwen-plus-2025-07-28"
   # 備選模型
   BACKUP_MODEL = "qwen-plus-2025-07-14"
   # 測試問題
   QUESTION = "你是誰？"
   # 並發設定
   NUM_REQUESTS = 10
   
   client = AsyncOpenAI(
       api_key=API_KEY,
       # 調用時請將WorkspaceId替換為真實的業務空間ID
       base_url="https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1"
   )
   
   async def send_request(model):
       """發送單個請求"""
       try:
           await client.chat.completions.create(
               model=model,
               messages=[{"role": "user", "content": QUESTION}]
           )
           return True
       except APIStatusError as e:
           if e.status_code == 429:
               print(f"[限流觸發] 模型 {model}")
               return False
           raise
       except Exception as e:
           print(f"[請求失敗] 模型 {model}，錯誤：{e}")
           return False
   
   async def task(i):
       # 嘗試主模型
       if await send_request(MODEL):
           return True
       # 限流時嘗試備用模型
       return await send_request(BACKUP_MODEL)
   
   async def main():
       results = await asyncio.gather(*(task(i) for i in range(NUM_REQUESTS)))
       print(f"成功請求: {sum(results)}, 失敗請求: {len(results) - sum(results)}")
   
   if __name__ == "__main__":
       asyncio.run(main())
   

4. 分割任務：長對話或大型文檔會快速消耗大量 Token。將大批量任務拆分為小批次，分時段提交。
5. 批量推理：無需即時響應時，使用批量推理（Batch API）。批量請求不受即時限流約束，但需考慮排隊和處理時間。
6. 提升限流額度：預設限流額度不足時，在百鍊控制台的限流提額頁面提升模型的臨時 TPM 額度，提交後立即生效。詳見提升臨時限流額度。

​

如何控制 Token 用量或費用支出？

限流僅約束單位時間內的調用速率，不限制累計用量。如需控制 Token 用量或費用支出，可通過以下方式管理：

• 設定消費限額與費用警示：在賬單費用卡片設定費用警示，開啟月度消費限額並配置閾值通知，達到閾值即提醒，避免超額支出。詳見賬單查詢與成本管理。
• 開啟免費額度用完即停：對支援免費額度的模型，可開啟免費額度用完即停，免費額度耗盡後自動停止調用，避免產生額外費用。詳見新人免費額度。
• 監控模型調用量：定期查看各模型的 Token 用量，及時發現異常增長，參見上文如何查看模型調用量？。

​

儲值後是否還會被限流？

儲值不改變模型預設的 RPM 和 TPM 限流閾值。限流按阿里雲主帳號維度配置，與計費相互獨立；儲值（隨用隨付）僅確保帳號不因欠費停服，不會提升限流值。 如需更高的限流額度，請參見本文如何避免限流？，或在百鍊控制台的限流提額頁面申請提升臨時限流額度。

​

提升臨時限流額度

預設限流額度不足時，可在百鍊控制台提升模型的臨時 TPM 額度。提交後立即生效，有效期間 30 天，到期後自動回復為系統預設值。 目前支援華北2（北京）和新加坡地區。

1. 登入百鍊控制台，進入限流提額頁面。
2. 單擊頁面右上方的提升模型臨時限流額度。
3. 在彈窗中選擇模型，填寫期望的 Token 帳號限流（Token/60 秒）值。彈窗中會顯示當前額度和可設定上限。
4. 單擊確定，提額立即生效。

提額生效後，可通過以下方式確認：

• 在限流提額頁面的列表中，查看已提額的模型及對應限流資料。
• 在模型列表中進入對應模型的詳情頁，查看更新後的限流資料。

​

文本產生-千問

​

千問語言模型

​

千問VL（視覺理解/圖生文）

​

千問Omni（全模態）

​

千問Omni-Realtime（即時多模態）

​

千問OCR（文字提取）

​

千問數學模型

​

千問Coder

​

千問翻譯模型

​

千問資料採礦模型

​

千問深入研究模型

​

文本產生-千問-開源版

​

千問語言模型開源版

​

Qwen-VL（視覺理解/圖生文）

​

Qwen3-Omni

​

Qwen3-Omni-Captioner

​

Qwen-Coder

​

文本產生-第三方模型

​

DeepSeek

​

Kimi

​

MiniMax

​

GLM

​

GLM-Z.AI直供

​

映像產生

​

千問（Qwen-Image）

​

文生圖-Z-Image

​

萬相

​

AI試衣OutfitAnyone

​

視頻產生

​

HappyHorse系列

​

萬相系列

​

舞動人像AnimateAnyone

​

悅動人像EMO

​

靈動人像LivePortrait

​

聲動人像VideoRetalk

​

表情包Emoji

​

視頻風格重繪

​

音樂產生

​

語音對話

​

即時語音對話

​

語音合成（文本轉語音）

​

Qwen-Audio-TTS

​

Qwen-TTS

​

Qwen-TTS-Realtime

​

Qwen-TTS聲音複刻

​

Qwen-TTS聲音設計

​

CosyVoice

​

Qwen-Audio-TTS/CosyVoice聲音複刻/設計

Qwen-Audio-TTS/CosyVoice聲音複刻/設計共用一個模型，共用限流額度。

​

語音辨識（語音轉文本）與翻譯（語音轉成指定語種的文本）

​

Qwen3-LiveTranslate-Flash

​

Qwen-LiveTranslate-Flash-Realtime

​

Qwen-Audio-3.0-ASR-Flash-Streaming

​

Qwen-Audio-3.0-ASR-Flash-Filetrans

​

Qwen-Audio-3.0-ASR-Flash

​

Qwen-ASR

​

Qwen-ASR-Realtime

​

Paraformer

​

Fun-ASR

​

Fun-ASR-Realtime

​

文本向量

​

多模態向量

​

排序模型

​

行業

​

意圖理解

​

角色扮演

​

已下線模型

詳細資料，請參見 模型下線機制說明 。