Skip to main content

DTU 獨佔算力部署

獨佔算力部署提供獨佔吞吐（DTU）與模型單元（MU）兩種方案，以獨佔 GPU 資源為指定模型提供效能和吞吐保障。DTU 面向新發布模型（按輸入/輸出 TPM×時長計費），MU 用於已有模型（按模型單元數量×時長計費）。本文介紹兩種方案的功能、計費方式、使用流程與支援模型。

概述

獨佔算力部署為指定模型提供獨佔 GPU 資源與效能保障，支援基礎模型與自訂模型部署。百煉提供兩種獨佔算力方案：
  • DTU（Dedicated Throughput Unit，獨佔吞吐）：按 Input/Output TPM 販售，提供更直接的吞吐保障。全託管推理服務，底層獨佔 GPU 資源由平台運維。
  • 模型單元（MU，Model Unit）：按使用時長與模型單元數量配置算力，資源獨佔。支援自訂效能指標、PD 分離計算模式。計費粒度為模型單元數量×時長。
DTU 與 MU 按模型適用區分：新發布模型採用 DTU（按輸入/輸出 TPM 計量），已有模型沿用 MU（按模型單元數量計量）。兩者均提供獨佔算力、資源隔離與微調模型部署能力。新購部署時若模型支援 DTU 則優先選擇 DTU。 兩種方案共有的能力：
  • 獨佔 GPU 資源，推理環境與其他使用者實體隔離。
  • 支援基礎模型和自訂模型（百煉微調模型或使用者上傳模型）部署。
  • 平台負責底層運維，無需管理 GPU。
  • 不主動設 RPM/TPM 上限，流量受實際承載力限制。
通用模型部署流程詳見專屬部署概述與預置吞吐。

方案選型

百煉為推理呼叫提供多種容量與計費方案。DTU 適用於需要獨佔部署、微調模型部署、低延遲高併發或資料隔離的場景。各方案的對比如下表所示。 Token 按量、PTU 等全部計費方式的完整對比詳見模型部署主表。

比較維度

DTU

PTU

Token 按量

PAI/靈駿

特點

獨佔算力 + 微調模型

吞吐量保障 + 低延遲

彈性靈活、零門檻

自訂執行環境

資源隔離

實體隔離

邏輯隔離

共享公池

實體隔離

微調模型

全參 + LoRA

不支援

LoRA

支援

自訂框架

不支援

不支援

不支援

支援

計費模式

TPM 額度 × 時長

TPM 額度 × 時長

Token 用量

GPU × 時長

計費規則

  • DTU 計費
  • MU 計費
DTU 按輸入 TPM 和輸出 TPM 分別計費，採用預付費（按月）模式。各模型有固定的輸入/輸出基準 TPM（見下表），購買時需為基準 TPM 的整數倍。輸入和輸出各至少購買基準 TPM（1 倍），生產環境建議各購買 2 倍以上。費用由後端根據模型、輸入/輸出 TPM、服務區域和購買時長計算。各模型的輸入/輸出單價與月總價如下表所示，輸入/輸出單價按 kTPM·月計價，月總價為輸入輸出各 1 倍基準 TPM 的合計，微調模型的價格與對應基礎模型相同，具體以控制台實際展示為準。

支援模型與價格

  • DTU 價格表與效能基準
  • MU 價格表
  • 新加坡

模型

基準輸入（TPM）

基準輸出（TPM）

輸入單價（USD/kTPM·月）

輸出單價（USD/kTPM·月）

月總價（USD）

qwen3.7-plus-2026-05-26

1,192,000

148,000

37

295

87,764

1,372,000

170,000

32

257

87,594

660,000

124,000

66

352

87,208

704,000

132,000

62

331

87,340

各模型在標準工況下的效能參考資料如下表所示，以控制台實際展示為準。
以下效能參考資料均在快取命中率為 0% 的條件下測得。實際使用中，隨著快取命中率提升，模型效能也會相應提高。

模型

輸入長度

輸出長度

快取命中率

首字延遲(ms)

每token延遲(ms)

qwen3.7-plus-2026-05-26

16,000

2,000

0

888

10

16,000

2,000

0

2,418

15

2,600

500

0

819

14

2,600

500

0

970

13

其中 qwen3.8-27b 當前需白名單開通，其餘模型為新加坡正式站點。

部署建立

  • DTU 建立部署
  • MU 部署配置
使用 DTU 前需在控制台開通 DTU 功能並申請資源額度。開通後在百煉控制台专属部署頁面選擇目標模型，計費方式選擇 DTU 即可建立部署。
DTU 部署暫不支援透過 API 建立與管理，請在百煉控制台完成開通、建立、擴縮容與續費等操作。
通用模型部署的基礎流程詳見专属部署概述。建立部署的表單欄位如下表所示。

參數

說明

是否必填

取值說明

服务名称

部署服務的名稱

是

自訂

模型

部署的目標模型

是

下拉式選單選擇

部署模版

部署架構

否

下拉式選單選擇，預設選第一個

付费类型

計費方式

是

預付費（按月）

输入吞吐额度

購買的輸入 TPM 容量

是

基準輸入 TPM 的整數倍（kTPM）

输出吞吐额度

購買的輸出 TPM 容量

是

基準輸出 TPM 的整數倍（kTPM）

购买时长

購買週期

是

1-12（整數，月）

自动续费

到期自動續約

否

開/關

单次续费时长

開啟自動續約時必填

是

1-12（整數，月）

容量規劃

DTU 按輸入/輸出 TPM 販售，所購 TPM 即每分鐘可處理的最大 token 量。容量規劃的目標是：依據業務峰值 token 需求推算需購買的倍數，再透過壓測驗證實際可承載的併發與延遲是否達標。各模型的基準輸入/輸出 TPM 與標準工況效能參考見上方表格。 建議使用 evalscope 等壓測工具，按真實業務場景（輸入/輸出長度、併發數、延遲要求）壓測，再對照定價表確定購買倍數。

容量規劃方法

  1. 梳理業務峰值指標：典型請求的輸入/輸出 token 長度、目標併發數，以及對首字延遲（TTFT）和每 token 生成延遲（TPOT）的要求。
  2. 估算峰值吞吐需求：峰值輸入 TPM ≈ 併發數 × 單請求輸入長度 ÷ 單請求處理時長（分鐘）；峰值輸出 TPM ≈ 併發數 × 單請求輸出長度 ÷ 單請求生成時長（分鐘）。
  3. 計算購買倍數：輸入倍數 = ⌈峰值輸入 TPM ÷ 基準輸入 TPM⌉，輸出倍數 = ⌈峰值輸出 TPM ÷ 基準輸出 TPM⌉；DTU 輸入與輸出需同增同減，取兩者較大值作為最終倍數。
  4. 壓測驗證：按計算倍數購買後，用 evalscope 在目標工況下複測，確認實際吞吐與延遲滿足業務要求。若延遲偏高，可在 TPM 餘量內提高併發以提升有效吞吐。
如對延遲要求不嚴格，可在不超過所購 TPM 上限的前提下，透過提高併發數提升實際吞吐量。 業務測算範例： 某模型基準輸入 656K TPM、基準輸出 82K TPM。經業務峰值梳理，峰值輸入約 1,300K TPM、峰值輸出約 160K TPM。計算倍數：輸入 ⌈1300÷656⌉=2、輸出 ⌈160÷82⌉=2，取較大值 2 倍，購買輸入 1,312K TPM（656K×2）+ 輸出 164K TPM（82K×2）；隨後用 evalscope 在峰值工況壓測，確認延遲達標。若業務量翻倍，峰值輸入約 2,600K、輸出約 320K，則輸入 ⌈2600÷656⌉=4、輸出 ⌈320÷82⌉=4，需購買 4 倍：輸入 2,624K TPM（656K×4）+ 輸出 328K TPM（82K×4），並複測。 計算公式： 
购买倍数 = max(⌈峰值输入 TPM ÷ 基准输入 TPM⌉, ⌈峰值输出 TPM ÷ 基准输出 TPM⌉)

擴縮容與續費退訂

  • DTU 擴縮容與續費退訂
  • MU 擴縮容與續費
部署列表展示已購買的輸入/輸出 TPM 額度，詳情頁展示 TPM 容量詳情。擴縮容：在部署列表中點擊「扩缩容」修改輸入/輸出 TPM 容量。擴容顯示需補交金額，縮容顯示預計退款金額。輸入和輸出需同增或同減，不能一增一減。僅執行中的部署可操作。續費：預付費包月到期可續費，詳情頁續費按鈕進入續費流程，支援自動續費開關與單次續費時長。退訂：預付費包月支援提前退訂，已使用部分按 1.2 倍係數結算退費，詳見降配退款規則說明。退訂不可恢復，退訂後獨佔資源釋放、服務停止。

常見問題

DTU 部署和 Token 按量計費有什麼區別？ Token 按量計費在共享資源池上按 token 用量計費；DTU 為獨佔 GPU 資源，按輸入/輸出 TPM 計費，適合需要穩定吞吐和獨佔部署的場景。 DTU 部署支援哪些計費方式？ 僅支援預付費（按月）計費。 如何檢視已購 TPM 的使用情況？ 在百煉控制台专属部署的部署列表和詳情頁可檢視已購的輸入/輸出 TPM 額度，詳見专属部署概述。