Skip to main content

CosyVoice Java SDK

通過DashScope Java SDK進行CosyVoice語音合成。

介面地址

SDK的介面地址需在初始化前設定為下方地址(包含WorkspaceId)。如需切換到其他地區,請修改 Constants.baseWebsocketApiUrl為對應地區的URL。
  • 新加坡
  • 華北2(北京)
wss://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/api-ws/v1/inference調用時請將{WorkspaceId}替換為真實的Workspace ID。
阿里雲百鍊為華北2(北京)、新加坡地區推出了業務空間專屬網域名稱,能夠為推理請求提供卓越的效能和更高的穩定性,建議遷移至新網域名稱:
  • 華北2(北京)地區:從 dashscope.aliyuncs.com 遷移至 {WorkspaceId}.cn-beijing.maas.aliyuncs.com
  • 新加坡地區:從 dashscope-intl.aliyuncs.com 遷移至 {WorkspaceId}.ap-southeast-1.maas.aliyuncs.com

SpeechSynthesizer

包路徑:com.alibaba.dashscope.audio.ttsv2.SpeechSynthesizer

構造方法

public SpeechSynthesizer(SpeechSynthesisParam param, ResultCallback<SpeechSynthesisResult> callback)
參數說明:
  • param:語音合成參數,通過SpeechSynthesisParam .builder()構建
  • callback:回呼函數,用於流式調用。非流式調用時傳入null

call() - 非流式/單向流式合成

方法簽名:
public ByteBuffer call(String text)
參數說明:
參數類型必填說明
textString是待合成的文本,長度不得超過20000字元。
傳回值:ByteBuffer 或 null。非流式調用時返回完整音頻資料;單向流式調用時音頻通過回調返回,此方法返回null。

streamingCall() - 雙向流式合成

方法簽名:
public void streamingCall(String text)
參數說明:
參數類型必填說明
textString是待合成的文本,長度不得超過20000字元。可多次調用追加文本。

streamingComplete() - 結束雙向流式調用

方法簽名:
public void streamingComplete()
結束雙向流式調用,通知服務端所有文本已發送完畢。

streamingCancel() - 取消雙向流式調用

方法簽名:
public void streamingCancel()
說明:取消當前輪次的雙向流式語音合成任務。調用後,SDK 會立即結束當前任務。取消後可在當前串連上繼續發起新的合成任務,無需重新初始化 SpeechSynthesizer 執行個體。
版本要求:使用該功能需要 Java SDK 版本不低於 2.22.26。
模型限制:
  • 華北2(北京)地區:CosyVoice 系列模型僅 v2 及以上版本支援該功能。
  • 新加坡地區:CosyVoice 系列模型不支援該功能。

callAsFlowable() - 單向流式合成(響應式)

方法簽名:
public Flowable<SpeechSynthesisResult> callAsFlowable(String text)
參數說明:
參數類型必填說明
textString是待合成的文本。
傳回值:Flowable< SpeechSynthesisResult > 響應式流。

streamingCallAsFlowable() - 雙向流式合成(響應式)

方法簽名:
public Flowable<SpeechSynthesisResult> streamingCallAsFlowable(Flowable<String> textStream)
參數說明:
參數類型必填說明
textStreamFlowable<String>是文本的響應式流。
傳回值:Flowable< SpeechSynthesisResult > 響應式流。

getDuplexApi().close() - 關閉WebSocket串連

方法簽名:
public boolean getDuplexApi().close(int code, String reason)
參數說明:
參數類型必填說明
codeint是關閉碼。
reasonString是關閉原因。
傳回值:boolean,是否成功關閉。

getLastRequestId() - 擷取請求ID

方法簽名:
public String getLastRequestId()
傳回值:String,請求ID。

getFirstPackageDelay() - 擷取首包延遲

方法簽名:
public long getFirstPackageDelay()
傳回值:long,首包延遲(ms),從發送第一包到收到首包結果。

SpeechSynthesisParam

包路徑:com.alibaba.dashscope.audio.ttsv2.SpeechSynthesisParam 樣本:
SpeechSynthesisParam param = SpeechSynthesisParam.builder()
    .model("cosyvoice-v3-plus") // 模型
    .voice("longanyang") // 音色
    .format(SpeechSynthesisAudioFormat.WAV_8000HZ_MONO_16BIT) // 音頻編碼格式、採樣率
    .volume(50) // 音量,取值範圍:[0, 100]
    .speechRate(1.0f) // 語速,取值範圍:[0.5, 2]
    .pitchRate(1.0f) // 語調,取值範圍:[0.5, 2]
    .build();

Builder 方法

方法參數類型必填說明
model(String)String是模型名稱。
voice(String)String是語音合成所使用的音色。
  • 系統音色:參見CosyVoice音色列表
  • 複刻音色:通過聲音複刻功能定製
  • 聲音設計音色:通過聲音設計功能定製
format(SpeechSynthesisAudioFormat)enum否音頻編碼格式及採樣率。預設值:SpeechSynthesisAudioFormat.MP3_22050HZ_MONO_256KBPS。SpeechSynthesisAudioFormat包路徑:com.alibaba.dashscope.audio.ttsv2.SpeechSynthesisAudioFormat。
volume(int)int否音量。預設值:50。取值範圍:[0, 100]。
speechRate(float)float否語速。預設值:1.0。取值範圍:[0.5, 2.0]。
pitchRate(float)float否音調。預設值:1.0。取值範圍:[0.5, 2.0]。
enableWordTimestamp(boolean)boolean否是否開啟字層級時間戳記。預設值:false。僅在流式輸出模式下可用。支援的音色範圍:cosyvoice-v3.5-plus、cosyvoice-v3.5-flash、cosyvoice-v3-flash、cosyvoice-v3-plus、cosyvoice-v2模型的複刻音色,以及CosyVoice音色列表中標記為支援的系統音色。其他模型的複刻音色不支援此功能。
seed(int)int否產生時使用的隨機數種子,使合成的效果產生變化。在模型版本、文本、音色及其他參數均相同的前提下,使用相同的seed可複現相同的合成結果。預設值0。取值範圍:[0, 65535]。SDK版本低於2.21.7時,seed需要通過擴充參數進行設定。
languageHints(List<String>)List<String>否
  • 此參數為數組,但目前的版本僅處理第一個元素,因此建議只傳入一個值。
  • 此參數用於指定語音合成的目標語言,該設定與聲音複刻時的樣本音訊語種無關。如需設定複刻任務的源語言,請參見聲音複刻API參考。
指定語音合成的目標語言,提升合成效果。當數字、縮寫、符號等朗讀方式或者小語種合成效果不符合預期時使用,例如:
  • 數字朗讀方式不符合預期,“hello, this is 110”讀成“hello, this is one one zero”而非“hello, this is 么么零”
  • 符號朗讀不準確,“@”讀成“艾特”而非“at”
  • 小語種合成效果差,合成不自然
  • zh:中文
  • en:英語
  • fr:法語
  • de:德語
  • ja:日語
  • ko:韓語
  • ru:俄語
  • pt:葡萄牙語
  • th:泰語
  • id:印尼語
  • vi:越南語
  • es:西班牙語
  • it:意大利語
  • ms:馬來西亞語
  • fil:菲律賓語
  • ar:阿拉伯語
instruction(String)String否設定指令,用於控制方言、情感或角色等合成效果。使用說明請參見指令控制。
hotFix(ParamHotFix)ParamHotFix否文本熱修複配置,用於自訂指定詞語的發音或對待合成文本進行替換。
cosyvoice-v2不支援該功能。
參數介紹:
  • pronunciation:自訂發音。指定詞語的拼音標註,用於糾正預設發音不準確的情況。
  • replace:文本替換。在語音合成前將指定詞語替換為目標文本,替換後的文本將作為實際合成內容。
樣本:
List<ParamHotFix.PronunciationItem> pronunciationItems = new ArrayList<>();
pronunciationItems.add(new ParamHotFix.PronunciationItem("天氣", "tian1 qi4"));

List<ParamHotFix.ReplaceItem> replaceItems = new ArrayList<>();
replaceItems.add(new ParamHotFix.ReplaceItem("今天", "金天"));

ParamHotFix paramHotFix = new ParamHotFix();
paramHotFix.setPronunciation(pronunciationItems);
paramHotFix.setReplace(replaceItems);

SpeechSynthesisParam param = SpeechSynthesisParam.builder()
                        .model("cosyvoice-v3-plus") // 模型
                        .voice("longanyang") // 音色
                        .hotFix(paramHotFix)
                        .build();
parameter(String key, Object value)String, Object否設定擴充參數。
parameters(Map<String, Object>)Map否設定擴充參數。

擴充參數

通過 parameter() 或 parameters() 設定。 樣本:
SpeechSynthesisParam param = SpeechSynthesisParam.builder()
  .model("cosyvoice-v3-plus")
  .voice("longanyang")
  .parameter("bit_rate", 32)
  .build();
參數名類型必填說明
bit_rateinteger否音頻碼率(kbps)。音頻格式為mp3或opus時,支援通過bit_rate參數調整碼率。預設值:32。取值範圍:[6, 510]。
enable_aigc_tagboolean否是否在產生的音頻中添加AIGC隱性標識。設定為true時,會將隱性標識嵌入到支援格式(wav/mp3/opus)的音頻中。預設值:false。
僅cosyvoice-v3-flash、cosyvoice-v3-plus、cosyvoice-v2支援該功能。
aigc_propagatorString否設定AIGC隱性標識中的 ContentPropagator 欄位,用於標識內容的傳播者。僅在 enable_aigc_tag 為 true 時生效。預設值:阿里雲UID。
僅cosyvoice-v3-flash、cosyvoice-v3-plus、cosyvoice-v2支援該功能。
aigc_propagate_idString否設定AIGC隱性標識中的 PropagateID 欄位,用於唯一標識一次具體的傳播行為。僅在 enable_aigc_tag 為 true 時生效。預設值:本次語音合成請求Request ID。
僅cosyvoice-v3-flash、cosyvoice-v3-plus、cosyvoice-v2支援該功能。
enable_markdown_filterboolean否
僅cosyvoice-v3-flash複刻音色支援該功能。
是否啟用 Markdown 過濾。啟用該功能後,系統在合成語音前自動過濾輸入文本中的 Markdown 標記符號,避免將其朗讀為文字內容。預設值:false。取值範圍:
  • true:啟用Markdown過濾
  • false:禁用Markdown過濾

ResultCallback

包路徑:com.alibaba.dashscope.common.ResultCallback

onEvent() - 接收音頻資料

方法簽名:
public void onEvent(SpeechSynthesisResult result)
參數說明:
參數類型必填說明
resultSpeechSynthesisResult是接收到合成事件時觸發,包含音訊框架、時間戳記資訊和輸出資訊(事件類型、原始文本等)。

onComplete() - 合成完成

方法簽名:
public void onComplete()
語音合成完成時觸發。

onError() - 錯誤處理

方法簽名:
public void onError(Exception e)
參數說明:
參數類型必填說明
eException是發生錯誤時觸發,包含異常資訊。

SpeechSynthesisResult

包路徑:com.alibaba.dashscope.audio.tts.SpeechSynthesisResult

getAudioFrame() - 擷取音頻資料幀

方法簽名:
public ByteBuffer getAudioFrame()
傳回值:ByteBuffer,音頻資料幀。

getTimestamp() - 擷取時間戳記資訊

方法簽名:
public Sentence getTimestamp()
傳回值:Sentence,時間戳記資訊。

getOutput() - 擷取輸出資訊

方法簽名:
public JsonObject getOutput()
傳回值:com.google.gson.JsonObject,合成事件的輸出資訊,包含事件類型和常值內容。需要SDK版本 >= 2.22.0。

句子層級時間戳記資訊(Sentence)

Sentence封裝了句子層級時間戳記資訊。

getBeginTime() - 擷取句子開始時間

方法簽名:
public int getBeginTime()
傳回值:句子開始時間,單位為ms。

getEndTime() - 擷取句子結束時間

方法簽名:
public int getEndTime()
傳回值:句子結束時間,單位為ms。

getWords() - 擷取字層級時間戳記

方法簽名:
public List<Word> getWords()
傳回值:Word的List集合,批量擷取字層級時間戳記資訊,可能為空白。

字層級時間戳記資訊(Word)

Word封裝了字層級時間戳記資訊。

getBeginTime() - 擷取詞開始時間

方法簽名:
public int getBeginTime()
傳回值:詞開始時間,單位為ms。

getEndTime() - 擷取詞結束時間

方法簽名:
public int getEndTime()
傳回值:詞結束時間,單位為ms。

getText() - 擷取文本資訊

方法簽名:
public String getText()
傳回值:String,文本資訊。

getPhonemes() - 擷取音素層級時間戳記

方法簽名:
public List<Phoneme> getPhonemes()
傳回值:Phoneme的List集合,批量擷取音素層級時間戳記資訊,可能為空白。

音素層級時間戳記資訊(Phoneme)

Phoneme封裝了音素層級時間戳記資訊。

getBeginTime() - 擷取音素開始時間

方法簽名:
public int getBeginTime()
傳回值:音素開始時間,單位為ms。

getEndTime() - 擷取音素結束時間

方法簽名:
public int getEndTime()
傳回值:音素結束時間,單位為ms。

getText() - 擷取文本資訊

方法簽名:
public String getText()
傳回值:String,文本資訊。

getTone() - 擷取音調

方法簽名:
public int getTone()
傳回值:音調。
  • 英文中,0、1、2分別代表輕音、重音和次重音。
  • 拼音中,1、2、3、4、5分別代表一聲、二聲、三聲、四聲和輕聲。

輸出資訊(output)

getOutput()返回JsonObject,封裝了合成事件的輸出資訊。在onEvent回調或Flowable流中擷取。包含以下欄位:
欄位類型說明
typeString事件類型。取值:sentence-begin(句子開始,返回待合成的常值內容)、sentence-synthesis(標識音頻資料區塊,表示當前正在合成音頻)、sentence-end(句子結束,返迴文本內容和字層級時間戳記)。
original_textString當前句子的原始常值內容。在sentence-begin和sentence-end事件中返回。
sentenceJsonObject句子資訊,包含句子編號(index)和字層級時間戳記(words)。在sentence-end事件中包含完整的字層級時間戳記資訊。

範例程式碼

SDK提供了語音合成的關鍵介面,支援以下幾種調用方式:
  • 非流式調用:阻塞式,一次性發送完整文本,直接返回完整音頻。適合短文本語音合成情境。
  • 單向流式調用:非阻塞式,一次性發送完整文本,通過回呼函數接收音頻資料(可能分區)。適用於對即時性要求高的短文本語音合成情境。
  • 雙向流式調用:非阻塞式,可分多次發送文本片段,通過回呼函數即時接收增量合成的音頻流。適合即時性要求高的長文本語音合成情境。
  • 非流式調用
  • 單向流式調用
  • 雙向流式調用
發送的文本長度不得超過20000字元。
每次調用call方法前,需要重新初始化SpeechSynthesizer執行個體。
import com.alibaba.dashscope.audio.ttsv2.SpeechSynthesisParam;
import com.alibaba.dashscope.audio.ttsv2.SpeechSynthesizer;
import com.alibaba.dashscope.utils.Constants;

import java.io.File;
import java.io.FileOutputStream;
import java.io.IOException;
import java.nio.ByteBuffer;

public class Main {
    // 模型
    private static String model = "cosyvoice-v3-plus";
    // 音色
    private static String voice = "longanyang";

    public static void streamAudioDataToSpeaker() {
        // 請求參數
        SpeechSynthesisParam param =
                SpeechSynthesisParam.builder()
                        // 新加坡地區和北京地區的API Key不同。擷取API Key:https://www.alibabacloud.com/help/zh/model-studio/get-api-key
                        // 若沒有配置環境變數,請用百鍊API Key將下行替換為:.apiKey("sk-xxx")
                        .apiKey(System.getenv("DASHSCOPE_API_KEY"))
                        .model(model) // 模型
                        .voice(voice) // 音色
                        .build();

        // 同步模式:禁用回調(第二個參數為null)
        SpeechSynthesizer synthesizer = new SpeechSynthesizer(param, null);
        ByteBuffer audio = null;
        try {
            // 阻塞直至音頻返回
            audio = synthesizer.call("今天天氣怎麼樣?");
        } catch (Exception e) {
            throw new RuntimeException(e);
        } finally {
            // 任務結束關閉websocket串連
            synthesizer.getDuplexApi().close(1000, "bye");
        }
        if (audio != null) {
            // 將音頻資料儲存到本地檔案"output.mp3"中
            File file = new File("output.mp3");
            // 首次發送文本時需建立 WebSocket 串連,因此首包延遲會包含串連建立的耗時
            System.out.println(
                    "[Metric] requestId為:"
                            + synthesizer.getLastRequestId()
                            + "首包延遲(毫秒)為:"
                            + synthesizer.getFirstPackageDelay());
            try (FileOutputStream fos = new FileOutputStream(file)) {
                fos.write(audio.array());
            } catch (IOException e) {
                throw new RuntimeException(e);
            }
        }
    }

    public static void main(String[] args) {
        // 以下為新加坡地區的配置,調用時請將"{WorkspaceId}"替換為真實的業務空間ID,各地區的配置不同。
        Constants.baseWebsocketApiUrl = "wss://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/api-ws/v1/inference";
        streamAudioDataToSpeaker();
        System.exit(0);
    }
}

通過Flowable調用

Flowable是一個用於工作流程和商務程序管理的開源架構,它基於Apache 2.0許可證發布。關於Flowable的使用,請參見Flowable API詳情。 使用Flowable前需確保已整合RxJava庫,並瞭解響應式編程基礎概念。 單次發送文本長度不得超過 20000 字元,且累計發送文本總長度不得超過 20 萬字元。
  • 單向流式調用
  • 雙向流式調用
以下樣本展示了通過Flowable對象的blockingForEach介面,阻塞式地擷取每次流式返回的SpeechSynthesisResult類型資料。
import com.alibaba.dashscope.audio.ttsv2.SpeechSynthesisParam;
import com.alibaba.dashscope.audio.ttsv2.SpeechSynthesizer;
import com.alibaba.dashscope.exception.NoApiKeyException;
import com.alibaba.dashscope.utils.Constants;

import java.time.LocalDateTime;
import java.time.format.DateTimeFormatter;

class TimeUtils {
    private static final DateTimeFormatter formatter =
            DateTimeFormatter.ofPattern("yyyy-MM-dd HH:mm:ss.SSS");

    public static String getTimestamp() {
        return LocalDateTime.now().format(formatter);
    }
}

public class Main {
    private static String model = "cosyvoice-v3-plus"; // 模型
    private static String voice = "longanyang"; // 音色

    public static void streamAudioDataToSpeaker() throws NoApiKeyException {
        // 請求參數
        SpeechSynthesisParam param =
                SpeechSynthesisParam.builder()
                        // 新加坡地區和北京地區的API Key不同。擷取API Key:https://www.alibabacloud.com/help/zh/model-studio/get-api-key
                        // 若沒有配置環境變數,請用百鍊API Key將下行替換為:.apiKey("sk-xxx")
                        .apiKey(System.getenv("DASHSCOPE_API_KEY"))
                        .model(model) // 模型
                        .voice(voice) // 音色
                        .build();
        SpeechSynthesizer synthesizer = new SpeechSynthesizer(param, null);
        synthesizer.callAsFlowable("今天天氣怎麼樣?").blockingForEach(result -> {
            if (result.getAudioFrame() != null) {
                // 此處實現處理音頻資料的邏輯
                System.out.println(TimeUtils.getTimestamp() + " 收到音頻");
            }
            // 擷取輸出資訊,包含事件類型和原始文本
            if (result.getOutput() != null && result.getOutput().has("type")) {
                System.out.println("事件類型: " + result.getOutput().get("type").getAsString()
                        + ", 原始文本: " + (result.getOutput().has("original_text") ? result.getOutput().get("original_text").getAsString() : ""));
            }
        });
        // 任務結束關閉 WebSocket 串連
        synthesizer.getDuplexApi().close(1000, "bye");
        // 首次發送文本時需建立 WebSocket 串連,因此首包延遲會包含串連建立的耗時
        System.out.println(
                "[Metric] requestId為:"
                        + synthesizer.getLastRequestId()
                        + "首包延遲(毫秒)為:"
                        + synthesizer.getFirstPackageDelay());
    }

    public static void main(String[] args) throws NoApiKeyException {
        // 以下為新加坡地區的配置,調用時請將"{WorkspaceId}"替換為真實的業務空間ID,各地區的配置不同。
        Constants.baseWebsocketApiUrl = "wss://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/api-ws/v1/inference";
        streamAudioDataToSpeaker();
        System.exit(0);
    }
}

高並發調用

在DashScope Java SDK中,採用了OkHttp3的串連池技術,以減少重複建立串連的開銷。詳情請參見高並發最佳實務。