Qwen-Long は、ファイルアップロードと参照メカニズムを通じて最大 1,000 万トークンのドキュメントを処理し、標準モデルのコンテキスト長の制限を克服します。
このドキュメントは、中国本土 (北京) リージョンにのみ適用されます。モデルを使用するには、中国本土 (北京) リージョンの API キーを使用する必要があります。
使用方法
Qwen-Long は、ファイルのアップロードと API 呼び出しの 2 つのステップで使用します。
-
ファイルのアップロードと解析:
- API を使用してファイルをアップロードします。サポートされているファイル形式とサイズ制限の詳細については、「サポートされているフォーマット」をご参照ください。
- アップロードが成功すると、システムはご利用のアカウントに対して一意の
file-idを返し、解析を開始します。ファイルのアップロード、ストレージ、解析には料金はかかりません。
-
API 呼び出しと課金:
- モデルを呼び出す際、
systemメッセージで 1 つ以上のfile-idを参照します。 - モデルは
file-idに関連付けられたテキスト内容に基づいて推論を実行します。 - 各 API 呼び出しにおいて、参照されたファイル内容のトークン数がそのリクエストの入力トークンとしてカウントされます。
- モデルを呼び出す際、
クイックスタート
前提条件
- API キーを取得し、環境変数として設定します。
- SDK 経由でモデルを呼び出すには、OpenAI SDK をインストールします。
ドキュメントのアップロード
この例では、Model_Studio_Phone_Product_Introduction.docx を OpenAI 互換インターフェイス経由で Model Studio の安全なストレージにアップロードし、file-id を取得します。アップロードパラメーターについては、API ドキュメントをご参照ください。
Python
file-id を取得します。
ファイル ID を使用した情報の受け渡しとチャット
システムメッセージで file-id を渡します。最初のメッセージでロールを定義し、2番目のメッセージに file-id を含め、その後にユーザーの質問を追加します。
ドキュメントが長いほど、解析に時間がかかります。呼び出しを行う前に、解析が完了するまでお待ちください。
Python
複数ドキュメントの受け渡し
1つのシステムメッセージで複数の file-id を渡すか、ドキュメントごとに個別のシステムメッセージを追加します。
- 複数ドキュメントの受け渡し
- ドキュメントの追加
Python
プレーンテキストとしての情報伝達
file-id を使用する代わりに、ドキュメントコンテンツを文字列として直接渡します。ドキュメントコンテンツとの混同を避けるために、最初のメッセージにロール設定を追加します。
ドキュメントコンテンツが 100 万トークンを超える場合は、API サイズ制限のため、代わりにファイル ID を使用してください。
- 簡単な例
- 複数のドキュメントを渡す
- ドキュメントの追加
ドキュメントコンテンツをシステムメッセージに直接入力できます。
Python
モデルの料金
| モデル名 | バージョン | コンテキスト長 | 最大入力 | 最大出力 | 入力コスト | 出力コスト |
|---|---|---|---|---|---|---|
| (トークン) | (100 万トークンあたり) | |||||
qwen-longBatch API リアルタイム料金の50% | 安定版 | 10,000,000 | 10,000,000 | 32,768 | $0.072 | $0.287 |
よくある質問
- Qwen-Long モデルはバッチジョブの送信に対応していますか? はい。Qwen-Long は OpenAI Batch API に対応しており、リアルタイム呼び出しレートの 50% で利用できます。バッチジョブをファイルとして送信すると、ジョブは非同期で実行され、完了またはタイムアウト時に結果が返されます。
- OpenAI 互換のファイル API を使用してアップロードされたファイルは、どこに保存されますか? ファイルはご利用の Model Studio バケットに無料でアップロードされます。ファイルのクエリと管理については、OpenAI File API をご参照ください。
-
モデルが標準フォーマットの JSON 文字列を確実に出力するようにするには、どうすればよいですか?
qwen-longおよびすべてのスナップショットは 構造化出力 に対応しています。JSON スキーマを指定することで、ご利用の構造に一致する有効な JSON を保証できます。
API リファレンス
Qwen-Long モデルの入力および出力パラメーターについては、「Qwen API の詳細」をご参照ください。
エラーコード
モデルの呼び出しが失敗し、エラーメッセージが返された場合は、エラーコードをご参照ください。
制限事項
-
SDK の依存関係:
- ファイル操作 (アップロード、削除、クエリ) には、OpenAI 互換 SDK が必要です。
- モデルの呼び出しは、OpenAI 互換 SDK または Dashscope SDK を使用します。
-
ファイルのアップロード:
- 対応フォーマット: TXT、DOCX、PDF、XLSX、EPUB、MOBI、MD、CSV、JSON、BMP、PNG、JPG/JPEG、GIF。
- ファイルサイズ: 画像ファイルの最大サイズは 20 MB です。その他のファイル形式の最大サイズは 150 MB です。
- アカウントのクォータ: 1 アカウントあたり最大 10,000 ファイルまたは 100 GB です。いずれかの上限に達すると、アップロードは失敗します。ファイルを削除してクォータを解放してください。詳細については、「OpenAI 互換 - ファイル」をご参照ください。
- ストレージ期間: 現在、保存されているファイルに有効期限はありません。
-
API 入力:
- 最初の
systemメッセージでロールを定義します。2 番目のメッセージには、ドキュメントコンテンツまたはfileid://xxxが含まれます。userメッセージにはクエリが含まれます。 file-idを使用してファイルを参照する場合、1 つのリクエストで最大 100 ファイルまで参照できます。- 2 番目の
systemメッセージがある場合、userメッセージの制限は 9,000 トークンです。system メッセージが 1 つだけの場合は制限はありません。 - 合計コンテキスト長は 1,000 万トークンに制限されています。
- 最初の
-
API 出力:
- 最大出力長は 32,768 トークンです。
-
ファイルの共有:
file-idはアカウント固有であり、アカウント間や RAM ユーザーの API キーでは使用できません。
- 速度制限: モデルの速度制限条件については、「Throttling」をご参照ください。