Assistant API mendukung function calling. Fitur ini memungkinkan agen untuk secara otomatis memanggil fungsi eksternal guna menjalankan tugas, seperti menerjemahkan teks. Topik ini menggunakan contoh “Translation Agent” yang sederhana untuk membantu Anda memahami dasar-dasar function calling dengan cepat.
Quick start
Pada contoh ini, Anda akan membuat agen penerjemah dan fungsi bernama translate_text yang dapat dipanggil oleh agen tersebut. Selanjutnya, Anda akan meminta agen untuk menerjemahkan "Hello world" ke dalam bahasa Tionghoa.
Before you begin
Anda dapat menginstal library dependensi yang diperlukan, seperti requests dan dashscope, dengan menjalankan perintah berikut:
Step 1: Create the "translate_text" function
Pertama, buat fungsi penerjemahan sederhana. Fungsi ini menggunakan tabel terjemahan yang telah ditentukan sebelumnya untuk tujuan demonstrasi.
- Translation feature: Mensimulasikan fitur terjemahan menggunakan tabel terjemahan yang telah ditentukan sebelumnya dan mendukung konversi antar beberapa bahasa.
- Error handling: Fungsi ini mencakup mekanisme penanganan error dasar untuk memastikan selalu mengembalikan respons yang sesuai dalam semua situasi.
translate_text yang telah didefinisikan untuk menyediakan layanan terjemahan.
Step 2: Describe the "translate_text" function
Anda harus mendeskripsikan fungsi translate_text kepada agen. Agen menggunakan deskripsi ini untuk memanggil fungsi dengan benar.
- name: Nama fungsi adalah
translate_text. Agen menggunakan nama ini untuk memanggil fungsi tersebut. - description: Deskripsi tool yang membantu agen memahami tujuannya.
- parameters: Mendefinisikan parameter fungsi, yang mencakup teks yang akan diterjemahkan dan bahasa target.
Step 3: Create an agent
Sekarang, buat instans Assistant. Instans ini merupakan agen yang akan menggunakan tool terjemahan yang telah Anda definisikan.
- model: Menentukan model yang digunakan. Contoh ini menggunakan
qwen-plus, yang mendukung pemahaman bahasa dan pemrosesan tugas. - name: Nama agen. Atur nilainya menjadi "Translation Assistant".
- description: Deskripsi tujuan agen, yaitu membantu pengguna menerjemahkan teks.
- tools: Mendaftarkan
translation_toolyang telah Anda definisikan sebelumnya. Hal ini memungkinkan agen untuk memanggil tool tersebut.
Step 4: Create a conversation thread and interact with the agent
Buat thread percakapan baru, tambahkan pesan pengguna ke dalamnya, lalu jalankan agen untuk memproses kueri pengguna.
- Threads.create(): Membuat thread percakapan baru untuk pesan-pesan selanjutnya.
- Messages.create(): Menambahkan pesan pengguna ke dalam thread. Dalam kasus ini, pengguna meminta penerjemahan "Hello world" ke bahasa Tionghoa.
- Runs.create(): Memulai pemrosesan pesan pengguna oleh agen.
- Runs.wait(): Menunggu hingga agen menyelesaikan pemrosesan.
Step 5: Handle the function call and return the result
Jika agen perlu memanggil tool selama pemrosesan, fungsi translate_text akan dipanggil dan hasilnya dikembalikan.
- Check for a function call: Jika agen perlu memanggil fungsi, kode Anda memeriksa apakah fungsi yang diminta adalah
translate_text, lalu melakukan terjemahan menggunakan fungsi yang telah didefinisikan sebelumnya. - Submit the result: Kirim hasil terjemahan ke agen menggunakan
Runs.submit_tool_outputs, lalu tunggu respons berikutnya dari agen.
Step 6:Get the agent's response
Setelah agen menyelesaikan pemrosesan, Anda dapat mengambil respons agen dari thread percakapan dan menampilkannya kepada pengguna.
Summary
Dengan mengikuti langkah-langkah ini, Anda telah berhasil membuat agen yang dapat menangani permintaan terjemahan pengguna dan menggunakan fungsi terjemahan untuk melakukan konversi teks. Assistant API mempermudah dan meningkatkan efisiensi pembuatan agen kompleks yang berbasis tugas.
Anda dapat memperluas fitur agen sesuai kebutuhan, misalnya dengan menambahkan lebih banyak tool atau memodifikasi instruksi perilaku agen.
Quickly generate descriptions for business functions
Pada contoh Quick Start, Anda perlu mendeskripsikan fungsi "translate_text" kepada agen. Proses ini bisa membosankan. Oleh karena itu, kami menyediakan fungsi konversi sederhana untuk membantu Anda mendeskripsikan fungsi bisnis Anda dengan cepat.
translate_text dari Quick Start:
translate_text secara otomatis dikonversi menjadi:
Use streaming output
Ketika Anda menggunakan keluaran streaming, Anda harus memodifikasi logika kode pada Langkah 5: Tangani pemanggilan fungsi dan kembalikan hasilnya. Hal ini karena objek Runs sekarang mengembalikan aliran acara Assistant.
Ketika Assistant memutuskan untuk memanggil fungsi, objek Runs mengembalikan event thread.run.requires_action dan parameter input data.required_action.submit_tool_outputs.tool_calls yang disediakan oleh Large Language Model (LLM). Anda harus mengirimkan output fungsi pada titik ini.
Perhatikan bahwa Anda juga harus mengaktifkan keluaran streaming saat mengirimkan output fungsi dengan run = Runs.submit_tool_outputs.
while tambahan di luar loop for yang memproses aliran acara. Hal ini karena sistem menghasilkan objek Runs baru ketika Anda mengirimkan output fungsi. Loop while membantu Anda melacak aliran acara terbaru secara otomatis. Ini memungkinkan Assistant untuk terus menghasilkan respons setelah menerima hasil pemanggilan fungsi.