Kasus yang perlu ditangani
- Waktu ke token pertama
- Pembatalan klien
- Teks parsial
- Argumen tool parsial
- Gangguan jaringan
- Usage dan finish reason
Periksa dukungan model
Aktifkan streaming hanya jika katalog menandai model sebagai mendukungnya. Pertahankan jalur non-streaming untuk diagnosis.
Pertanyaan umum
Apakah semua model mendukung streaming?
Tidak. Periksa capability di katalog aktif.
Apakah output parsial harus disimpan?
Tergantung produk. Untuk proses yang diaudit, tandai dengan jelas sebagai respons yang belum selesai.