Pengungkit biaya
- Pilihan model
- Panjang prompt
- Maksimum output
- Cache
- Retry
- Batch bila sesuai
Jangan hanya melihat tarif
Model dengan tarif rendah dapat lebih mahal bila sering gagal atau membutuhkan banyak koreksi.
Pertanyaan umum
Metrik apa yang sebaiknya dipakai?
Biaya per hasil diterima, bersama latensi dan tingkat kegagalan.