Kontrol yang diperlukan
- Model allowlist
- Izin tools
- Maksimum output
- RPM, TPM, concurrency
- Anggaran harian dan bulanan
Peluncuran aman
- Validasi argumen di server
- Batasi kedalaman dan retry
- Catat tool dan hasil
- Minta persetujuan untuk tindakan permanen
Framework bukan jaminan
LangChain, CrewAI, dan klien lain dapat memakai URL kompatibel, tetapi kombinasi framework, model, dan skema tetap harus diuji.
agent-tool.tstypescript
const response = await client.chat.completions.create({
model: "qwen3.7-plus",
messages: [{ role: "user", content: "What is the order status?" }],
tools: [{
type: "function",
function: {
name: "get_order_status",
description: "Return the current order status",
parameters: {
type: "object",
properties: { order_id: { type: "string" } },
required: ["order_id"]
}
}
}]
});Pertanyaan umum
Model apa yang cocok untuk agent?
Pilih model yang menampilkan dukungan tools, lalu uji dengan skema dan bahasa Anda.
Bagaimana mencegah biaya agent membengkak?
Gabungkan batas loop aplikasi dengan anggaran, rate, dan concurrency di gateway.