Casos importantes
- Tempo até o primeiro token
- Cancelamento
- Texto parcial
- Argumentos parciais
- Falha de rede
- Uso e motivo de término
Confira o recurso
Use streaming apenas quando o modelo indicar suporte e mantenha uma chamada sem streaming para diagnóstico.
Perguntas frequentes
Cada modelo oferece suporte a streaming?
Não. Consulte o catálogo ativo para verificar se o modelo possui a propriedade de streaming habilitada.
Devo salvar a saída parcial?
Depende do produto. Em fluxos auditáveis, marque claramente que a resposta não foi concluída.