トラフィック制御

制限ごとに防ぐ問題が異なる

RPMは回数、TPMはトークン量、同時実行は並列処理、予算は期間内の料金を制限します。

予定している入金方法:Alipay、USDT。決済機能はまだ有効ではありません。

多層で設定

  • プロジェクト予算
  • APIキー予算
  • RPM
  • TPM
  • 同時実行数
  • アプリ側ループ上限

利用者への表示

制限到達時は理由と再試行可能時刻を明示してください。未検証モデルへ自動で切り替えないでください。

よくある質問

エージェントはRPMだけで制御できますか?

できません。TPM、同時実行、予算、反復回数を組み合わせます。

どこに制限を設定しますか?

プロジェクトに全体上限、各キーに用途別の狭い上限を設定します。

関連情報