何が起きるか
| 観点 | 挙動 |
|---|---|
| YouRouter ゲートウェイ | プロバイダーごとに別々の SDK 統合を強制しません |
| 上流制限 | 429 や同時実行エラーが返ることがあります |
| 自動ルーティング | vendor 省略または vendor: auto で利用可能な上流へ振り分け |
| 固定プロバイダー | vendor を固定すると、その上流の可用性と制限に依存します |
推奨の再試行パターン
一時的な失敗には指数バックオフで再試行します。429(レート制限 / 同時実行)500(ゲートウェイまたは上流エラー)- 一時的なネットワーク障害
同時実行のコツ
- 本番は保守的な同時実行から始めて徐々に上げる
- 特別な理由がない限り
vendor: auto - モデル ID は設定化して切替を容易に
- トラブルシュートのため、時刻・モデル・vendor モード・リクエスト ID をログに残す
- ストリーミングは接落ちを安全に再開できる場合のみ再試行