EastX の API ルーティングとフォールバック｜価格・速度・成功率
EastX のルーティング優先度、フォールバック、残高チェックと実際の作業での比較方法を解説します。
EastX のルーティング優先度とフォールバック
一つのモデルに複数の利用可能な上流ルートがある場合、EastX のルーティング優先度で候補の並びを指定できます。対話型のクライアント、バッチ処理、完了率を重視する仕事では、求める条件が異なります。クライアントごとにキーを分ければ、設定と利用状況も管理しやすくなります。
五つの優先設定
default：プラットフォームの順序を維持し、フォールバック候補を追加します。auto：自動戦略を使います。price：推定リクエスト費用を優先します。待ち時間に余裕のあるバッチ処理で検討できます。speed：過去の速度を優先します。対話型の仕事で検討できます。success_rate：過去の成功率を優先します。完了を重視する仕事で検討できます。
速度と成功率はテナントの直近 24 時間の履歴を使い、履歴が足りない場合は保守的な推定を使います。設定は優先順位として扱い、実際の作業で結果を測定してください。
API キーとリクエストで設定する
API キーの設定で既定の優先度を選べます。個別リクエストでは routing_priority を指定できます。ドキュメント上の優先順は routing_priority、provider.sort、x-eastx-routing ヘッダー、キー設定です。対象として説明されているのは Chat Completions と Messages です。
{
"model": "YOUR_MODEL_ID",
"routing_priority": "price",
"messages": [{"role": "user", "content": "このメモを要約してください。"}]
}
モデル ID は現在の一覧から正確にコピーします。同じタスクを異なる優先度で試し、完了率、最初のテキストまでの時間、総時間と費用を記録します。
ルート切り替えとモデル切り替え
同じモデルの上流ルートを変えることは、別のモデルに置き換えることとは異なります。アプリが別モデルへの切り替えを行う場合、必要なツール、出力形式、品質を確認してください。ストリーミングの出力や外部ツールの操作が始まった後は、受信済みの内容と実行済みの操作を確認してから再試行します。
モデル一覧の service_status も確認できます。利用できるルートがない場合は 503 が返ることがあります。自動停止された上流は待機時間後の実リクエストで回復を試みる場合があります。頻繁な空の確認リクエストは避けてください。
残高チェックと請求を確認する
最終的な料金は成功したルートと適用階層を使って確認します。残高チェックでは利用可能なフォールバック候補の中で最も高い費用が考慮されるため、価格優先を選んでも最低価格だけを満たす残高では不足する場合があります。リクエストの利用記録と照合してください。