Skip to main content
W&B Serverless Inference のエラーを適切に処理し、アプリケーションの信頼性を維持するには、以下のベストプラクティスに従ってください。

常にエラー処理を実装してください

API呼び出しは try-except ブロックで囲んでください:

指数バックオフによる再試行ロジックを使用する

試行の間隔を徐々に延ばしながら、一時的な障害を再試行します。

使用状況を監視する

  • W&B Billing ページでクレジットの使用状況をトラッキングする。
  • 制限に達する前にアラートを設定する。
  • アプリケーションで API の使用状況をログする。

特定のエラーコードに対応する

適切なタイムアウトを設定する

用途に応じて適切なタイムアウトを設定します。

追加のヒント

  • デバッグしやすいよう、タイムスタンプ付きでエラーをログする
  • 並行処理をより適切に扱うため、非同期処理を使用する
  • 本番システムにはサーキットブレーカーを実装する
  • 必要に応じて応答をキャッシュし、API呼び出しを減らす

Inference