Skip to main content
Suivez ces bonnes pratiques pour gérer efficacement les erreurs de W&B Serverless Inference et garantir la fiabilité de vos applications.

Implémentez toujours une gestion des erreurs

Encapsulez les appels d’API dans des blocs try-except :

Utilisez une logique de nouvelle tentative avec backoff exponentiel

Réessayez en cas d’échecs transitoires, avec des délais croissants entre les tentatives :

Surveillez votre utilisation

  • Suivez l’utilisation des crédits sur la page Billing de W&B.
  • Configurez des alertes avant d’atteindre les limites.
  • Enregistrez l’utilisation de l’API dans votre application.

Gérer les codes d’erreur spécifiques

Définissez des délais d’expiration adaptés

Configurez des délais d’expiration raisonnables pour votre cas d’utilisation :

Conseils supplémentaires

  • Journalisez les erreurs avec un horodatage pour faciliter le débogage.
  • Utilisez des opérations asynchrones pour mieux gérer la concurrence.
  • Implémentez des disjoncteurs pour les systèmes de production.
  • Mettez les réponses en cache lorsque c’est pertinent afin de réduire les appels à l’API.

Inférence