Pourquoi cela se produit
- ID du modèle incorrect : Le nom ou le chemin du modèle dans votre requête comporte une faute ou n’est pas correctement formaté.
- Le modèle n’est pas disponible sur W&B Inference : Tous les modèles hébergés par d’autres fournisseurs ne sont pas disponibles via l’API W&B Inférence. Il se peut que le modèle demandé n’ait pas encore été ajouté.
- Utilisation de la mauvaise URL de base : Si vous pointez vers le point de terminaison d’un autre fournisseur tout en utilisant une clé API W&B, l’ID du modèle ne sera pas correctement résolu.
- Le modèle a été supprimé : Un modèle auparavant disponible peut avoir été rendu obsolète ou supprimé.
Ce que vous pouvez faire
-
Vérifier l’ID du modèle
- Vérifiez l’identifiant exact du modèle dans modèles disponibles.
- Les ID de modèle respectent la casse et utilisent généralement le format
provider/model-name(par exemple,meta-llama/Llama-3.3-70B-Instruct).
-
Confirmer l’URL de base
- L’URL de base de W&B Inference est
https://api.inference.wandb.ai/v1. Assurez-vous que votre client utilise cet hôte, et non l’hôte d’API du Cloud mutualisé (https://api.wandb.ai) ni le point de terminaison d’un autre fournisseur. Pour le suivi de l’utilisation, certains clients envoient également l’en-tête facultatifOpenAI-Projectdéfini surteam/project, comme indiqué dans la référence de l’API « list models ».
- L’URL de base de W&B Inference est
-
Demander l’accès à un nouveau modèle
- Si le modèle dont vous avez besoin n’est pas actuellement pris en charge, contactez l’assistance W&B pour demander son ajout.
Erreurs du serveur