Récupérez la liste des modèles Serverless Inference disponibles et leurs ID à l’aide du point de terminaison models.
Cette page explique comment récupérer tous les modèles disponibles via l’API Serverless Inference, ainsi que leurs ID. Utilisez ce point de terminaison pour découvrir les modèles disponibles par programmation, sélectionner dynamiquement un modèle à l’exécution ou vérifier quels modèles sont accessibles depuis votre compte.
Les exemples suivants montrent comment appeler le point de terminaison models depuis Python et en ligne de commande.
Python
Bash
import openaiclient = openai.OpenAI( base_url="https://api.inference.wandb.ai/v1", api_key="[YOUR-API-KEY]", project="[YOUR-TEAM]/[YOUR-PROJECT]" # facultatif, pour le suivi de l’utilisation)response = client.models.list()for model in response.data: print(model.id)
Le point de terminaison renvoie une liste d’objets de modèle dans un format compatible avec OpenAI, afin que vous puissiez traiter la réponse à l’aide des bibliothèques clientes OpenAI standard. Chaque entrée inclut l’ID du modèle que vous fournissez à d’autres points de terminaison de l’API Inférence.