Passer au contenu principal
Ce guide vous montre comment utiliser W&B avec Azure OpenAI pour suivre et évaluer les tâches de fine-tuning des modèles GPT-3.5 ou GPT-4. Lorsque vous intégrez W&B, le suivi des expériences consigne les métriques, les hyperparamètres et les artefacts d’entraînement afin de vous permettre d’analyser et d’améliorer les performances du modèle. Vous pouvez également utiliser les outils d’évaluation de W&B pour prendre des décisions fondées sur les données concernant la sélection du modèle. Ce guide s’adresse aux professionnels du machine learning qui effectuent le fine-tuning de modèles Azure OpenAI et souhaitent disposer d’une méthode systématique pour suivre et comparer les exécutions.
Métriques de fine-tuning Azure OpenAI

Prérequis

Avant de commencer, effectuez les actions suivantes :

Aperçu du flux de travail

Les étapes suivantes résument le déroulement typique d’un job de fine-tuning Azure OpenAI dans W&B, depuis la préparation du job jusqu’à l’évaluation du modèle obtenu.

Configuration du fine-tuning

La configuration du fine-tuning comprend les étapes suivantes :
  • Préparez les données d’entraînement conformément aux exigences d’Azure OpenAI.
  • Configurez le job de fine-tuning dans Azure OpenAI.
  • Suivez le processus de fine-tuning et consignez les métriques et les hyperparamètres avec W&B.

Suivi des expériences

Lors du fine-tuning, W&B capture :
  • Les métriques d’entraînement et de validation.
  • Les hyperparamètres du modèle.
  • L’utilisation des ressources.
  • Les artefacts d’entraînement.

Évaluation du modèle

Après le Fine-tuning, utilisez W&B Weave pour :
  • Évaluer les résultats du modèle à l’aide de jeux de données de référence.
  • Comparer les performances entre différentes itérations de Fine-tuning.
  • Analyser le comportement du modèle sur des cas de test spécifiques.
  • Prendre des décisions fondées sur les données pour choisir le modèle.

Exemple concret

Pour voir l’intégration appliquée de bout en bout, explorez les ressources suivantes :

Ressources supplémentaires