Azure OpenAI ファインチューニング
Introduction
Microsoft Azure上でGPT-3.5またはGPT-4モデルをW&Bを使ってファインチューニングすることで、モデルのパフォーマンスを詳細に追跡し、分析できます。このガイドでは、OpenAI Fine-Tuning guide の概念を拡張し、Azure OpenAI向けの特定の手順と機能を紹介します。
備考
Weights and Biasesのファインチューンインテグレーションはopenai >= 1.0で動作します。最新バージョンのopenaiをインストールするには、pip install -U openaiを実行してください。
Prerequisites
- 公式のAzureドキュメントに従って設定されたAzure OpenAIサービス。
- 最新バージョンの
openai、wandb、および必要な他のライブラリがインストールされていること。
W&BでAzure OpenAIファインチューン結果を2行で同期
from openai import AzureOpenAI
# Azure OpenAIに接続
client = AzureOpenAI(
azure_endpoint=os.getenv("AZURE_OPENAI_ENDPOINT"),
api_key=os.getenv("AZURE_OPENAI_KEY"),
)
# トレーニングおよびバリデーションのデータセットをJSONL形式で作成および検証し、
# クライアント経由でアップロードし、
# ファインチューニングジョブを開始します。
from wandb.integration.openai.fine_tuning import WandbLogger
# ファインチューニング結果をW&Bと同期！
WandbLogger.sync(
fine_tune_job_id=job_id, openai_client=client, project="your_project_name"
)
インタラクティブな例を見る
W&Bでの可視化とバージョン管理
- Tablesとしてトレーニングとバリデーションデータをバージョン管理し、可視化するためにW&Bを利用。
- データセットとモデルのメタデータはW&B Artifactsとしてバージョン管理され、効率的な追跡とバージョンコントロールが可能。
ファインチューンしたモデルの取得
- ファインチューンしたモデルIDはAzure OpenAIから取得可能で、モデルのメタデータの一部としてW&Bにログされます。
