Cohere ファインチューニング - Weights & Biases Documentation

W&B を使用すると、Cohere モデルのファインチューニングにおけるメトリクスや設定をログし、モデル性能を分析して結果を同僚と共有できます。Cohere のファインチューニング run を W&B のプロジェクトに接続すると、W&B はトレーニングおよび検証のメトリクス、ハイパーパラメーター、run メタデータを Workspace に自動的に取得します。すでに Cohere モデルをファインチューニングしていて、実験管理を一元化したい場合は、このガイドを使用してください。ファインチューニング run の開始方法を示す完全な例については、Cohere fine-tuning guide を参照してください。また、wandb 設定に関する Cohere API リファレンスも参照してください。

Cohere ファインチューニングの結果をログする

W&B Workspace に Cohere ファインチューニングの logging を追加するには、次の手順を実行します。

W&B APIキー、W&B entity、project 名を指定して WandbConfig を作成します。APIキーは Cohere ジョブを W&B で認証するために使用され、entity と project は W&B が Runs をどこにログするかを決定します。APIキーは W&B User Settings で作成してください。次の例の <wandb-api-key> は、ご自身の APIキーに置き換えてください。

この設定を、モデル名、データセット、ハイパーパラメーターとともに FinetunedModel object に渡して、ファインチューニングの run を開始します。wandb 設定により、run の実行中に Cohere がメトリクスを W&B のプロジェクトへストリーミングするよう設定されます。

from cohere.finetuning import WandbConfig, FinetunedModel

# W&B の情報を指定して設定を作成します
wandb_ft_config = WandbConfig(
    api_key="<wandb-api-key>",
    entity="my-entity", # 指定した APIキー に関連付けられた有効な entity である必要があります
    project="cohere-ft",
)

...  # データセットとハイパーパラメーターを設定します

# Cohere でファインチューニングの run を開始します
cmd_r_finetune = co.finetuning.create_finetuned_model(
  request=FinetunedModel(
    name="command-r-ft",
    settings=Settings(
      base_model=...
      dataset_id=...
      hyperparameters=...
      wandb=wandb_ft_config  # ここで W&B の設定を渡します
    ),
  ),
)

作成した W&B プロジェクトで、モデルのファインチューニングにおけるトレーニングと検証のメトリクス、およびハイパーパラメーターを確認します。

run が開始されると、Cohere のファインチューニングジョブはメトリクスをリアルタイムで W&B にレポートするため、run を比較したり、トレーニングの進行状況を 1 か所で確認したりできます。

run を整理する

W&B は run を自動的に整理します。ジョブのタイプ、ベースモデル、学習率、そのほかの任意のハイパーパラメーターなどの設定パラメーターに基づいて、フィルターや並べ替えを行えます。さらに、run の名前を変更したり、メモを追加したり、グループ化用のタグを作成したりできます。

リソース

完全な例は、Cohere ファインチューニングのサンプルノートブックを参照してください。

​Cohere ファインチューニングの結果をログする

​run を整理する

​リソース

Cohere ファインチューニングの結果をログする

run を整理する

リソース