wandb.log() のメトリクスが表示されないのはなぜですか？

wandb.log() でログしたメトリクスが W&B UI に表示されない場合、よくある原因がいくつかあります。 同期していないオフラインモード WANDB_MODE=offline が設定されている場合、メトリクスはローカルに保存されますが、wandb sync を実行するまでアップロードされません。wandb/ ディレクトリに run のデータがローカルに保存されているか確認し、同期してください。[TIMESTAMP] と [ID] は、run のタイムスタンプと ID に置き換えてください。

wandb sync wandb/run-[TIMESTAMP]-[ID]

分散トレーニングでの非同期なログ記録 分散トレーニングでは、1 つのプロセスからのみログする (通常は rank 0) という方法が一般的です。複数のプロセスが調整なしで同じ run にログすると、メトリクスが互いに上書きされたり、失われたりすることがあります。1 つのプロセスからログするには、rank チェックを使用します。

import os
import wandb

with wandb.init(project="[YOUR-PROJECT]") as run:
    if int(os.environ.get("RANK", 0)) == 0:
        loss = ...  # 計算済みのメトリクス
        run.log({"loss": loss})

W&B では、shared mode を使用して、複数のプロセスから 1 つの run に対して連携しながらログすることもサポートしています。rank-0 パターンとマルチプロセスパターンの両方については、そのガイドを参照してください。オフラインでの Sync については、環境変数を参照してください。

ログメトリクス Experiments