LightGBM - Weights & Biases Documentation

W&B Python SDK (wandb) には、トレーニングメトリクス、特徴量重要度、モデルチェックポイントを自動的に W&B にログする、LightGBM 向けの専用コールバックが用意されています。また、W&B の汎用的なログ機能を使って、ハイパーパラメーター Sweeps のような大規模な実験をトラッキングすることもできます。このインテグレーションを使用すると、カスタムのログ記録コードを書かずに、勾配ブースティングモデルのモデル性能をモニターし、Runs を比較して、特徴量の寄与を分析できます。

from wandb.integration.lightgbm import wandb_callback, log_summary
import lightgbm as lgb

# メトリクスをW&Bにログする
gbm = lgb.train(..., callbacks=[wandb_callback()])

# 特徴量重要度のplotをログし、モデル チェックポイントをW&Bにアップロードする
log_summary(gbm, save_model_checkpoint=True)

実際に動作するコード例については、GitHub のサンプルリポジトリをご覧ください。

Sweeps を使ってハイパーパラメーターを調整する

モデルの最高のパフォーマンスを引き出すには、木の深さや学習率などのハイパーパラメーターを調整します。W&B Sweeps は、大規模なハイパーパラメーター探索実験を設定、実行、分析するためのツールキットです。これらのツールの詳細や、XGBoost で Sweeps を使用する方法の例については、次のインタラクティブな Colab ノートブックを開いてください。

​Sweeps を使ってハイパーパラメーターを調整する

Sweeps を使ってハイパーパラメーターを調整する