マルチ CPU マシンで並列化
ユースケースに応じて、以下のタブを参照し、CLI や Jupyter ノートブック内で W&B スイープエージェントを並列化する方法を学びましょう。- CLI
- Jupyter Notebook
wandb agent
コマンドを使用して、ターミナルで W&B スイープエージェントを複数の CPU に渡って並列化します。sweep を初期化したときに返されたスイープ ID を提供してください。- ローカルマシンで複数のターミナルウィンドウを開きます。
- 以下のコードスニペットをコピーして貼り付け、
sweep_id
をあなたのスイープ ID に置き換えます:
マルチ GPU マシンで並列化
CUDA Toolkit を使用して、ターミナルで W&B スイープエージェントを複数の GPU に渡って並列化するための手順に従ってください。- ローカルマシンで複数のターミナルウィンドウを開きます。
- W&B スイープジョブを開始するときに
CUDA_VISIBLE_DEVICES
を使用して使用する GPU インスタンスを指定します(wandb agent
)。CUDA_VISIBLE_DEVICES
に使用する GPU インスタンスに対応する整数値を割り当てます。
CUDA_VISIBLE_DEVICES
を 0
(CUDA_VISIBLE_DEVICES=0
)に設定します。以下の例で、sweep_ID
を初期化したときに返された W&B スイープ ID に置き換えます:
ターミナル 1
CUDA_VISIBLE_DEVICES
を 1
(CUDA_VISIBLE_DEVICES=1
)に設定します。次のコードスニペットで言及された sweep_ID
に同じ W&B スイープ ID を貼り付けます:
ターミナル 2