メインコンテンツまでスキップ

勾配パネル

ログされた勾配がヒストグラムとして表示されます

勾配パネルは、各タイムステップごとの勾配のヒストグラムを表示します。

例えば、一番左のチャート「layer.10の重み」では、ステップ0で最初のスライスを見ると、グレーの影では、その層の勾配が-40から+40の間の値を持っていたことを示しています。しかし、青い部分は、それらの勾配のほとんどが大体-2から+2の間だったことを示しています。

つまり、その影は、その特定のタイムステップで、その特定のヒストグラムのビンにある勾配の数を表しています。

勾配の解釈は時々難しいことがありますが、一般的に、これらのプロットは、勾配が爆発していないか(y軸上の大きな値)や潰れていないか(0周辺に青が集中していて、ほとんどまたは全く偏差がない)をチェックするのに役立ちます。

Was this page helpful?👍👎