勾配パネル
勾配パネルは、各タイムステップごとの勾配のヒストグラムを表示します。
例えば、一番左のチャート「layer.10の重み」では、ステップ0で最初のスライスを見ると、グレーの影では、その層の勾配が-40から+40の間の値を持っていたことを示しています。しかし、青い部分は、それらの勾配のほとんどが大体-2から+2の間だったことを示しています。
つまり、その影は、その特定のタイムステップで、その特定のヒストグラムのビンにある勾配の数を表しています。
勾配の解釈は時々難しいことがありますが、一般的に、これらのプロットは、勾配が爆発していないか(y軸上の大きな値)や潰れていないか(0周辺に青が集中していて、ほとんどまたは全く偏差がない)をチェックするのに役立ちます。