勾配降下法とMomentumを可視化してみた。

適当に実装したnotebookはこちら。 github.com

勾配降下法とMomentumを実装した。これ関数いじって無限に遊べるので時間が解けてしまった。Momentumくんうっかり行き過ぎてうごきまわっちゃうことがあっておもろい。ハイパラ調整楽しいな（）Bukin function N.6が強すぎる。matplotlibと少し仲良くなった。

アニメーション実装も後日追加。参照なくなるとアニメーション消えるとかいうのにくそほどはまった。matplotlibでうごかないとストレス半端ない(いやまあ自分が悪いんだけど)。等高線の描画って使いまわせないのかな？描画に時間かかりすぎて辛い。