BP法の実装完了

BP法の実装がようやく完了した。
ってか、どれだけかかってるんだよ、俺！

教科書をちゃんと読まないので重みの接続をひたすら間違えていた。
あと、おもしろいのが、安定化定数が意外に重要であるということ。
安定化定数が大きすぎると、変なところで収束してしまう。
小さすぎるとなかなか収束しない。
これは学習定数との兼ね合いが大きいのだとは思うけど…

とりあえず小規模な問題に対する階層型NNは理解した。
もっと大規模問題用の階層型NNの実装に取り掛からなければ。