ヒトもすなるblogといふものをネコの私もしてみんとて、するなり。

（隠れてこっそり）定期巡回させてもらっているロボット製作支援局：タクパパの日記さんの記事から神経回路モデル論というサイトを知りました．

サーバーから辿っていくと，どうも東京女子大の浅川伸一先生という方の授業かゼミの内容のようですね．
ただ，プロフィールのところをみると現在は早稲田の非常勤講師も（を？）されていらっしゃるよう．

ニューラルネット関係や強化学習に関するPDFファイルやプログラムのソースが置いてあるので色々勉強できそうです．
なによりリカレントニューラルネットワークのプログラムをソースごとおいてあるのがｲｲ！（ﾟ∀ﾟ）
自分でやろうとしたらBPTTの計算が思いのほか煩雑で挫折中だからなぁ…参考にさせていただこう（´ー｀）

それにしてもこういったニューラルネットは認知科学の分野なんかでもかなり研究に利用されているみたいだけど，いつも思うのは「"教師あり学習"の教師信号は脳の中ではどうやって生成されているんだろう？」ということ．
入力に対して望ましい出力が教師信号になっているわけだから，普通に考えたら最初からその教師信号を出力に使えばいい話にならないかなと思うのだけど．
まだまだ勉強が足りないなぁ…

昨日のエントリでうまくニューラルネットの学習が進まないことがあると書いたけれど，どうやら最初にランダムに決定する結合荷重の値域を大きくとりすぎてなかなか学習が進まなかった模様．

そして気づいたら朝の4時…(´・ω・｀)
今日バイトだぞ，オレorz

以前にJAVAで3層ニューラルネットを作ってみたので今度はリカレントニューラルネット(Recurrent Neural Network)に挑戦してみようと思って色々調べていたら，ビミョーに勘違いからプログラムにバグがあるのを発見(´・ω・｀)

作ってから結構時間も経っていたので「トータル設計の原理」からC++で全部作り直すことに．
しかしバグがあるのに一応ちゃんと学習とかできてたんだよなぁ…
今回も作っている途中でちょっとしたバグがあるのを発見しても，その前の段階でも「それなりに」動いていたから恐ろしい．

一応C++でもできたみたいだけど，結構学習が収束しない場合があるのが気になるなぁ．
まだどっかにバグがあるのかな〜？