進捗報告 その３

前回の記事で

理想とすれば、もう少し緩やかな傾斜を描いて、 一致率を向上させていく、というのがよさそうな感じはある。 もう少し学習率の微調整を試すべきであろうか。

と書いたので、これの続きです。

学習率を小さくとって、少しずつ動かしていきます。

まず0.0000005で挑戦。 これまでは50回しか学習を繰り返していませんでしたが、 100回まで試してみました。 結果がこちら。

テストデータに対する誤差関数の値は、確かに下がっています。

ただ学習結果で対戦させてみると、こんな感じ。

・・・ん？

ネコかなあ！？

40をピークにして、あとは平均得点は下がっている。 誤差関数は下がっているのに、である。

次に0.0000001で挑戦。 こちらはさらに小さいので150回やっており、順調に下がっています。

対戦の結果はこちら。 こちらは若干右肩上がりに見えるが、3.2前後のところで上げどまっている。

これまであまりに 「誤差関数は下がっているのに対戦成績に反映されないのはおかしい」 という点にこだわってきたが、 さすがに受け入れなくてはいけない。 つまり、これまであまりに直視してこなかったけど、 「特徴要素」をもっとうまく設定すれば、強さに反映されるんでは？ いまの特徴要素ではどうあがいてもこれくらいが限度ってことなんでは？

ともかく、学習自体はうまくいっているように見える。 今度は特徴要素に注意して実験を行ってみようぞ。