現役高校2年生の奮闘

thagwenの学問・部活・趣味に奮闘する日記

ゼロから作るディープラーニング―1日目―

おはこんばんちは!

本日は、しばらく前に購入した「ゼロから作るディープラーニング」の勉強1日目。
thagwen.hatenadiary.jp



この本を読んで感動したことはさまざまにありますが、まずはなんといってもシグモイド関数

f(x) = 1/(1+e^(-x)) (eはネイピア定数で、e=2.71....)

シグモイド関数は図形的に奇妙で神秘的で不思議なのでお気に入りです。
https://upload.wikimedia.org/wikipedia/commons/a/ac/Logistic-curve.png
(wikipediaより)

最初はずっと0で、突然ものすごく値が上昇し、その後は1に収束するという、とても不思議な関数です。
lim{x→-∞}1/(1+e^(-x)) = 0
lim{x→∞}1/(1+e^(-x)) = 1


これは確かにサイエンス系の処理プログラムとの相性がよさそうですね!

なんといっても、外れ値は0か1に収束し、そもそもシグモイド関数が単調増加するので、外れ値以外は入力値に応じて正しく評価できるのですから!


ついでに x を ax+b のように線形関数で定義して絡ませると、これまた素晴らしいことが起きそうですね!

バイアスがbによって、傾き(勾配)がaによって、それぞれ可変するがそれでも元の関数の性質を持ち続ける!(ただしa≠0のとき)なんてすばらしい!




さて、この本ではディープラーニングをライブラリを使わずにしようというのが目標みたいなのもですが、思った以上に細かく書かれていてですね。

僕はいままで何も考えずに、ただライブラリのドキュメントにそう書いてあるから…という理由でバイアスを設定していたりしていたのですが、この本はなぜそうなるのかをはっきりと教えてくれます。

パーセプトロンの式の意味なんて考えたこともありませんでしたが、理解しやすいようにANDゲートの話から展開しています。これがすごい!

ニューラルネットワーク、活性化関数、恒等関数など、僕がいままで何も考えずに使ってきた関数やら手法が、これまたキレイに書かれていて理解できるのです。



『前回3600円とか高ずぎぃ!なんて書きましたが、これは3600円払う価値がある本ですわ!こんなに理解させてくれる本なんて早々に出会えない!』

というように、3章までしか読んでいませんが、感じました。