【機械学習とは 連載目次】
前回のその3に続いて解説を続けます。
1. ディープラーニング
ディープラーニング(深層学習)の名前が知られるようになってきたのは2000年代と記憶しています。大元になっているのはニューラルネットワークであり、実は日本人の福島さんという方が1980年代に考案したネオコグニトロンが発祥といわれています。
現在では、この中間ノード層(隠れ層)のノード数、階層の数も多くなってきました。2012年に googleの猫で話題になったときの構造「 GoogleNet」は次のようなもので、バックプロパゲーションでの勾配消失を防ぎ、特徴を検出するために1レイヤ中でいくつかのフィルタリングを並行的に行なっているなどの工夫がなされているのが分かります。
2. 基本的処理は四則演算
ディープラーニングは一体何をしているのでしょう。これを理解するために今、次のような簡単なニューラルネットワークがあるとします。
ここで計算がどのように行われてゆくかを下記に示します。
最後の出力層では次のようになります。
隠れ層のノードに対して左から右に向かって計算をしますが、基本的に掛け算と足し算というような単純な計算の繰り返しになります。左側からデータを入れて出力計算をしますが、教師あり学習の場合、出力結果、つまり答えがどれになるのかが分かっていますから、その答えになるようにw11などの重み係数を調整し...