誤差逆伝播（バックプロパゲーション） ニューラルネットワークが正しい出力を得るようになるには、重みやバイアスなどのパラメータを調整する必要があります。 誤差逆伝播（バックプロパゲーション）という手法を使うことで、パラメータを調整することがで…

損失関数 前回の最終出力で がわかりました。 これらの値がそれぞれ、教師データの と同じ（か、ひじょうに近い値）であれば、期待した出力といえます。 しかし、重みやバイアスの初期値はいいかげん（ランダム）な値になっているため、初めから期待した出力…

出力値の求め方 出力層のユニットの出力値の求め方は、隠れ層のユニットの出力値の求め方とほぼ同じですが、活性化関数を にしているため、その部分が異なります。 例として ユニットo11 の出力を求めてみます。 を求める ユニットo11 の出力値 を求めるには…

出力値の求め方 隠れ層２層めのユニットの出力値の求め方は、１層めのユニットとほぼ同じです。 ただし、入力値は１層めの該当するユニットの出力値（）となります。 例として ユニットh21 の出力を求めてみます。 を求める ユニットh21 の出力値 を求めるに…

出力値の求め方 順伝播でのユニットの出力値は、そのユニットへの入力に対し、それぞれ対応する重みを掛けて足しあげたものにバイアス値を加え、その値に活性化関数を適用することで求めることができます。 図の ユニットh11 を例にとると、入力層の各ユニッ…

何をやるつもりか 数式ベースに順伝播、逆伝播の計算式を見ていく その後で、ExcelVBAでニューラルネットワークをフルスクラッチ 題材はよくあるアヤメの分類問題 何をやらないつもりか 汎用化の追求 精度の追求 今回扱うニューラルネットワーク 入力：４ 出…

このブログの目的めいたもの ニューラルネットワークの順伝播、逆伝播についてはじめは数式を中心に、その後でExcelVBAでの実装を目標に進めていきたいと思っています。 ただし、ニューラルネットワークの基本的な内容についてはあちこちで目にされていると…