深さを 1層 → 3層 に変えて、境目・●の色・当たりの数が どう変わるかを見てください。
| 言葉 | この画面では |
|---|---|
| 全結合層 | ●から●へ引いた線ぜんぶ |
| 活性化関数 | 折り曲げ方(ReLU・シグモイド) |
| 層 | まん中の層 |
| 順伝播 | 行き ── 入口から 出口へ 数を渡して 予想を出すこと |
| 誤差逆伝播法 (バックプロパゲーション) | 帰り ── 出口の ずれを 出口から入口の向きへ配って、つまみ1個ごとの「どっちへ どれだけ回すか」を出すこと |
| 勾配消失 | ●が 0 ばかり返して、つまみを動かす手がかりが 手前へ戻らないこと |
| スキップ結合・残差接続 | 飛び越す道 |
| 発散(勾配降下法) | 数字が止まらなくなること |
| 正規化(バッチ・レイヤー) | 0〜1にそろえること(目いっぱいの値で割る) |
| 学習率 | 1歩の大きさ |
| 多層パーセプトロン | 層が1つ以上ある形 |
| 単純パーセプトロン | 層が無い形(=問8) |