Deep Black BoxAIのブラックボックスを、1問ずつ開けて手で動かす。全21問。
Question 2

ずれの「地形」を下る

同じ地形を真上から見た図　── 暗いところがずれの小さいところ。× が谷底。 下の図で実際に歩きます
同じ地形を斜めから見た図　── 緑の筋が谷底、オレンジの丸がいまいる場所。 高さは見やすいように誇張しています
データと線　── つまみを動かすと、この線が動きます
ずれの地図（真上から見たところ。オレンジが歩いた跡）
緑の筋が谷底。オレンジが歩いた跡です。
–点　＝ ずれ　／ 0 歩
0目標 1.5 ↑30
「1歩ずつ」を数回押して、地図の上で点が動くのを見てください。

どこがダメかは、表を見れば分かります

いま　a ＝ 3.00　b ＝ 20.00　／　ずれ 27.18
この表から読めること
–

【測る】　つまみ1本だけを 1 上げて、ずれを見る

b（高さ）を 1 上げる（a は止めたまま）
–
a（傾き）を 1 上げる（b は止めたまま）
–
–

【動かす】　測り終わったら、ずれが減る向きへ 測った分だけ a と b を書き換える

押すと、いま測った分だけ両方が動きます
ボタンを押してください。
役に立つところ
学習が進まないときは、まず「1歩の大きさ（学習率）」を疑います。大きすぎると発散し、小さすぎると着きません。
この問で覚えること
これが勾配降下法です。力を数えて、その向きへ少し動かし、繰り返す。 GPT-3 は 10万回ほど。