第11章 後半: 過学習、評価指標、ニューラルネットと自動微分

• 訓練の損失だけでは過学習は見抜けず、検証の損失と学習曲線で止める所を決める
• 評価の指標は単位と目的に合わせて選び、基準となる予測との比較とグループ別の内訳を添える
• ニューラルネットは線形変換と非線形を重ねたもので、自動微分はその勾配を連鎖律でまとめて計算する

教材の 11.3 節から 11.6 節まで。

『日本語技術教科書 ボリュームゼロ』第11章の後半は、学習の進め方、評価の物差し、ニューラルネットと自動微分を扱う。

11.3.1 バッチとエポック

バッチは一回の更新のために勾配を計算する標本の束、エポックは訓練データを一周することである。10 件をバッチの大きさ 4 で切ると、4、4、2 の三つに分かれ、更新は 3 回になる。小さい束は途中の配列が軽く更新も早く回せるが、全体の勾配からのぶれが大きい。大きい束は並列に向く一方、メモリと一回に扱う量が膨らむ。

端数の束を捨てる設定は、順番が毎回同じなら特定の標本が学習に呼ばれ続けない。損失の平均も、束ごとの平均を等しく平均してはならない。束の平均が 1、1、4 で件数が 4、4、2 なら、全体の平均は 1.6 で、単純平均の 2 とはずれる。

11.3.2〜11.3.3 過学習と正則化

過学習は、訓練データの偶然やノイズまで覚え込み、初めて見る例で崩れる状態である。不足学習は逆に、学習が足りず肝心の関係を捉えていない状態である。訓練の損失だけでは二つを区別できない。教材の例では、入力の 2 倍にノイズを乗せた 9 点に、一次式と八次式を当てはめる。八次式は訓練の誤差がほぼ 0 になるが、点の間で曲がり、検証の誤差は約 0.015 で、一次式の約 0.0006 より大きくなる。

学習曲線で訓練の損失が下がり検証の損失が上がれば、過学習が疑わしい。ただし一度の上昇で止めず、何回待つかの規則を決め、検証の成績が良かった時点の重みへ戻す。検証の成績が悪くても、層を足すと決めつけない。容量不足なのか、学習の途中なのか、特徴の不足なのか、分布の違いなのかを順に見分ける。

正則化は、訓練の誤差だけで決めず、重みを小さく保つといった好みを目的に足し込む方法である。L2 では、重みの二乗の和に強さを掛けた項を足す。入力がマイナス 1、0、1、正解がその 2 倍の三点で、強さ 0 なら重みは 2、強さ 1 なら 0.8 になる。訓練の誤差は増えるが、狙いどおりの結果である。面積の単位を替えると同じ予測の係数も変わるため、標準化と組にして設計する。強すぎると不足学習になり、強さは検証で選ぶ。

11.4.1〜11.4.3 評価の指標

MAE は誤差の絶対値の平均、RMSE は二乗平均の平方根で、どちらも正解と同じ単位である。正解が 2、4、6、予測が 3、3、6 なら、MAE は 3 分の 2、RMSE は約 0.82 になる。決定係数は、正解の平均だけを答える予測と比べた誤差の減り方を測り、この例では 0.75 である。因果の説明率ではない。

比べる相手として、訓練の平均を返す予測を基準に置く。テストの正解の平均から定数を作ると、答えを先に覗いたことになる。全体の誤差が小さくても、少数の高額物件だけ大きく外すことがあるので、グループ別にも指標を出す。成績の悪いグループを見て設定を直せば、そのテストは選ぶ作業に使われたことになり、独立した最終評価には別のデータが要る。

分類の確率は、候補に割り当てる 0 以上 1 以下で合計 1 の量である。確率 0.8 は、その一件が 8 割だけ正しいという意味ではなく、実際に合っているかは別に測る。スコアをシグモイドに通すと確率になり、スコアそのものはロジットと呼ばれる。正解が 1 のときの交差エントロピーは、確率 0.8 で約 0.223、0.2 で約 1.609 になる。公式をそのまま並べると、スコアが 1000 のような場合に数値が壊れるため、安定に計算する関数を使う。

混同行列は、陽性を当てた TP、陰性を陽性と誤った FP、陽性を見逃した FN、陰性を当てた TN を数える。適合率は陽性と予測した中の的中の割合、再現率は本当の陽性のうち拾えた割合である。TP が 2、FP が 1、FN が 1、TN が 2 なら、どちらも 3 分の 2 になる。閾値を下げると見逃しは減るが、一般に誤検知は増える。百件のうち陽性が十件なら、全部を陰性と答えるだけで正解率は 9 割になり、再現率は 0 である。しきい値は、見逃しと誤検知のコストを考えながら、検証データの上で選ぶ。

11.5.1〜11.6.1 ニューラルネットと自動微分

全結合層では、各出力が入力の全成分の重み付きの和に切片を足したものになる。線形の層を二つ重ねても展開すれば一つの線形変換にまとまるため、ReLU のような非線形の変換を挟む。教材の例は、2 件の入力に 2×3 と 3×1 の重みを当て、出力は 0 と 2 になる。パラメーターは 6、3、3、1 で合計 13 個である。途中の値は微分で使うため保存され、層が深いほどメモリが要る。

計算グラフは、重みから損失までの影響の道筋を表す。連鎖律は道筋に沿って局所の変化率を掛ける規則で、複数の道があれば足す。逆伝播は損失の側から逆向きにたどってこの寄与を集める。PyTorch の例では、前半と同じ数字で損失が 17、重みの勾配が -13、切片の勾配が -8 になる。逆向きの計算を呼んだだけでは重みは更新されず、更新の命令で初めて 1.3 と 0.8 に動く。勾配は上書きではなく足し込まれるため、更新のたびに前回の分を空にしておく必要がある。

学習の輪は、入力から予測、損失、勾配、更新へと進む。検証は輪の外に置いて設定の選択に使い、テストは選び終えたあとの評価のために取っておく。モデルを使い回すには、重みのほか、特徴の並び順、平均、標準偏差、欠損の扱いなどの約束も残す。

次の第12章では、LLM のシステムの全体像を、入力から生成までたどる。