平均 - float32 で多くの値を足すと、合計がある所から増えなくなる理由
平均(算術平均、mean)は、全ての値を足して、値の個数で割った値です。機械学習では、列ごとの平均を引いてから学習する標準化、誤差の平均を小さくする損失関数、画像の画素からデータ全体の平均を引く前処理など、至る所で計算します。 以下は、scikit-learn に同梱の写真 2 枚を load_sample_images で読み込み、ランダムな位置で 224×224 画素を切り抜いて画像を作り、枚数を変えながら、R・G・B のチャンネルごとに画素の平均を NumPy で計算した結果です。画素の値は 255 で割って 0〜1 にし、深層学習で一般的な 32 ビットの浮動小数点数(float32)で持っています。 ...