期待値 - log を取って学習した回帰の予測は、足すと総額を小さく見積もる

サイコロの目や、1 件ごとに払う保険金のように、試行のたびに値が変わる数を確率変数と呼びます。期待値(expected value)は、確率変数が取りうる値に、その値が出る確率を掛けて足した数です。同じ試行を何度も繰り返した時の 1 回あたりの平均に当たり、記号では E[X] と書きます。回帰モデルの予測を足して来月に払う総額や在庫量を見積もる時、1 件ごとの予測に要るのは、この期待値です。 ...

2026年5月26日 · 更新: 2026年11月17日 · 15 分 · nchika

同時分布・周辺分布・条件付き分布 - グループごとには正の相関でも、混ぜると負の相関になることがある

同時分布(joint distribution)は、複数の変数の値の組ごとの確率です。周辺分布(marginal distribution)は、同時分布を一部の変数について合計し、その変数を消した分布で、条件付き分布(conditional distribution)は、一部の変数の値を固定した時の残りの変数の分布です。 ...

2026年5月25日 · 更新: 2026年11月17日 · 13 分 · nchika

代表的な確率分布 - 回数のデータでも、分散が平均より大きければポアソン分布の範囲に収まらない

確率分布(probability distribution)は、測るまで値が決まらない量が、どの値をどれくらいの確率で取るかを表したものです。サイコロの目や、1 時間に借りられた自転車の台数がその例で、こうした量を確率変数と呼びます。ML(機械学習)では、データにノイズを足す時、損失関数を選ぶ時、ベイズの定理で事前分布を置く時に、正規分布やポアソン分布といった名前で出てきます。 ...

2026年5月26日 · 更新: 2026年11月17日 · 24 分 · nchika

ベイズの定理 - 陽性の割合が学習時と違えば、同じ予測確率でも意味が変わる

ベイズの定理(Bayes’ theorem)は、条件と結果を入れ替えた確率を求める式です。「石灰化なら判定が陽性になる確率」から「判定が陽性なら石灰化である確率」を出す時に使い、陽性がどれだけ珍しいかという割合が、2 つの確率をつなぎます。 ...

2026年5月26日 · 更新: 2026年11月17日 · 21 分 · nchika

大数の法則と中心極限定理 - 裾の重いデータでは、件数を増やすほど信頼区間が当たらなくなることがある

大数の法則(law of large numbers、LLN)は、同じ分布から独立に取った値を平均すると、件数を増やすほど、平均が期待値から大きく外れる確率が小さくなるという定理です。平均が標本ごとにどれだけ揺れるかを表す値は、標準誤差と呼びます。中心極限定理(central limit theorem、CLT)は、平均と期待値のずれを標準誤差で割った値が、件数が大きい時に平均 0、標準偏差 1 の正規分布に近づくという定理です。 ...

2026年5月26日 · 更新: 2026年11月17日 · 18 分 · nchika