実験管理(experiment tracking) - MLflow で 1 位の run は、seed を変えても 1 位か

実験管理(experiment tracking)は、モデルを 1 回学習させるたびに、使った設定とデータ、出てきた評価の値を 1 組にして残す仕組みです。この 1 組を run と呼びます。代表的なツールの MLflow では、Python のコードから run を記録し、後から評価の値が高い順に並べたり、2 つの run を見比べたりできます。 ...

2026年5月26日 · 更新: 2026年11月12日 · 13 分 · nchika

混同行列 - 閾値を下げて Recall が上がったのに、悪性の見逃しが増える理由

混同行列(confusion matrix)は、分類モデルの予測を「正解のクラス」と「予測したクラス」の組ごとに数えた表です。2 クラスなら 2×2 のマスになり、どのマスに何件入ったかを見ると、モデルが何を見逃し、何を誤って拾ったかが分かります。 ...

2026年5月24日 · 更新: 2026年11月17日 · 14 分 · nchika

モデルレジストリとバージョニング(model registry)

モデルレジストリ(model registry)は、学習済みモデルに名前とバージョンを付け、学習時の条件や評価結果と結び付けて管理する仕組みです。新しいモデルを本番へ出す時や、問題が起きて以前のモデルへ戻す時に、どのモデルを使うか指定できます。 ...

2026年5月26日 · 更新: 2026年11月12日 · 8 分 · nchika

ROC-AUC / PR-AUC

ROC-AUC(Receiver Operating Characteristic - Area Under the Curve)と PR-AUC(Precision-Recall - Area Under the Curve)は、二値分類モデルの性能を「閾値に依存せず」 1 つの数で比較するための指標です。両者は同じ予測スコアから計算できます。ただし、不均衡データ(陽性クラスが極端に少ないデータ)における振る舞いが大きく違うため、目的によって使い分けます。 ...

2026年5月24日 · 更新: 2026年11月14日 · 8 分 · nchika

平均 - float32 で多くの値を足すと、合計がある所から増えなくなる理由

平均(算術平均、mean)は、全ての値を足して、値の個数で割った値です。機械学習では、列ごとの平均を引いてから学習する標準化、誤差の平均を小さくする損失関数、画像の画素からデータ全体の平均を引く前処理など、至る所で計算します。 以下は、scikit-learn に同梱の写真 2 枚を load_sample_images で読み込み、ランダムな位置で 224×224 画素を切り抜いて画像を作り、枚数を変えながら、R・G・B のチャンネルごとに画素の平均を NumPy で計算した結果です。画素の値は 255 で割って 0〜1 にし、深層学習で一般的な 32 ビットの浮動小数点数(float32)で持っています。 ...

2026年5月24日 · 更新: 2026年11月17日 · 14 分 · nchika

回帰の評価指標(RMSE / MAE / R²)- 誤差が一番小さい地域で R² が一番低くなる

回帰の評価指標は、数値を当てるモデルの予測と正解のずれを 1 つの数にまとめた値です。よく使われるのは RMSE(Root Mean Squared Error、二乗平均平方根誤差)、MAE(Mean Absolute Error、平均絶対誤差)、R²(決定係数)の 3 つです。RMSE と MAE はずれの大きさの目安で、予測する値と同じ単位を持ち、小さいほど良い値です。R² は単位を持たず、1 に近いほど良い値です。 ...

2026年5月26日 · 更新: 2026年11月13日 · 14 分 · nchika

推論サービング(inference serving): バッチ推論とオンライン推論

推論サービング(inference serving)は、学習済みモデルに本番の入力を渡して予測を返す仕組みです。例えば、解約しそうな顧客を当てるモデルなら、会員ページを開いたユーザーに解約確率をその場で返すこともできますし、全顧客の解約確率を夜間に計算して DB(データベース)へ保存しておくこともできます。前者をオンライン推論、後者をバッチ推論と呼びます。どちらを選ぶかで、サーバーの構成・コスト・監視する指標が変わります。 ...

2026年5月26日 · 更新: 2026年11月14日 · 12 分 · nchika

中央値(メジアン)

中央値(median)は、データを小さい順に並べた時に真ん中に来る値です。データ数 n が奇数なら (n+1)/2 番目の値、偶数なら n/2 番目と n/2+1 番目の平均を使います。平均が値の重心を見るのに対し、中央値は順位の中心だけを見るので、外れ値に引きずられにくい代表値です。四分位点の Q2(50% 点)とも同じ値を指します。 ...

2026年5月24日 · 更新: 2026年11月12日 · 5 分 · nchika

確率の校正(probability calibration): Platt scaling / Isotonic

確率の校正(probability calibration)は、モデルが出す予測確率と、その確率を付けた集団での実際の正例割合が合うように調整する処理です。例えば「確率 0.9」と予測した件数をまとめた時、正例が約 90%なら、その集団では予測確率と観測結果が対応しています。 ...

2026年5月26日 · 更新: 2026年11月12日 · 6 分 · nchika

データドリフト - 入力分布の変化を知らせるアラートは、正解率の変化と一致するとは限らない

データドリフト(data drift)は、モデルを学習した時と本番とで、データの分布が変わることです。コードもモデルも変えていないのに予測が外れ始める原因の 1 つで、本番のモデルを監視する仕組みには、入力の分布を学習時と比べてアラートを出す機能がよく入っています。 ...

2026年5月25日 · 更新: 2026年11月14日 · 19 分 · nchika

Quantile - 同じデータの 90 パーセンタイルが、関数ごとに違う値になる理由

分位点(quantile)は、データを小さい順に並べた時に、下から割合 q の位置にある値です。q を百分率で書いたものをパーセンタイル(percentile)と呼び、90 パーセンタイルは下から 90% の位置の値です。監視の画面では p90・p99 と略します。25%・50%・75% の 3 つは四分位点(quartile)と呼び、Q1・Q2・Q3 と書きます。Q2 は中央値そのものです。 ...

2026年5月24日 · 更新: 2026年11月17日 · 15 分 · nchika

モデル性能劣化の監視 - 正解率が落ちても、モデルの確信度は下がらないことがある

モデル性能劣化の監視は、本番で動くモデルの予測が、学習した時より当たらなくなっていないかを見張り続けることです。分類のモデルなら、予測と後から分かる正解を突き合わせて正解率を出すのが基本で、正解が届くまでの間は、入力の分布やモデルの確信度を代わりに見ます。確信度は、モデルが予測したクラスに付けた確率で、2 値分類なら 0.5 から 1 の値を取ります。 ...

2026年5月26日 · 更新: 2026年11月14日 · 19 分 · nchika

損失関数(loss function): MSE と交差エントロピー

損失関数(loss function、cost function、objective function)は、モデルの予測 ŷ と正解 y のずれを 1 つの数に変換する関数です。学習はこの損失関数の値を最小化する操作で、どの損失関数を選ぶかは学習結果に大きく影響します。 ...

2026年5月26日 · 更新: 2026年11月12日 · 9 分 · nchika

分散 - SQLite の AVG(ts*ts) - AVG(ts)*AVG(ts) は、ミリ秒で記録した時刻の標準偏差が数秒以下だと 0 や負の値を返すことがある

分散(variance、バリアンス)は、値が平均の周りにどれだけ散らばっているかを 1 つの数で表す指標です。各値から平均を引いた差を偏差と呼び、偏差を 2 乗して平均した値が分散です。期待値の記号では Var(X) = E[(X - E[X])²] と書き、式を展開すると E[X²] - E[X]²、つまり「2 乗の平均 − 平均の 2 乗」になります。分散の平方根を標準偏差と呼び、元の値と同じ単位で散らばりの大きさを読む時に使います。 ...

2026年5月24日 · 更新: 2026年11月18日 · 20 分 · nchika

再学習パイプライン(retraining pipeline)

再学習パイプライン(retraining pipeline)は、本番のモデルを新しいデータで学習し直し、評価してからデプロイするまでを自動化する仕組みです。入力データの分布や入力と正解の関係は時間とともに変わるので(データドリフト)、一度学習したモデルの精度は少しずつ落ちていきます。 ...

2026年5月26日 · 更新: 2026年11月14日 · 10 分 · nchika

過学習 - 答えが乱数のデータでも、テストの点を見て列を選ぶとテストの正解率が上がる理由

過学習(overfitting)は、モデルが学習に使ったデータの細かな揺れまで覚えてしまい、学習に使っていないデータでは当たらなくなる状態です。学習に使うデータを訓練データ、学習に使わず最後に精度を測るために取り分けたデータをテストデータと呼びます。過学習は、訓練データではほぼ満点なのに、テストデータでは精度が大きく落ちる、という形で表に出ます。 ...

2026年5月24日 · 更新: 2026年11月17日 · 14 分 · nchika

標準偏差

標準偏差(standard deviation)は分散の平方根で、データが平均の周りにどれくらい散らばっているかを元データと同じ単位で表す指標です。身長(cm)のデータなら、分散は cm² という解釈しにくい単位になりますが、標準偏差は cm のまま扱えます。分散が 25 cm² なら標準偏差は 5 cm です。 ...

2026年5月24日 · 更新: 2026年11月12日 · 5 分 · nchika

バイアス-バリアンストレードオフ - 正則化の無い線形回帰では、列の数が行の数に並ぶ所でバリアンスが跳ね上がり、その先で下がる

バイアス-バリアンストレードオフ(bias-variance tradeoff)は、モデルの誤差を 2 つの成分に分けて、モデルの複雑さとの関係を説明する考え方です。1 つ目のバイアスは、学習データを替えて何度も学習した時に、予測の平均が正解からどれだけずれるかです。2 つ目のバリアンスは、学習データを替えるたびに予測がどれだけばらつくかです。 ...

2026年5月25日 · 更新: 2026年11月18日 · 18 分 · nchika

歪度と log1p - 歪度は単位で変わらないが、log1p 後の歪度は単位で変わる

歪度(skewness、わいど)は、分布の左右の非対称さを 1 つの数で表す指標です。平均が分布の中心、分散と標準偏差が広がりを表すのに対して、歪度は右に長く裾を引くと正、左に長く裾を引くと負、左右対称なら 0 になります。給与・取引金額・待ち時間のように下限はあるが上限の無い量は、右に裾を引きやすく、歪度が正になります。 ...

2026年5月24日 · 更新: 2026年11月17日 · 13 分 · nchika

カーネル密度推定(KDE) - 同じ「scott」のバンド幅でも、scikit-learn と scipy では意味が違う

カーネル密度推定(Kernel Density Estimation, KDE)は、データ点の集まりから滑らかな分布の曲線を推定する手法です。各データ点に小さな山(カーネル)を置き、全ての山を足して全体の形を作ります。山の広がりをバンド幅(bandwidth)と呼び、曲線の見え方はほぼこの値で決まります。 ...

2026年5月24日 · 更新: 2026年11月17日 · 12 分 · nchika

正則化 - Lasso が残す列は、なぜ行を選び直すだけで何通りにも分かれるのか

線形のモデルは、データの列ごとに係数を掛けて足し、予測を作ります。学習は、予測の外れ具合を表す損失関数が小さくなるように係数を決める作業です。 正則化(regularization)は、この損失に、係数の大きさに応じたペナルティを足す仕組みです。係数を大きくして学習データに合わせ込むほどペナルティが増えるので、学習データにだけ合う過学習を抑えられます。係数の 2 乗をペナルティにする方式を L2、絶対値をペナルティにする方式を L1 と呼びます。線形回帰に L2 を足したものが Ridge、L1 を足したものが Lasso で、Lasso は効きの弱い列の係数をちょうど 0 にします。 ...

2026年5月24日 · 更新: 2026年11月17日 · 16 分 · nchika

交差検証 - cv に整数を渡す時と KFold を渡す時で、行の分け方が変わる理由

交差検証(cross validation、CV)は、手元のデータを学習用と検証用に何通りも分け直し、それぞれで測ったスコアを平均してモデルの性能を見積もる手法です。1 回だけ分けて測ると、どの行が検証側に入ったかの運でスコアが大きく動くので、分け方を変えながら平均を取ります。 ...

2026年5月24日 · 更新: 2026年11月18日 · 13 分 · nchika

相関係数 - 0 でも関係は残り、1 点の外れ値で符号まで変わる

相関係数は、2 つの列が一緒に増えたり減ったりする度合いを -1 から +1 の 1 つの数にまとめた指標です。+1 に近いほど片方が増えるともう片方も増え、-1 に近いほど片方が増えるともう片方は減ります。pandas の DataFrame.corr で相関行列を出し、目的変数(予測したい列)と相関の強い列を探したり、似た列の組を見つけたりするのは、手元のデータを眺める時に最初に行うことの 1 つです。 ...

2026年5月24日 · 更新: 2026年11月18日 · 16 分 · nchika

期待値 - log を取って学習した回帰の予測は、足すと総額を小さく見積もる

サイコロの目や、1 件ごとに払う保険金のように、試行のたびに値が変わる数を確率変数と呼びます。期待値(expected value)は、確率変数が取りうる値に、その値が出る確率を掛けて足した数です。同じ試行を何度も繰り返した時の 1 回あたりの平均に当たり、記号では E[X] と書きます。回帰モデルの予測を足して来月に払う総額や在庫量を見積もる時、1 件ごとの予測に要るのは、この期待値です。 ...

2026年5月26日 · 更新: 2026年11月17日 · 15 分 · nchika

ハイパーパラメータ - グリッド探索は、試す回数を増やしても 1 つの値を数通りしか試さない

ハイパーパラメータ(hyperparameter)は、学習を始める前に人が決めるモデルの設定値です。勾配ブースティングなら、木を何本足すか、1 本の木に葉を何枚まで作るか、といった値がこれに当たります。良い値はデータごとに違うので、候補をいくつも試し、一番良かったものを選びます。この作業をハイパーパラメータの探索と呼びます。 ...

2026年5月24日 · 更新: 2026年11月17日 · 18 分 · nchika

データリーク - 検証に回る行の正解が学習に届く経路ほど、評価は大きく膨らむ

データリーク(data leakage)は、予測する時には手に入らないはずの情報が学習に混ざり、評価の点が本番より高く出ることです。交差検証で思ったより良い点が出た時に、最初に疑うものの 1 つです。 ...

2026年5月25日 · 更新: 2026年11月16日 · 18 分 · nchika

同時分布・周辺分布・条件付き分布 - グループごとには正の相関でも、混ぜると負の相関になることがある

同時分布(joint distribution)は、複数の変数の値の組ごとの確率です。周辺分布(marginal distribution)は、同時分布を一部の変数について合計し、その変数を消した分布で、条件付き分布(conditional distribution)は、一部の変数の値を固定した時の残りの変数の分布です。 ...

2026年5月25日 · 更新: 2026年11月17日 · 13 分 · nchika

クラス不均衡 - 重み付けやリサンプリングの効果は、閾値を下げただけのモデルと比べて測る

クラス不均衡(class imbalance)は、分類で見つけたいクラスが全体のごく一部しかない状態です。カードの不正利用、製品の不良、病気の検出がその代表で、見つけたい側を陽性、それ以外を陰性と呼びます。陽性が 2% しかなければ、全てを陰性と答えるだけで正解率は 98% になります。 ...

2026年5月26日 · 更新: 2026年11月18日 · 17 分 · nchika

代表的な確率分布 - 回数のデータでも、分散が平均より大きければポアソン分布の範囲に収まらない

確率分布(probability distribution)は、測るまで値が決まらない量が、どの値をどれくらいの確率で取るかを表したものです。サイコロの目や、1 時間に借りられた自転車の台数がその例で、こうした量を確率変数と呼びます。ML(機械学習)では、データにノイズを足す時、損失関数を選ぶ時、ベイズの定理で事前分布を置く時に、正規分布やポアソン分布といった名前で出てきます。 ...

2026年5月26日 · 更新: 2026年11月17日 · 24 分 · nchika

ベイズの定理 - 陽性の割合が学習時と違えば、同じ予測確率でも意味が変わる

ベイズの定理(Bayes’ theorem)は、条件と結果を入れ替えた確率を求める式です。「石灰化なら判定が陽性になる確率」から「判定が陽性なら石灰化である確率」を出す時に使い、陽性がどれだけ珍しいかという割合が、2 つの確率をつなぎます。 ...

2026年5月26日 · 更新: 2026年11月17日 · 21 分 · nchika