機械学習初心者(私)が、機械学習の初歩を学ぶ際に残した記録です。

ソースコード・Jupyter Notebook・実行環境は、GitHub 上の debimate/projects/ml/ を参照してください。記載内容の誤り(認識違い)の指摘は大歓迎です。


コンテンツ一覧

Mathematics(数学の基礎)

Machine Learning(評価・概念・アルゴリズム)

No.項目カテゴリ
1混同行列・偽陽性/偽陰性・閾値調整評価指標
2ROC-AUC / PR-AUC評価指標
3回帰の評価指標(RMSE / MAE / R²)評価指標
4確率の校正(Platt scaling / Isotonic)評価指標
5損失関数(MSE / 交差エントロピー)学習概念
6過学習(overfitting)学習概念
7バイアス-バリアンス分解(bias-variance tradeoff)学習概念
8正則化(regularization)学習概念
9交差検証(cross validation)学習概念
10ハイパーパラメータ(hyperparameter)学習概念
11データリーク(data leakage)学習概念
12クラス不均衡への対処(class imbalance)学習概念
13次元の呪い(curse of dimensionality)学習概念
14標準化と特徴量スケーリング(standardization)前処理
15カテゴリ変数のエンコーディング(categorical encoding)前処理
16欠損値処理(MCAR / MAR / MNAR)前処理
17特徴量選択(feature selection)前処理
18線形回帰(linear regression)教師あり
19LogisticRegression - ロジスティック回帰教師あり
20kNN - k近傍法教師あり
21決定木(decision tree)教師あり
22サポートベクターマシン(SVM)教師あり
23RandomForest - ランダムフォレスト教師あり
24GradientBoosting - 勾配ブースティング教師あり
25アンサンブル学習(bagging / boosting / stacking)学習概念
26時系列予測(time series forecasting)時系列
27k-means - K-means/k平均法教師なし
28PCA - Principal Component Analysis教師なし
29DBSCAN(density-based clustering)教師なし
30階層的クラスタリング(hierarchical clustering)教師なし
31t-SNE と UMAP(非線形次元削減)教師なし
32異常検知(Isolation Forest / LOF / One-Class SVM)教師なし
33特徴量重要度(permutation importance)解釈性
34パーセプトロン(perceptron)深層学習
35活性化関数(sigmoid / ReLU / GELU)深層学習
36誤差逆伝播法(backpropagation)深層学習

MLOps

理解度チェック

学習で扱った判断軸を自分でも試せる形式にまとめたクイズ集です。問題と折りたたみ解答で構成されており、判断軸の定着を確認したいときに使います(Claude製)。


Notebooks


プロジェクト構成

projects/ml/
├── notes/        ← このページ配下のMarkdown本体
│   ├── math/
│   ├── ml/
│   └── mlops/
├── notebooks/    ← Jupyter Notebooks
├── datasets/     ← 分析対象データ(再取得可能なので Git 非追跡)
├── scripts/      ← データセット取得スクリプト
└── pyproject.toml

前提

インストール

cd projects/ml
uv sync

データセットのダウンロード

uv run python scripts/download_datasets.py

参考文献(手元にある書籍)