ベクトルと行列の演算（内積・行列積）
ベクトル（vector）は数を 1 列に並べたもの、行列（matrix）は数を 2 次元に並べたものです。機械学習では、データ 1 件を「特徴量ベクトル」、データ集合を「行列」、モデルの重みを「ベクトル」または「行列」で表すのが標準で、内積・行列積といった演算がほぼすべてのアルゴリズムの計算基盤になっています。ここでは、(1) ベクトルの加算・スカラー倍、(2) 内積の代数と幾何の両面、(3) 行列の積と線形変換としての見方、(4) 機械学習で頻出する「データ行列 × 重みベクトル」のパターン、の 4 点を整理します。線形回帰・ロジスティック回帰・ニューラルネット・PCA・SVM（Support Vector Machine、サポートベクターマシン）、いずれも X @ w という形の行列ベクトル積が中核に座っています。 ...