ベクトルと行列の演算（内積・行列積） - digits の 166 枚が、内積では同じ 1 枚の「1」を一番近いと選ぶ
ベクトルは数を一列に並べたもので、2 つのベクトルの内積（inner product、dot product）は、同じ位置の成分を掛けて全て足した 1 つの数です。行列積は、この内積をまとめて計算する操作です。線形回帰の予測、kNN の距離、大規模言語モデル（LLM）の注意機構、文書の検索と、機械学習の計算の多くは内積でできています。 ...
Linear-Algebra
固有値分解 - wine の PC4 を「malic_acid の軸」と呼んでよいか
固有ベクトル（eigenvector）は、正方行列 A をかけても同じ直線の上にとどまるベクトルで、固有値（eigenvalue）はその時に長さが何倍になるかを表す数です。固有値分解は、行列を固有ベクトルと固有値の組に分けることです。PCA（主成分分析）は、列の組ごとに一緒に増減する度合いを並べた共分散行列を固有値分解し、固有値の大きい順に並べた固有ベクトルを PC1、PC2 と呼ぶ主成分にします。 ...