https://debimate.jp/tags/optimization/Recent content in Optimization on Debimatehttps://debimate.jp/images/default-ogp.jpghttps://debimate.jp/images/default-ogp.jpgHugo -- 0.161.1ja-jpTue, 26 May 2026 00:00:00 +0000https://debimate.jp/ml/math/gradient-descent-sgd/Tue, 26 May 2026 00:00:00 +0000https://debimate.jp/ml/math/gradient-descent-sgd/<p>最急降下法（gradient descent, GD）は、関数 <code>f(x)</code> を最小化するために「現在地から見て最も急に下る方向（= 負の勾配 <code>-∇f</code>）に少しずつ進む」反復アルゴリズムである。確率的勾配降下法（stochastic gradient descent, SGD）は、勾配を全データではなくランダムな 1 サンプル（または小バッチ）から推定して更新する派生で、大規模データでの学習に欠かせない手法となる。</p>