勾配降下法において発生するおそれのある「局所最適解問題」や「プラトー」という状況を避けるために、学習データの渡し方を工夫することがある。

ミニバッチ学習は、N個の訓練データの中から、一部(n個)のデータを取り出し、取り出したn個のデータごとに損失関数を計算し、パラメータの更新をする手法。
取り出した訓練データをミニバッチと呼ぶ。
取り出すデータ数nをバッチサイズと呼ぶ。