重みパラメータを、一度にどの程度変化させるかを表す機械学習のハイパーパラメータ。
勾配降下法などで使われる。
学習率が高いほど、一度に変更する重みパラメータが大きくなるので、学習のスピードが上がる。
学習率が低いほど、学習のスピードは下がる。

新しい、未知のデータに対して高い予測精度を出せる能力のこと。
汎化性能が高いモデルをつくることが機械学習の目的だもといえる。

ハイパーパラメータを調整するための手段のひとつ。
ハイパーパラメータの値の設定範囲および試行回数をあらかじめ指定し、指定範囲内から指定された試行回数分だけランダムに値の組み合わせを試し、ベスト精度を出す組み合わせを見つける手法。
グリッドサーチよりは精度が劣る面があるが、探索にかかる時間を短縮することができる。