G検定カンペ用語集

自分用G検定用チートシート。

カテゴリ:G検定カンペ用語集 > G検定カンペ用語集_


アメリカ合衆国の電気工学者、実業家。インテルの共同創業者。
1965年にムーアの法則を半導体製造における経験則として論文で発表。




=Adaptive Gradient Algorithm。
学習が進行するに従い、パラメータごとに自動的に学習率を調整する勾配降下法の最適化アルゴリズム。



=Root Mean Square Propagation。
AdaGradの改良版の最適化関数。
「最近」のパラメータの更新の影響を大きくし、学習率を急激に下げないように勾配の二乗の指数移動平均を計算に用いる。



Adam=Adaptive Moment Estimation。
RMSpropAdaGradのいいところを組み合わせた改良版の最適化アルゴリズム。
過去の勾配の二乗の指数移動平均を用いて、勾配の平均と分散を推定する。
学習の収束が早く、性能の良さからよく利用される。



AdaGradの改良版。
使用する過去の勾配の情報の範囲を制限する。


↑このページのトップヘ