2024年05月15日 Xavierの初期値 ニューラルネットワークの初期値の設定が、学習の収束に影響を与えることがある。すべての重みをほぼ同じ初期値に設定すると、すべての重みが同じように更新されてしまうし、重みをバラバラな値に設定した場合も、バラつきが大きすぎると勾配消失問題を引き起こしやすくなる。そのため、先行する層のニューロンの数を考慮して重みを初期化すべきだと考えられている。Xavierの初期値は、主にシグモイド関数やTanh関数を活性化関数として用いた時に効果を発揮する初期値である。 「G検定カンペ用語集」カテゴリの最新記事 タグ :#G検定#カンペ < 前の記事次の記事 >