2022年05月30日 レイヤー正規化(Layer Normalization) バッチ正規化の改善版。正規化方向をチャンネル方向から層方向に変更し、現在の層の値すべてだけで正規化する。TransformerやBERTなどの自然言語処理むけのRNN言語モデル・系列対系列変換モデルにおいて、よく使用される。 「G検定カンペ用語集」カテゴリの最新記事 タグ :#G検定#カンペ < 前の記事次の記事 >