2024年04月
ファインチューニング
積層オートエンコーダの終端に、タスクに合った出力をするためにもう1つ層を追加すること。
分類問題に対してはロジスティック回帰層を、回帰問題に対しては線形回帰層を追加する。
この最後の層も重みの調整が必要である。
最後の層を追加したあと、再度ネットワーク全体の「仕上げ学習」を行う。
積層オートエンコーダ
可視層
オートエンコーダにおける入力層と出力層の別称。
ソフトマックス関数
ロジスティック関数を多次元に拡張したもの。
分類問題に対して、出力層において確率を表わす値を出力する。
ネットワークの出力を確率分布に変換することができることから、ニューラルネットワークの最後の活性化関数としてよく用いられる。
隠れ層で特徴量を抽出するのに使われるReLU関数とは性質が異なる。