2023年10月02日 位置エンコーディング 自然言語処理を中心に活用されているTransformerにおける処理。各トークンが系列中の何番目の位置にあるか? を区別するための位置情報を、符号化関数を用いて高次元ベクトルへ変換する。位置符号化ともいう。トークン系列の開始時点を基準とした、絶対的な位置情報を埋め込む。 「G検定カンペ用語集」カテゴリの最新記事 タグ :#G検定#カンペ < 前の記事次の記事 >