表記揺れ吸収:

そもそも埋め込みとは何か?

  • 離散的な集合である単語文字などのシンボルを、加算やスカラー倍を備えたベクトル空間写像すること
  • 数学的には
    • 数学において、埋め込み(うめこみ、embedding, imbedding)とは、数学的構造間の構造を保つような単射のことである。

    • Wikipedia
    • なんだけど、この場合は元の集合がただの離散な集合だから保つべき構造が特に存在しないんだよね
  • というわけで埋め込みベクトルという表現はあんまり適当ではないのかもしれないが、ニューラルネットによる自然言語処理関連の分野でこの処理を担当する層のことをembedding layerと呼ぶことはかなり一般的だから仕方ない。