キーワードと質問の選択は内積注意

• 「キーワードと質問のペア」の選択について
• 「状況に合わせたキーワードと質問のペアの選択」は内積注意である
  • 状況がS次元のベクトル
  • S次元のkeyがキーワードと質問のペアに対して1つ決まる
    • それが選択される対象だから
  • この内積にSoftmaxをかけて選択すれば良い
    • 不定長の対象からの選択が実現できる
  • 質問によって取るキーワードの個数が異なることを気にしていた
    • キーワードと質問の選択は注意機構ではまだ悩んでいた
  • 選択の対象ごとにS次元ベクトルが1つあれば良い
    • キーワードを0個、1個、2個とる質問ごとにベクトルを生成する関数が異なっていてもよい