1単語で生成されるLSTMの内部状態は学習中の内部状態の分布から遠い 複数単語を入力できるべき 語彙にない単語は無視する 別途LSTMの内部状態が学習中の状態と近いかどうかをスカラー値で返す関数を学習するってのも面白いかも