from 日記2023-09-15 長い寝起き神託の考察
今回の寝起き神託は長いな、3件ある 独立しているように見えるが、関連しているところもある 全体と個別とを両方AIシャーマンに渡して試してみるか？
長いものは強く「要約」されてしまって面白くない
- LLMの幅が固定されているため、長い入力を入れるとそれを膨らませることができず要約が強くなる
- 期待している処理に対する適度なサイズ感がある
- これはLLMの実装依存で、他のLLMだと変わりうるし、同じLLMでもプロンプトの影響を受ける
- 入力の長さが非言語的な指示としてLLMの振る舞いに影響を与えているのだろう
- 人間というハードウェアの側の要因で適度なサイズ感はあるかもしれない
- 2倍大きなスマホも2倍小さいスマホもスマホとしては使いにくい
- ペンの軸の太さに人によって好みがある
- AIシャーマンに関していえば、これは囲碁の布石のような感じ
- Aのようにきっちり並べるのではなく、B1のように緩く囲う
- 後からB2のように周囲が補われる
- 囲碁の場合は石を追加するし、AIシャーマンの場合はLLMが言葉を補う
- そのためには、最初に置かれたものよりもたくさんの石が置かれるので、その余地がなければならない
AIに発展させさせたが冒頭解説の「AIシャーマン」に引きずられてるな