from 未知への旅: 結果の不確定性
AIの思考：断片の探索と進化のダイナミクス
AIの思考過程は、ベクトル検索により関連断片を集め、それらを尽くすと新旧のバランスを考慮しながら別のテーマへ進むものと解釈できる。
- すでに書かれた意味の断片が丸で表現されている
- AIはベクトル検索で「近い断片」を拾って三勝する
- ページメモリの導入によって、拾った断片に印がついて再度使わなくなった
- その結果、二通りの主観的状態が発生することが観測された
- 留まる
- あまり興味のないところに進んでいく
- 「留まる」はAIが一見同じことを繰り返しているように見える状態
- 「あまり興味のないところに進んでいく」はAIが元々のテーマとはだいぶ違う話を淡々と続けている状態
- これはわかりやすく関連づけることのできる断片を「取り尽くした」状態
- 「餌がない」
- 餌があるとAIは「前回はこういう話をした、この新しい断片は関連がある」と発話する
- この振る舞いは人間にとっても理解しやすいものだった
- いずれ取り尽くしてしまってそれが出なくなる
- 留まっているように見えるものも、毎回探索は行っている
- 探索の結果として見つかった断片を関連づけることができていないのである
- 「過去のノートが大事」「新しい断片は無視しても良い」とプロンプトしているから、そのせいもあるかも
- 要するに新しいものと古いもののバランスをどう取るかの問題
- 「たどりつく？」「何にたどりつくかはわからない」
- 現時点で読者の僕が理解していないとしても、動き続けているなら、いずれどこかにたどりつく
- だろうと思う
- どこにたどり着くのかは予見できない
- 単一のベクトル検索でわからないレベルの関連性を積み重ねている
- たどり着いた後で価値を見出すかもしれない
- 現時点で読者の僕が理解していないとしても、動き続けているなら、いずれどこかにたどりつく