nishio 「ChatGPTに何度もXをやれって言ってるのにずっとYをやる！俺の使い方が悪いのか？」みたいなことを言う人がいるけど、多分「そうだよ」が正解だよね。過去ログが「Xに対してYを返せ」というFew-shotになってるよね。
nishio チャットの見た目のUIを被せたことでシステムを理解してない人でもなんとなく使えるようになってハードルは下がったんだろうけど、それはそれでシステムを正しく理解しないで使う人が増えるという弊害もあるわけで悩ましいことだね
nishio 人間との会話でも、うまくいかないことがわかってる方法をなぜか繰り返してしまう人っているよね。「こんなに言ってるのに理解しないあいつはダメだ」と他責するので、自分の側が原因であることを理解できない。同じことを繰り返して違う結果を望むこと自体が狂気なのに。
nishio まあでも、やさしい見た目を被せたことで中身を理解しないまま使う人が出てくるという話は、昔GCのあるスクリプト言語が流行り始めた時に「メモリのことを意識せずにプログラムを書くやつが出てきてけしからん」と言う人が出てきたのと同じことか
nishio こう言う話
nishio 間違ったやり取りを3回続けただけで、その過去ログがFew-shotの指示として機能して「なるほど、実際に足し算した値より大きな値を答えるボケをやるゲームだな」みたいな感じで8+13は30だと言い始める(GPT4)
nishio こういうのを「当然そうだろ」と思って再現するのは、プログラミング言語で「知らない人が一見ギョッとするけど、当然そうなるだろと思って再現できること」に相当するんだろうな、やってる時の気持ちがほぼ同じだ
関連