ここまでの文脈
nishio ふと気づいたんだけど「巨大LLMが『まだ知らない有益な情報』を与えた人間に報酬を支払う」という構図が生まれたら、人間が新しい情報を作り出す仕事に従事するようになる〜というのはユートピアすぎる想定で、まずその手前に「秘密情報をLLMに垂れ込んで金に変える人」の大量発生が起きる気がした
-
nishio 秘密や嘘の存在しない統合思念体へと進化できるのだからユートピアか！()
0xtkgshn まだ知らないことっていうのはどう判定するんですか？みんなが入れる単語を監視して、とりあえず返答してその返答を評価させて低いやつが「求められてるやつ」で、そこのドメイン知識を入れると報酬を還元とかかな
-
nishio 「まだ知らないこと」と「求められていること」は比較的楽に判断できるけど「回答が嘘ではないこと」の判断が難しい。基本的にはたくさん集めて外れ値を捨てることになると思う。
-
nishio 求められてること: 人間からよく質問されるが、回答に対する評価が良くないこと
-
まだ知らないこと(まだ知らなかったこと): 与えられた情報が解答になるような質問文を生成して旧バージョンに回答させ、与えられた情報を出力できないこと
-
-
-
sirouto 素朴な疑問で恐縮ですが、ネットからタダで学習できるのに、報酬を払うでしょうか？ 未知の情報を買うにしても、信用情報が必要です。たとえば、「A社」が来年に新製品を出す情報は、文章の機械学習で真偽を判断できません。むしろ、検索と同様に掲載料を取り、AIの回答にリンク広告を載せそうです。
-
nishio ネットからタダで学習できる情報が学習し終わり、他の情報をどうやって手に入れるかの競争になった後の話です。真偽の判定をAIがやる必要はなく、人間に与えて人間が有用かどうかの判定をすれば良いです。
shima__shima その前に，あることないこと適当なことを吹き込む人が大量発生すると思います