hrjn NFTはあんまり本質がないので始まる前から終わってるって元々思ってたのだけど、LLMは割と革命的な技術ではあると同時にきちんと使いこなすには結局のところ従来の自然言語処理の背景知識が必要みたいなところがあるので、結局これも普通の人は扱い切らんと思うのよなー。
nishio >結局のところ従来の自然言語処理
いま「結局必要なのは検索の精度向上では？」という気持ちになってる
hrjn そうなのよね。 ChatGPTはすげー！とは思ったけど、実際使い込んでみると帯に短し襷に長しで、探し物なら検索のほうが良いし、サマリも「人間が読めばわかる」程度でよければハルシネーションが無い分従来技術の方が良い気もしないでも無いし、みたいな感じで十徳ナイフみたいな感じになってる予感。
nishio 生成AIをちゃんと生成に使うと有効なんだけど、そもそも顧客って生成がしたいんだっけ？と考えると、大部分の顧客のニーズは「読むのがしんどいたくさんのものの中から重要なところを見つけて欲しい」で、最終的に生成するとしても手前に「生成の材料を見つけて欲しい」があるから結局検索が必要的な話
nishio 話が若干違ってて「従来技術の方がいい」とは全く思わない。すでに自分が従来の検索も自分で作ったベクトル検索もほとんど使わずにRAGばかり使うようになってるから。なのだけど、それの有用さを上げていくとき競争のドメインはスパースな検索とデンスな検索を組み合わせたりリランクしたりになる感