オープンなLLMによるエコシステム形成

hrjn LLMで一寸先が闇というひと多いけど、未だかつて5年も先が読めたことがあるかというとよくわからんしなという気持ちにはよくなる。 まぁけど間違いなく、自然言語処理系のタスクは次元が変わってしまって辛い(色んなタスクでLLM使うと既存手法の性能超えそうみたいな報告がチラホラ)というのはある。

• hrjn LLMそのものよりは、LLMが比較的オープンな形で開発が進んでいるというのが画期的なのかなーという印象はある。

• 例えば、GoogleはAIで自動で電話かけて情報収集するみたいなことを何年か前にはすでにやってたわけなんだけど、その基礎技術が一般人の使いやすい形で提供されてる。

• hrjn Googleみたいなマシンパワーとデータがない人たちにはなんともならん事実上の独占市場に近い世界だったわけなんだけど、いつの間にかベースモデルが公開され、API公開され、なんならfew shot learning可能みたいな世界になったのよね。

• hrjn コレによって一気にLLM利用がコモディティ化したのよね。新しい研究やビジネスの道が開かれた。。。というのは、まぁマジでそうだろうなという気はする。

• hrjn 雰囲気でいうとunixに対するlinuxというか、IBMとAT互換機というか、もともとプロプラだったものがなんかのきっかけで自由に利用可能になってしまった結果、その周辺にエコシステムができてしまうパターンに似てるのかなーとか。

• hrjn そういう意味で、今後このLLMがどういう道を歩むのかはLLMコミュニティが醸成できるのかとか、オープンな文化を維持できるのかとか、そういうところにかかってるのかもなー。

@nishio: Multicsに対するUnics(後のUnix)では(重箱の隅)(Multicsは2007年までプロプラエタリ)

from 日記2023-05-01 オープンなLLMによるエコシステム形成