• 何がユーザ価値を生むのかは誰にもわからない
  • 前LLM的サービスを使っている状況から容易に思いつくサービスは、他の前LLM的サービスを使っている人も容易に思いつくので差別化要因にならない
• 競合よりも早く「未来」を体験すべき
  • 言語的記述は体験を運ばない
  • みずから体験したことだけが新しいものを生み出す糧になる
• その実現方法として
  • LLMで新しい経験を作り出す最も高速な方法はプロンプトエンジニアリングである
  • GPT4のプロンプトエンジニアリングで新しい体験をプロトタイピングし、実際に使う体験を高速に回してユーザ価値を探す
  • 下記のものはユーザ価値が見つかって、ユーザ数が増え始めてからでよい
    • GPT3.5やセルフホストのLLMに変えることで採算性や安定性を改善する
    • それに伴う性能劣化をファインチューニングで補う
      • このフェーズまでに上記のプロンプトエンジニアリングでの経験の蓄積によって「どのような入力に対して、どのような出力が望ましいのか」を言語化したり、データとして蓄積したりしておく必要がある
      • ファインチューニングで知識を与えるのは筋悪であり、基本的にはフォームの安定性のためにやる
        • 安定した構造化出力
        • 典型的プロンプトをPrefix-tokenに押し込む

BELOW_IS_AI_GENERATED

LLMに関するメモ §

2023-09-08 22:34

ノートの要約 §

ユーザ価値を生む要素は予測不可能で、既存のサービスから派生したアイデアは差別化につながらない。競争優位を得るためには、未来の体験を先取りすることが重要で、そのためには自身の体験が必要となる。プロンプトエンジニアリングを用いたLLMは新しい体験を迅速に生み出す手段であり、GPT4を用いて新しい体験をプロトタイピングし、ユーザ価値を探る。ユーザ価値が見つかり、ユーザ数が増え始めた段階で、GPT3.5やセルフホストのLLMに移行し、採算性や安定性を改善する。その際、性能劣化をファインチューニングで補う。

フラグメントとの関連性 §

「パラグラフライティングをGPT4にさせる」フラグメントは、ノートの中でGPT4を用いたプロトタイピングの重要性を強調している点と関連している。また、「行動する人しか手に入れられないストーリー」フラグメントは、ノートが強調する自身の体験の重要性と関連している。

思考の要約 §

ユーザ価値を生むためには、自身の体験に基づく新しいサービスの創出が重要であり、そのためにはプロンプトエンジニアリングを用いたLLMが有効である。また、その体験は他者との差別化につながる。

タイトル §

「プロンプトエンジニアリングを用いたLLMによる新規体験の創出とその重要性」

extra info §

titles: ["パラグラフライティングをGPT4にさせる", "🌀思考の外在化", "出版業についての考察", "行動する人しか手に入れられないストーリー", "日本語LLMに関する2つの問題", "Fine-Tuning Llama-2: A Comprehensive Case Study for Tailoring Models to Unique Applications"] generated: 2023-09-08 22:34