🪴 Quartz 4.0

Search

SearchSearch

主観か客観かではなく、一人の主観から大勢の主観へ

Dec 01, 2023, 29 min read

情報処理学会の学会誌「情報処理」の特集記事

主観か客観かではなく、一人の主観から大勢の主観へ

  • AIを活用した知識共創=個々の視点を統合する←これはGPT4が書いた
  • Q: 「主観か客観か」というテーマに対して、筆者はどのような意見を持っていますか？gpt.icon

概要:

  • AIが客観的真実を与えてくれる存在だと考えて問いかけをする人が多い。
  • しかし、筆者は自分と異なる視点を持った存在との会話に有用性を見出している。
    • 真実性と有用性は異なる。
    • 視点の多様性は、盲点を発見するために重要な役割を果たす。
  • AI技術の発展は、人々が他の大勢の人々の意見を要約し理解する能力を増強する。
    • これは組織や社会の構造に影響を与える。
  • 「一人の主観」だけでなく「大勢の主観」までもが思考の対象物になる時代に、知的生産の形も変わるだろう。
    • どう変わるだろうか。

1．AIとの新しい共創体験

1.1　火中の栗で料理を作る挑戦

  • この企画の話を聞いて「火中の栗を拾う」という言葉が浮かんだ。

    • 打診は3/4だった。
    • 3/1にOpenAIはChatGPT APIをリリースしていた。
      • これは従来の類似APIと比べて約10倍コストが低い。
      • 現在までにたくさんの応用が生まれた。

  • この原稿を書いている6/4現在、私はChatGPT PlusのBrowseモードを使っている。

    • そしてAnthropic Claudeの待ち行列に並んでいる。
    • これらの単語の説明はしない。
    • この記事が出版される8/15までに状況が変化するからだ。

  • 特定のツールの使い方の知識は素早く陳腐化する。

  • この記事は8/15に発行される。

  • このような状況だから「火中の栗」だと感じた。

    • そして「未来はわかりませんね」では許されない。
    • 拾った栗で他の料理人と異なる「個性的で美味しい栗料理」を作らなければならない。
    • 面白い挑戦だ。

1.2　次世代の知的生産力を模索する旅

  • まず料理人の紹介が必要だろう。

  • 人間の知的生産性はソフトウェアだけでなく方法論や名前によっても強化される。

    • 概念にそれを指し示す名前が付くことで、人はその概念を思考の中で扱いやすくなる。
    • 加筆:
      • 人間増強の四要素のこと
        • “Augmenting Human Intellect: A Conceptual Framework” (1962)
        • imageimage
      • 言葉による生産性向上について: see 概念のハンドル
        • 概念に言葉の取っ手がつくことで操作しやすくなる
          • エンジニアの知的生産術 p.36 (Column) パターンに名前を付けること

            • パターンに名前を付けること

              • Engelbart は言語を、個人が、世界に対する認識を、世界をモデリングするための「概念」に分解するための手段だとしました。言語はこの「概念」に シンボルを対応付け、「概念」を意識的に操作するために使うものだとしま した。この概念を意識的に操作することが「考える」ということだ、と彼は 考えています。

          • エンジニアの知的生産術 p.137 (4.5.3.3) 思考の道具を手に入れる

            • 第1章のコラム「パターンに名前を付けること」で、Douglas Carl Engelbart が言語を「人間の知能を増強する方法」の 1 つに挙げていることを紹介しまし た。外界の出来事を抽象化したモデルを作り、そのモデルに名前を付けることで、心の中でそのモデルを操作して考えることができるようになります。 これが言語による知能の強化です。

  • 川喜田二郎の「発想法」は、KJ法をはじめとする多くの方法論と名前を生み出した。

    • しかし1967年の本であるため、その後50年のデジタル技術の発展が取り入れられていない。
    • 次の50年のための本が必要と考えて「エンジニアの知的生産術」を作った。
    • その5年後にChatGPTが現れるとは予想していなかった。

  • この技術は知的生産のあり方に大きな影響を与えるだろう。

    • 一部が消えて、一部が残り、新しく生まれる。
    • 何が新しく生まれるだろうか？(Fig1)

image

1.3　AIとの対話による知的生産とその進化

  • 打診を頂いたきっかけは筆者がWikiの一種であるScrapboxに2/23に書いた実験ログだそうだ。
    • ChatGPTに「質問を繰り返す聞き手」の役割を演じさせ、その質問に答えることで自分の思考を整理する実験だ。
    • 機械に質問をさせることは筆者にとっては馴染み深いものだ。
      • 「エンジニアの知的生産術」で紹介したカウンセリングの手法では、カウンセラーはクライアントの使った言葉と、少数の質問パターンだけを使う。
      • 人間のカウンセラーは高コストなので、同じことをコンピュータにやらせようと考えて2014年にCUI版を作った。
        • 他の人も使えるように2021年からWebサービス「かんがえをひきだすチャットボットKeichobot」として提供している。
        • Webサービスにしたことで、スマートフォンからアクセスでき、入浴中や散歩中にも会話して思考を深めることができる。
    • 2/23にしたのは同じ役割をChatGPTにさせる実験だ。
  • 翌週3/1にChatGPT APIがリリースされた。
    • チャットログを要約させ、ネクストアクションを提案させる実験をして有用性を感じている。
  • 6/4現在ではレスポンスの遅さなどが原因で本格的に統合はしていないが、性能問題は時間が解決するだろう。
  • その先の未来ではチャットはベースラインであり、チャットに何を付け加えると知的生産性が高まるかの模索が必要になるだろうと感じている。

1.4　ScrapboxとChatGPTを駆使した新たなブレインストーミングの形

  • 3/1のChatGPT APIのリリースを受けて、ScrapboxとChatGPTとを接続するツールを作った。
  • このツールを公開したところ、何人もの人が自分のScrapboxで作ったデータを公開してくれた。
    • 異なるデータを使えば、同じ議題に対しても、異なった反応をする。
    • つまり、意見の異なる仮想人格だ。
      • 24時間いつでも自分の都合が良い時に、多様な視点を持った仮想人格を集めてブレインストーミングを開催できる。
      • 実例:
        • 2023-03-11: AIパネルディスカッション

          • (西尾) 司会の西尾です。人間です。今日はですね、/tkgshnの協力の元、このScrapbox/nishioとtkgshnのScrapboxとクオリアさん/qualia-sanのScrapboxをそれぞれ読み込ませたChatGPTを用意し、個別の人格とみなしてパネルディスカッションをやってみたいと思っています！AIが出力したものは無編集で出し、司会が頑張ります。

        • 2023-03-15: [/villagepump/Scrapbox ChatGPT Connector座談会モード](https://scrapbox.io/villagepump/Scrapbox ChatGPT Connector座談会モード)
    • Scrapboxはブログと比較して、短い記事が時間をかけて精製されていくことを支援する仕組みなので、仮想人格化と相性が良いように思う。
    • また、古典の名著を仮想人格化することも面白いだろう。
      • かつては過去の偉人と会話するには、人間が書籍を読んで自分の中にエミュレータを作る必要があった。
      • そのエミュレータ作成コストが格段に下がった。
      • 関連: エンジニアの知的生産術 Column: 書籍とは双方向のコミュニケーションができない

        • 書籍の内容を一度噛み砕いてふせんにし、それを自分で再構築することで、自分の中の理解を育て、川喜田二郎の考え方のモデルを作ったわけです。これを私は「自分の中に川喜田二郎エミュレータを作る」と呼んでいました。

1.5　主観の多様性: 正しさと有用性は別物

2．社会的影響とシステムの正統性

2.1　社会変化の方向性とPlurality

  • この企画では社会変化の可能性に関しても書いて欲しいそうだ。

    • 社会変化が起こることに議論の余地はない。
    • 問題は「社会変化の方向性」だ。
      • どの方向に変化するのが良いかを考え、悪い方向に進まないように舵を取る必要がある。

  • この論点に関して重要なキーワードはPluralityだろう。

    • 台湾デジタル庁の大臣であるAudrey Tangらが提唱している概念だ。
    • AIによる生産性向上によって、政府の力が強くなりすぎる懸念がある。
    • そこでAIを使って民衆の力を強くしなければバランスがとれない。
    • この方向性のことを「Plurality」と呼ぶ。
    • 「シンギュラリティ」の中にある「Singular(単数)」の対義語「Plural(複数)」を使っている。
    • 単一の中央政府と多様な人々を対置する表現だ。

2.2　ブロードリスニング: 大勢の意見を「聞く」能力の増強

  • 先ほど概念に名前がつくことで知的生産性が強化されると話した。

    • Pluralityの議論の中でAudrey Tangが使った「ブロードリスニング」という言葉は有益だと思う。
    • 大勢の人々が仲間の意見の分布からエッセンスを抽出して「聞く」ことだ。
    • 彼女はこれを支援する技術が大規模で民主的な熟議を強化すると考えている。

  • 別の視点から見ると、これは人間の認知能力の限界を克服することだ。

    • つまり技術による人間の知的生産能力の増強だ。#人間増強
    • 情報通信技術の発達は一人の人が大勢の人に意見を伝えることを可能にした。
      • 例えば社員1000人の会社の社長が社員全員に声を届けることは動画配信などで容易に実現できる。
    • しかし、1000人の社員が社長に10分の動画を送ると、社長はそれを視聴するのに7日×24時間掛かる。
      • 大勢の意見を聞くことがボトルネックになっているわけだ。

image Fig2: 情報の複製により情報発信は効率化されたが、受信は改善しない、情報を減らす技術が必要

2.3　デジタル化によるボトルネックの解消が社会構造を変化させる

  • 組織が階層構造を必要としたのは、生身の人間が1000人の話を聞けなかったからだ。

    • だから人力で情報を要約するために中間管理職を間に挟む必要があった。

  • 間接民主制が必要になったのも、全員の話を聞くことができなかったからだ。

    • だから人々は、自分たちの意見を代表し、自分たちの代わりに議論をするために代議士を間に挟む必要があった。

  • Audrey Tangは選挙を4年に数ビットしかアップロードできない貧弱なインターネットに例えている。

  • コストが下がれば構造が変化する。

    • 既存のコスト構造で最適だったシステムが新しいコスト構造でも最適とは限らない。
    • Fig1「一部が消えて、一部が残り、新しく生まれる」を再度見てみよう。
      • image
        • 再掲: Fig1: 移動=一部が消えて、一部が残り、新しく生まれる
    • 今コストが見合わなくて実現されていないものが、コストの低下により新たに実現可能となる。

2.3　未知の知識を探究する未来の学生へ

2.4　個々人の行動がシステムを正統化する: 客観か？主観か？

  • システムがフォークされ、

    • 新しいシステムの方が良いと思った人々が新しいシステムを使うようになり、
    • 人が集まるにつれてそのシステムの正統性が高まっていく。
    • 追記: 「人々が何を選択するか」が投票として機能するという話

  • AI関連の論文では、まず査読前論文(プレプリント)をarXivに登録することが行われるようになった。

  • もしChatGPTが優先して学習するプレプリントサーバをOpenAIが作ったら人々はそちらに投稿するだろうか？

    • 論文以外でも投稿可能なら、企業は自社製品のマニュアルを投稿するだろうか？
    • 人々はブログ記事を投稿するだろうか？

  • 投稿された文章の有用性が大勢の主観によってスピーディーに判定されるようになったら、

  • まだ科学が客観的な答えを出せないテーマに対して、

    • AIが「大勢の主観」のエッセンスを出力できるようになったら、
    • 人々は客観を待たずに主観を選ぶだろうか？

  • 改めて振り返ってみると、この企画はChatGPTに関して、それぞれの著者の主観を集めるためのものと言えるだろう。

    • もう答えは出ているのかもしれない。

西尾泰和（正会員）

  • サイボウズ・ラボ株式会社 主幹研究員。一般社団法人未踏理事。博士(理学)、技術経営学修士(専門職)
  • 人間は文明の乗り物で、人間の物理的身体はキャッシュに過ぎず、オープンアクセスの場に発した情報が自分の本体だと認識している。

その後の出来事

主観か客観かではなく、一人の主観から大勢の主観へ:Q&A

  • 後で答える

ChatGPTについてのコラムの準備 ChatGPTについてのコラムの準備2

Graph View

Backlinks