'Generative CI' through Collective Response Systems

How can many people (who may disagree) come together to answer a question or make a decision? “Collective response systems” are a type of generative collective intelligence (CI) facilitation process meant to address this challenge. They enable a form of “generative voting”, where both the votes, and the choices of what to vote on, are provided by the group. Such systems overcome the traditional limitations of polling, town halls, standard voting, referendums, etc. The generative CI outputs of collective response systems can also be chained together into iterative “collective dialogues”, analogously to some kinds of generative AI. Technical advances across domains including recommender systems, language models, and human-computer interaction have led to the development of innovative and scalable collective response systems. For example, Polis has been used around the world to support policy-making at different levels of government, and Remesh has been used by the UN to understand the challenges and needs of ordinary people across war-torn countries. This paper aims to develop a shared language by defining the structure, processes, properties, and principles of such systems. Collective response systems allow non-confrontational exploration of divisive issues, help identify common ground, and elicit insights from those closest to the issues. As a result, they can help overcome gridlock around conflict and governance challenges, increase trust, and develop mandates. Continued progress toward their development and adoption could help revitalize democracies, reimagine corporate governance, transform conflict, and govern powerful AI systems — both as a complement to deeper deliberative democratic processes and as an option where deeper processes are not applicable or possible.

• Aviv Ovadya
• 2302.00672 ‘Generative CI’ through Collective Response Systems

(DeepL)

• ある質問に対する回答や意思決定をするために、多くの人（意見が異なるかもしれない）が集まるにはどうしたらよいのでしょうか？「コレクティブ・レスポンス・システム」は、この課題を解決するための生成的集合知（CI）ファシリテーション・プロセスの一種である。このシステムは、「生成的投票」の一種であり、投票も、何を投票するかの選択肢も、グループによって提供されるものである。このようなシステムは、世論調査、タウンホール、標準的な投票、国民投票などの伝統的な制限を克服しています。集団応答システムの生成的CI出力は、ある種の生成的AIに類似した、反復的な「集団対話」へと連鎖させることも可能である。
• レコメンダーシステム、言語モデル、ヒューマンコンピュータインタラクションなどの領域における技術の進歩は、革新的でスケーラブルな集団応答システムの開発につながった。例えば、Polisは政府の様々なレベルでの政策決定をサポートするために世界中で使用されており、Remeshは戦争で荒廃した国の一般人の課題やニーズを理解するために国連で使用されています。本稿では、このようなシステムの構造、プロセス、特性、原則を定義することで、共有言語を開発することを目的としています。
• 集団応答システムは、対立する問題を非対立的に探求し、共通点を見出すのに役立ち、問題に最も近い人々から洞察を引き出すことができる。その結果、紛争やガバナンスの課題に対する行き詰まりを克服し、信頼を高め、権限を発展させることができるのです。民主主義国家の活性化、コーポレートガバナンスの再構築、紛争の変革、強力なAIシステムの統治など、より深い熟議民主主義プロセスを補完するものとして、また、より深いプロセスが適用できない、あるいは不可能な場合の選択肢として、その開発・導入が継続的に進めばよい。

問題意識 §

Generative CIの問題意識 現行のグループ理解と意思決定のアプローチは、特に現代の注意経済の歪んだインセンティブを考えると、大規模な状況ではうまく機能しません：

• 考え抜かれた審議はスケールアップしません：1000人の「タウンホール」が同時に話し、聞くことを試みると、結果はただの騒音になります。一方、一人ひとりが順番に話すと、それは数日かかることがあります。100万人では、これは一つの問題について何十年もかかり、政策や対立に影響を受けるほとんどの人々が意味のある話し方や聞き方をすることができません。

• 人々は無力感と無視された感情を持っています：人々は自分の視点を表現することに力を感じず、自分の視点と経験が反映されているとは思えません。これにより信頼が失われ、ガバナンスと紛争解決プロセスから人々が離れる原因となります。

• 貴重な洞察が見逃されます：「知識のキー」—情報、アイデア、そして深まる対立を克服するために役立つ洞察—はしばしば見逃されます。これらはしばしば、標準的なチャネルを通じてリーチが最小限の人々に最も近いところから起こります。

• 分裂することが共通の地盤よりも優れています：対立を引き起こすことは、共通の地盤を特定し、高めることよりもはるかに報われます。

• しかし、接続性、機械学習、そして民主主義的な実践の進歩により、我々は「スケールする同時通信」を用いてこれらの課題の一部を克服することができるかもしれません。

• 集団応答システムは、任意のスケールのグループが創造的な決定（例えば、参加者がオプションの空間を開発する決定）を下すことができるようにするためのものです。それらは、「民主主義の理想」の一つのバージョンに可能な限り近づくように設計されています。つまり、集団の決定において：

  • すべての人が自分の視点で反応する能力を持っています。
  • すべての人の反応が聴かれ、取り入れられます。
  • グループを最もよく表す反応が選ばれます。

• 集団応答システムは、決定と審議に焦点を当て、エンターテイメントや政治に焦点を当てたコミュニケーション環境（例えば、ソーシャルメディア）で報われる注意を引く行動を避けることを目指しています。これらは大規模な同時通信を可能にします。また、集団を単一のエージェントとして扱い、それが他の集団エージェントと交流することを可能にします。

2 構造とプロセス

• 2.1 入力：グループとプロンプト
  • システムへの入力は二つあります：
    • 質問であったり、完成させる何かであったりするプロンプト
    • そして参加者の集合であるグループです。
• 2.2 出力：評価の代表的な蒸留と、必要に応じて生データおよび/または派生データ
• このような集団応答システムのコア出力は、意味を持ち、代表的に「最善」の反応を伝える反応の近似または集約です。これは最も一般的に代表的な蒸留と呼ばれます。
  • representative distillation
• 「最善」の定義は大部分が解釈に委ねられていますが、以下で説明する主要な原則によって制約されます。例えば、最も承認を得た反応は最善と見なされるかもしれませんが、他のアプローチも代わりに使用されることがあります（例えば、Polisのグループが認識した共有意識やTwitterのコミュニティノートによって実装されたブリッジングに基づくランキング）
  • Birdwatch
• また、「最善の反応」などの出力は、以下で説明する将来の集団応答プロセスを含む、下流のシステムで使用されることもあります。
• さらに、グループの反応と評価を反映するのに役立つ派生データも出力されることがあります。例えば、Polisのようなシステムは、参加者に問題と人々が視点のマップ上でどのように位置づけられているかを示すことができます。最後に、反応と評価などの生データが、さらなる処理と分析のために出力されることがあります。

2.3 プロセス：反応、評価、蒸留

• 集団応答システムによって促進されるプロセスを集団応答プロセスと呼びます。このようなプロセスは三つのサブプロセスで構成されます：
  • 反応サブプロセス：グループ内のすべての人が（オプションで）プロンプトに反応します。
  • 評価サブプロセス：グループ内のすべての人が反応の一部を評価します（システムにより選ばれる可能性があります）。
  • 蒸留サブプロセス：システムは各反応の評価を近似および/または集約して、有用な出力を生成します。
• 全てをまとめて考えてみると、例えば、都市内の五千人が教育政策に関する集団対話に参加している場合の集団応答プロセスは次のようになるかもしれません：
  • 反応：参加者には「我々の都市が直面している教育の最も重要な課題は何ですか？」と尋ねられます。彼らは短い回答—反応—で応えることができます。PolisやRemeshのようなシステムでは、これらの反応は通常短いもので、例えば1〜3文です。
  • 評価：参加者には「投票タスク」が割り当てられます。例えば、反応に賛成か反対かを評価することです。
  • 蒸留：その後、システムは参加者に最も承認を得た反応や、（政治的な）分断を超えた最も共通の地盤を持つ反応を示すことができます。
• このようなプロセスは、5分（例えば、Remeshと同時に）で実行することもできますし、数日または数週間（例えば、Polisと非同期に、反復して）で実行することもできます。

3 特性と原則

• 主要な特性。システムが集団応答システムであるためには、以下の特性が満たされていなければなりません：
  • (1) 参加者エージェンシー：参加者自身が反応を提案することができ、固定されたセットに限定されることがない—これは「参加型視点」と呼ばれるかもしれません。
  • (2) 並列通信：全ての参加者が他の全ての参加者と話したり、聞いたりする必要はない。これはブラケット化（つまり、大まかにはブレイクアウトグループに類似）や喚起推論（つまり、一部の評価を与えられた場合に、参加者が全ての反応をどのように評価するかを近似する方法）などの方法に依存するかもしれません。
  • (3) 代表的蒸留：全ての参加者の入力を近似および/または集約し、全体を代表する評価を得る何らかのメカニズムがある。その結果となる蒸留された出力（これには「マップ」の出力も含まれるかもしれない）は、参加者に共有される。
• 主要な原則。さらに、集団応答システムの設計は、先に述べた民主的な理想に対応するために、以下の主要な原則を満たすように設計されなければなりません：
  • (1) 集団指向：システム設計は、個々の人とその意思決定を支持/理解することよりも、グループとその意思決定を支持/理解することを優先します。
  • (2) プロンプト指向：システム設計は、他の目標（例：エンターテイメント）よりも、入力プロンプトに最もよく応える出力の作成を優先します。
  • (3) 審議指向：システム設計は、他の目標（例：エンゲージメント）よりも、参加者が潜在的な選択肢とそれらに対する他者の視点を理解することを支持する優遇とインセンティブを優先します。
    • 例えば、これには、共通の地盤の特定、洞察の浮かび上がり、集団体験への自己反省、視点のマッピングなどのアクションを支持することが含まれるかもしれません。
  • (4) 公平な審議指向：システム設計は、全ての参加者が公平に審議されることを確保しなければなりません—全ての反応は、最も良いと考えられる可能性があるように、集団によって聞かれる機会が与えられます。14
• 特性は二値で明確な一方、原則は解釈の余地がもっとある; これらの原則をさらに洗練するために、さらなる哲学的、経験的、規範的な作業が必要かもしれません。

3.1 集団対話

• 集団対話システム（CDS）は、反復またはフィードバックループの形式を持つ集団応答システムであり、参加者はシステムと繰り返し対話して、以前の出力に基づく新しい反応を作成します（同じプロンプトまたは新しいプロンプトへ）。集団対話という言葉は、集団対話プロセス（CDSが促進するプロセス）を省略するために使用できます。
• このような対話プロセスは、最も有望な解決策の詳細、動機、障害をさらに掘り下げることを可能にします。また、他の任意の意味を理解するタスクや反復的な意思決定タスクにも使用できます。
  • 先ほどの例「私たちの都市が直面する教育の最も重要な課題は何ですか？」を考えてみましょう。これが集団対話の一部であれば、最初の答えの後、最も代表的とされる反応に基づいて、同じ参加者を対象とした新しい集団応答プロセスで、フォローアップの質問が出されるかもしれません。
  • これは、「その課題に対処するための最良の解決策は何だと思いますか？」と尋ねるような形になるかもしれません。