Plurality の地図

生成基盤モデル（GFM）ってなに？

ChatGPT や Claude のように、大量の文章や画像の例から学び、文章・画像・声を生み出す大きなプログラムのことです。書籍『Plurality』は、これをなるべく「AI」とは呼ばず、人々が違いをまたいで協働するのを助ける道具として扱います。

質問を打ち込むと、すらすらと答えを書いてくれるプログラム。いまや多くの人が使っています。ふつうは「AI（人工知能）」と呼ばれますが、書籍『⿻ Plurality』はこれを「生成基盤モデル（Generative Foundation Models、略して GFM）」と呼びます。呼び方を変えるのには、はっきりした理由があります。

ひとことで言うと

生成基盤モデルは、ChatGPT や Claude のように、大量の文章・画像などの例から学び、文章や画像や声を生み出す大きなコンピューターのプログラムのことです[1]。「生成」は新しく生み出すこと、「基盤」は、さまざまな用途の土台になることを表します。

本はこれを、たいてい「AI」とは呼びません。機械がひとりで考える存在としてではなく、人々が違いをまたいで協働するのを助ける道具として扱います[1]。

たとえば

Anthropic の「みんなでつくる憲法」（2023〜24 年）。 本によれば、AI の会社 Anthropic は、非営利団体の Collective Intelligence Project と組んで、モデルのふるまいを導く「憲法」（守るべき原則）を、意見を集めるツール Polis で集めました[2]。この試みの論文によれば、米国の大人の構成（年齢・性別・収入・地域）に合わせて選んだ 1,002 人が 1,127 件の文を書き、38,252 票を投じました[3]。→ Alignment Assemblies

Talk to the City と東京都知事選（2024 年）。 Talk to the City は GFM を使って、たくさんの意見の一覧を「話しかけられる相手」に置き換える道具です。本によれば、安野貴博の陣営は、寄せられた意見をこれで見える形にしました。また、YouTube 上の AI の分身「AIあんの」は、16 日間で約 7,400 件の質問に答えました[4]。1 日あたりにすると約 460 件です。→ 安野貴博の 2024 年都知事選

ほかの人の声で歌う。 本は、音楽家ホリー・ハーンドン（Holly Herndon）とマット・ドライハースト（Mat Dryhurst）らが GFM を使い、歴史上の人物やその場にいない人の声で歌い、ほかの人が自分たちの声で歌えるようにしたことを紹介します。この本の音声版も、多くの参加者の声を混ぜた「共通の声」で読まれました[5]。→ クリエイティブな協働

くわしく

なぜ「AI」と呼ばないのか

本は 5-5 章で、「AI」という言葉は、特定の道具の集まりというより、「こうなってほしい」という願望を指している、と書きます[1]。

1970〜80 年代の昔ながらの AI は、専門家から聞き出した規則を木の枝のように並べて、処理を自動にしようとしました。でも行き詰まりました。今の GFM は、例から確率的に学ぶ点で決定的に違う、と本は言います[1]。

また本は、「AI」という呼び方には、人がどういう条件で作ったのかを覆い隠す「機械がひとりで動いているという神秘」が含まれるので、たいてい避ける、と書いています[6]。

「AI は考え方の一つだ」

この姿勢の下地には、ジャロン・ラニアー（Jaron Lanier）とグレン・ワイルの 2020 年の論説「AI is an Ideology, Not a Technology（AI は技術ではなくイデオロギーだ）」があります[7]。

二人によれば、「AI」は技術の中身を指す言葉ではありません。「知的に見える作業かどうか」という、人の感じ方で技術を分ける言葉です。二人は、猫と犬を見分けるプログラムを例にします。これを「機械が見ることを覚えた」と語る代わりに、「たくさんの人が例を出し合って、猫と犬の違いを初めてきっちり定義した」と語ることもできる、というのです[7]。

どんな知性も完全にひとりで立ってはいない。ほかの人がつくった社会の文脈に頼っている。二人はこの見方を「多元主義の立場からの異論」と呼びます[7]。ラニアーは 2023 年の『New Yorker』の記事の題を「There Is No A.I.（AI は存在しない）」としました[8]。

しくみのあらまし

本の説明では、GFM には数十億から数兆の「つなぎ目（ノード）」があり、互いに入力し合って、次に来る単語や画像を予想します。こうして、人のような柔軟な分け方・応え方・考え方を、すばやく広く、おおむね同じ結果が出る形でまねられるようになりました[1]。

本は、GFM の力は「AI」であることより、網の目のように確率的なしくみにある、と書きます。同じしくみは、人と人のつながりの網にもありうる、というのです[9]。

本の中で GFM が担う役

本の第 5 部の各章で、GFM は協働を広げる部品として登場します。

権利とのぶつかり合い

一方で第 4 部では、GFM は脅威としても登場します。GFM は中身を簡単にまねたり書き換えたりでき、公開された情報から巧みに推し量れるので、なりすましなど ID の問題を悪化させる、と本は書きます[12]。→ ID と人物性

また、ネットで共有された幅広い情報が GFM の土台になっていますが、その学習データの中身はまだ明かされていません。データを作った人の同意どころか、本人が知らないまま取り込まれた、と本は書きます[13]。→ データの尊厳・財産と契約

誰がつくったのか

本の 2-0 章は、コンピューターの基礎的な進歩の多くは、第二次大戦と冷戦のころの民主主義の国の政府から生まれた、と指摘します。それなのに、今日の基盤モデルの飛躍には、政府がほとんどかかわっていません。本によれば、OpenAI の創業者たちは、はじめ政府のお金を求めて断られ、民間の利益を目指すお金に向かいました[14]。

どこが議論になっているか

Plurality の中での位置

本は GFM を、ひとりの主役としてではなく、第 5 部の 7 つの協働のかたちに横断して効く道具として置きます[1][4]。→ 協働テクノロジー

では、GFM を誰がどう方向づけるのか。本は、話し合いと投票の方法が、GFM の運営、GFM が生む経済的な価値の分け方、みんなの意思に沿った方向づけについて、正しい力の配分を決めうる、と書きます[6]。この問いは、本の後にオードリー・タンらが展開する議論につながります。→ Civic AI・6-Pack of Care・Kami・reverse alignment

もっと知りたい人へ

  1. 書籍『Plurality』5-5「適応型管理行政」の「明日の適応型管理行政」の節（日本語・本）— https://www.plurality.net/v/chapters/5-5/jpn/
  2. Jaron Lanier & E. Glen Weyl「AI is An Ideology, Not A Technology」（英語・論説、WIRED 2020）— https://www.wired.com/story/opinion-ai-is-an-ideology-not-a-technology/
  3. 書籍『Plurality』5-4「Augmented Deliberation」（英語・本）— https://www.plurality.net/v/chapters/5-4/eng/
  4. Collective Constitutional AI の論文（英語・論文）— https://arxiv.org/abs/2406.07814
  5. Jaron Lanier「There Is No A.I.」（英語・記事、New Yorker 2023）— https://www.newyorker.com/science/annals-of-artificial-intelligence/there-is-no-ai
  6. 書籍『Plurality』4-4「Property and Contract」（英語・本）— https://www.plurality.net/v/chapters/4-4/eng/

出典

  1. 『Plurality』5-5「Adaptive administration tomorrow」の節 第 1〜3 段落 — https://www.plurality.net/v/chapters/5-5/eng/ ［CC0］
  2. 『Plurality』5-4「Conversation tomorrow」の節 — https://www.plurality.net/v/chapters/5-4/eng/ ［CC0］
  3. Huang ほか「Collective Constitutional AI: Aligning a Language Model with Public Input」（2024）— https://arxiv.org/abs/2406.07814 ［CC BY 4.0］
  4. 『Plurality』5-4「Frontiers of augmented deliberation」の節 — https://www.plurality.net/v/chapters/5-4/eng/ ［CC0］
  5. 『Plurality』5-3「Creative collaboration tomorrow」の節 — https://www.plurality.net/v/chapters/5-3/eng/ ［CC0］
  6. 『Plurality』5-5「Limits of adaptive administration」の節 — https://www.plurality.net/v/chapters/5-5/eng/ ［CC0］
  7. Jaron Lanier & E. Glen Weyl「AI is An Ideology, Not A Technology」（WIRED、2020）— https://www.wired.com/story/opinion-ai-is-an-ideology-not-a-technology/
  8. Jaron Lanier「There Is No A.I.」（New Yorker、2023）— https://www.newyorker.com/science/annals-of-artificial-intelligence/there-is-no-ai
  9. 『Plurality』5-5「Adaptive administration tomorrow」の節の末尾 — https://www.plurality.net/v/chapters/5-5/eng/ ［CC0］
  10. 『Plurality』5-1「Post-symbolic communication tomorrow」の節 — https://www.plurality.net/v/chapters/5-1/eng/ ［CC0］
  11. 『Plurality』5-4「Frontiers of augmented deliberation」の節（GFM が参加者に即時の提案を出す実験の段落）— https://www.plurality.net/v/chapters/5-4/eng/ ［CC0］
  12. 『Plurality』4-1「Identity and Personhood」— https://www.plurality.net/v/chapters/4-1/eng/ ［CC0］
  13. 『Plurality』4-4「Property and Contract」— https://www.plurality.net/v/chapters/4-4/eng/ ［CC0］
  14. 『Plurality』2-0「Information Technology and Democracy: A Widening Gulf」— https://www.plurality.net/v/chapters/2-0/eng/ ［CC0］
  15. 『Plurality』5-4「Limits of augmented deliberation」の節 — https://www.plurality.net/v/chapters/5-4/eng/ ［CC0］
  16. 『Plurality』5-3「Limits of creative collaboration」の節 — https://www.plurality.net/v/chapters/5-3/eng/ ［CC0］
関連: 適応型管理行政ってなに？ ・ 拡張熟議ってなに？ ・ クリエイティブな協働ってなに？ ・ ポスト表象コミュニケーションってなに？ ・ データの尊厳ってなに？ ・ Civic AI（シビック AI・仁工智慧）ってなに？ ・ Alignment Assemblies（アライメント集会）ってなに？

記事の間違いや、知りたいこと（「〜ってなに？」）を受け付けています。送られた内容は公開の issue になります。

この記事の間違いを知らせる ・ 質問する