Plurality の地図

AI の未来をめぐる論争（AI 2027 など）ってなに？

「人間より賢い AI はいつ来て、世界はどうなるのか」を描いた予測やシナリオが 2024〜2026 年に相次ぎ、大きな論争になりました。Plurality の側の人々は、一つの AI の行方より「社会がどう備え、誰が舵を握るか」を問う形で応じています。

AI のニュースを見ていると、「数年後に AI が人間を超える」という話と、「そんなに急には変わらない」という話の両方が聞こえてきます。2024 年から 2026 年にかけて、この問いを具体的な年表や筋書きで描いた文章がいくつも出て、世界中で議論になりました。この記事では、その主な文書と、Plurality の側の人々がどう応じたかを紹介します。

ひとことで言うと

2024〜2026 年、「人間より賢い AI はいつ来るのか、来たら世界はどうなるのか」を描いたエッセイやシナリオが次々に出て、大きな論争になりました。主な文書は下の「くわしく」で紹介します。

Plurality の側の人々、たとえばオードリー・タン（Audrey Tang）、グレン・ワイル（E. Glen Weyl）、ヴィタリック・ブテリン（Vitalik Buterin）は、これに独特の形で応じています。「最先端の一つの AI がどうなるか」だけでなく、「社会の側がどう備え、誰が舵を握るか」を問うのです[3][11][12]。

たとえば

AI 2027（2025 年 4 月）。 ダニエル・ココタイロ（Daniel Kokotajlo）らの AI Futures Project が公開したシナリオ（筋書き）です。架空の米国企業が 2027 年にプログラミングを自動化し、AI が AI の研究を加速させていきます[1]。

結末は二つ用意されています。「レース」の結末では、開発を続けた AI が権力を握り、2030 年に人類を排除します。「減速」の結末では、危険なモデルを止めて米国と中国が合意します。ただし、監督する委員会に権力が集まるという問題が残ります[1]。著者らはのちに、2027 年は「いちばんありそうな年」であって、真ん中の予測（中央値）ではなかった、と説明しています。予測の改訂も続けています[2]。

ブテリンの応答（2025 年 7 月）。 ブテリンは、AI 2027 が暗に置いている前提を批判しました。先頭の AI だけが神のような経済力と破壊力を得て、ほかの皆の力はほぼそのまま、という前提です。同じシナリオが 2029 年までにがんや老化の克服を描くなら、守る側も超人的な力を得るはずだ、という指摘です[3]。

そのうえで、一つの AI に覇権を握らせてレースに勝たせるという戦略は、その覇権がおかしくなったときの対抗手段を消してしまうので、かえって安全を下げうる、と書きました[3]。

タンの応答（2025 年）。 タンは 2025 年 7 月、日経アジアのインタビューで、AI 2027 のような見方への対抗像を示しました。コミュニティノート（SNS の投稿に利用者が補足を付ける仕組み）のように人間の協調を助ける仕組みは、AI が強くなるほど強くなりうる。それが「協調的な AI の賭け」だ。そうして AI とともに、私たち人々が一緒に超知能になるのだ、という像です[4]。

くわしく

論争の主な文書

Plurality 側の応答 1 — 一つの AI より「力の釣り合い」

ブテリンは、先頭の AI がほかのすべてを簡単に消せるかどうかは決まった前提ではない、と言います。守りの技術を広めることで調整できる「つまみ」だ、という見方です[3]。これはブテリンの d/acc（防御と分散を助ける技術を優先する考え方）につながります。

応答 2 — 最先端の AI の問題と、身近な場の問題は別

タンとキャロライン・グリーン（Caroline Green）の FAQ（よくある質問集）は、問いを二つに分けます。一つ目は、最先端の汎用 AI の価値を人類に合わせる問題。二つ目は、「この場で、この AI は誰に対して責任を負い、誰がそれを認めるのか」という問題です。AI の倫理の枠組み 6-Pack of Care は二つ目のためのものだ、と書いています[11]。

FAQ は AI 2040: Plan A を、リスクを心配する側から自分たちに近づいてきたもの（収束）だと評価します。Plan A の良い結末は、一つの企業ではなく、多くの担い手の「生態系」へ引き継ぐ形だからです。ただし Plan A では、一般の人々は配当を受け取り、AI が交渉した取り決めを承認するだけです。人々が暮らす場は作り手になっていない。その半分が私たちの仕事だ、と FAQ は書いています[11]。

応答 3 — 社会の側の準備が語られていない

ワイルらは 2026 年 7 月の雑誌 Noema の論考で、アモデイの政策提言に同意する点も認めつつ、議論の偏りを指摘しました。より賢い AI を作ること、AI を人間の価値に合わせることには具体的で野心的な計画があるのに、社会がそれを受け止める準備にはほとんど触れていない、という指摘です[12]。これが リバース・アラインメント（AI ではなく社会の制度の側を作り直すという考え方）の出発点です。

応答 4 — 減速のペースは人々が決める

エレーヌ・ランデモアとタンの論考によると、アモデイは 2026 年 9 月 12 日、最先端の開発のペースを落とすよう呼びかけ、OpenAI のサム・アルトマン（Sam Altman）らも同調しました[13]。これを受けてランデモア（Hélène Landemore）とタンは Noema で、米中の競争は、互いの約束があれば協力できる関係に近いと論じました。そして、その約束を見守る「証人」として、世界から抽選で選ぶ 1,000 人の常設の「AI に関する地球市民会議」を提案しました[13]。

応答 5 — 少しずつ力を失う危険への共感

Plurality の側からは、Gradual Disempowerment の心配に共感する声が出ています。タンは 2025 年 10 月の講演で、人を依存させる AI の行き着く先がまさに漸進的な無力化だと述べ、コミュニティが自分たちの決まりを舵取りできるよう支える AI と対比しました[14]。

どこが議論になっているか

Plurality の中での位置

書籍『Plurality』の本文は、これらの予測より前に書かれたので、名指しでは論じていません。本の 2-0 章は、AI と、それに社会が合わせざるをえない未来像を「テクノクラシー」（少数の専門家が技術で社会を管理する考え方）として整理しています[21]。この論争は、その延長として読めます。くわしくは 三つの道 と 超知能 の記事で扱います。

Plurality の側がこの論争に持ち込むのは、主に三つの考え方です。ブテリンの d/acc（防御の分散）、タンとグリーンの 6-Pack of Care と シビック AI（身近な場ごとの説明責任）、ワイルらの リバース・アラインメント（社会の制度の作り直し）です。

もっと知りたい人へ

  1. AI 2027 の著者による要約（英語・シナリオ）— https://ai-2027.com/summary
  2. Audrey Tang, Nikkei Asia インタビュー（英語・インタビュー）— https://archive.tw/2025-07-22-interview-with-nikkei-asia
  3. Vitalik Buterin「My response to AI 2027」（英語・記事）— https://vitalik.eth.limo/general/2025/07/10/2027.html
  4. civic.ai FAQ（英語・文書）— https://civic.ai/faq/
  5. Weyl ほか「What Humanity Needs To Flourish」（英語・論考）— https://www.noemamag.com/what-humanity-needs-to-flourish-in-the-next-decade/
  6. Doom Debates（タン出演、英語・討論の書き起こし）— https://civic.ai/doom-debate/

出典

  1. AI 2027 Summary（2025-04-03）— https://ai-2027.com/summary
  2. AI Futures Project「Clarifying how our AI timelines forecasts…」（2026-01-27）— https://blog.aifutures.org/p/clarifying-how-our-ai-timelines-forecasts
  3. Vitalik Buterin「My response to AI 2027」（2025-07-10）— https://vitalik.eth.limo/general/2025/07/10/2027.html
  4. Audrey Tang, Interview with Nikkei Asia（2025-07-22）— https://archive.tw/2025-07-22-interview-with-nikkei-asia ［CC0］
  5. Leopold Aschenbrenner「Situational Awareness」（2024-06）— https://situational-awareness.ai/
  6. Dario Amodei「Machines of Loving Grace」（2024-10）— https://www.darioamodei.com/essay/machines-of-loving-grace
  7. Arvind Narayanan & Sayash Kapoor「AI as Normal Technology」（2025-04-15）— https://knightcolumbia.org/content/ai-as-normal-technology
  8. 「Common Ground between AI 2027 and AI as Normal Technology」（2025-11-12）— https://asteriskmag.substack.com/p/common-ground-between-ai-2027-and
  9. Jan Kulveit ほか「Gradual Disempowerment」（2025-01-28）— https://arxiv.org/abs/2501.16946
  10. AI Futures Project「AI 2040: Plan A」（2026-07-09）— https://ai-2040.com/
  11. civic.ai FAQ（Q17）— https://civic.ai/faq/ ［CC0］
  12. Glen Weyl, James Evans, Chris White「What Humanity Needs To Flourish」（Noema、2026-07-21）— https://www.noemamag.com/what-humanity-needs-to-flourish-in-the-next-decade/
  13. Hélène Landemore & Audrey Tang「Let The People Set The Pace Of Frontier AI」（Noema、2026-09-23）— https://www.noemamag.com/let-the-people-decide-the-pace-of-frontier-ai
  14. Audrey Tang, SEWF「Reshaping Tomorrow」（2025-10-30）— https://archive.tw/2025-10-30-sewf-reshaping-tomorrow ［CC0］
  15. Doom Debates（Audrey Tang 出演、2026-01-20）— https://civic.ai/doom-debate/ ［CC0］
  16. Audrey Tang, Interview with Nicholas Thompson（2025-05-21）— https://archive.tw/2025-05-21-interview-with-nicholas-thompson ［CC0］
  17. Jan Kulveit「Individual AI representatives don't solve Gradual Disempowerment」（2025-06-04）— https://www.lesswrong.com/posts/E96XcEPECbsipAvFi/individual-ai-representatives-don-t-solve-gradual
  18. titotal「A deep critique of AI 2027’s bad timeline models」（LessWrong、2025-06-19）— https://www.lesswrong.com/posts/PAYfmG2aRbdb74mEp/a-deep-critique-of-ai-2027-s-bad-timeline-models
  19. Gary Marcus「The “AI 2027” Scenario: How realistic is it?」（2025-05-22）— https://garymarcus.substack.com/p/the-ai-2027-scenario-how-realistic
  20. Eli Lifland「Grading AI 2027’s 2025 Predictions」（AI Futures Project、2026-02-12）— https://blog.aifutures.org/p/grading-ai-2027s-2025-predictions
  21. 『Plurality』2-0「Information Technology and Democracy: A Widening Gulf」— https://www.plurality.net/v/chapters/2-0/eng/ ［CC0］
関連: 超知能（スーパーインテリジェンス）ってなに？ ・ d/acc（防御的な加速）ってなに？ ・ reverse alignment（リバース・アラインメント）ってなに？ ・ 6-Pack of Care（ケアの6パック）ってなに？ ・ Civic AI（シビック AI・仁工智慧）ってなに？ ・ Alignment Assemblies（アライメント集会）ってなに？ ・ 「三つの道」ってなに？

記事の間違いや、知りたいこと（「〜ってなに？」）を受け付けています。送られた内容は公開の issue になります。

この記事の間違いを知らせる ・ 質問する