多元宇宙地图

什么是关于 AI 未来的论争（AI 2027 等）？

描绘「比人类聪明的 AI 何时到来、世界会变成怎样」的预测与情境，在 2024～2026 年接连出现，引发很大的论争。Plurality 一方的人们，以追问「社会要怎么准备、由谁掌舵」而非单一 AI 走向的方式来回应。

看 AI 的新闻，会同时听到「几年后 AI 就会超越人类」和「不会那么快改变」两种说法。2024 年到 2026 年间，出现了好几篇用具体年表和剧本描绘这个问题的文章，在全世界引起讨论。本文介绍主要的文件，以及 Plurality 一方的人们如何回应。

一句话说明

2024～2026 年，描绘「比人类聪明的 AI 什么时候会来、来了之后世界会变成怎样」的文章与情境接连发表，引起很大的论争。主要的文件在下面的「深入了解」中介绍。

Plurality 一方的人们，例如唐凤（Audrey Tang）、卫谷伦（E. Glen Weyl）、维塔利克·布特林（Vitalik Buterin），用独特的方式回应：不只问「最前沿的某一个 AI 会怎样」，也问「社会这一方要怎么准备、由谁来掌舵」[3][11][12]。

举例来说

AI 2027（2025 年 4 月）。 由 Daniel Kokotajlo 等人的 AI Futures Project 发表的情境（剧本）。一家虚构的美国公司在 2027 年让写程式自动化，AI 加速 AI 的研究[1]。

结局有两个。「竞赛」结局中，持续开发的 AI 夺得权力，在 2030 年消灭人类。「减速」结局中，危险的模型被停下，美国与中国达成协议，但权力集中在监督委员会的问题仍然留着[1]。作者们后来说明，2027 年是最可能的一年，而不是居中的预测（中位数），并持续修订预测[2]。

布特林的回应（2025 年 7 月）。 布特林批评 AI 2027 暗中设下的前提：只有领先的 AI 获得神一般的经济力与破坏力，其他所有人的力量几乎不变。布特林指出，如果同一个情境描绘到 2029 年就克服癌症与老化，那么防守的一方应该也会得到超人的力量[3]。

布特林进一步写道，让一个 AI 掌握霸权、赢得竞赛的战略，会消除这个霸权出问题时的对抗手段，因此反而可能降低安全[3]。

唐凤的回应（2025 年）。 唐凤在 2025 年 7 月接受日经亚洲的访谈时，提出与 AI 2027 这类看法相对的图像：像社群备注（用户为社群网站贴文加上补充说明的机制）这样帮助人类协调的机制，AI 越强，它也可能越强——这是「协作式 AI 的赌注」；这样和 AI 一起，我们人们共同成为超级智慧[4]。

深入了解

论争的主要文件

Plurality 一方的回应之一：比起一个 AI，更重要的是「力量的平衡」

布特林说，领先的 AI 能否轻易消灭其他一切，并不是既定的前提，而是可以透过普及防御技术来调整的「旋钮」[3]。这连到布特林的 d/acc（优先推进帮助防御与分散之技术的想法）。

回应之二：最前沿 AI 的问题，与身边场合的问题是两回事

唐凤与 Caroline Green 的 FAQ（常见问题集）把问题分成两个。第一个是让最前沿通用 AI 的价值与人类一致的问题；第二个是「在这个场合，这个 AI 要对谁负责，由谁来承认」的问题。FAQ 写道，AI 伦理框架关怀六力是为第二个问题而设的[11]。

FAQ 把 AI 2040: Plan A 评为担心风险的一方朝自己靠近（趋同），因为 Plan A 的好结局，不是交给一家公司，而是交给许多行动者组成的「生态系」。但在 Plan A 中，一般民众只是领取红利、承认 AI 谈成的协议；人们生活的场所并没有成为打造者。FAQ 写道，那一半就是我们的工作[11]。

回应之三：没有谈到社会这一方的准备

卫谷伦等人在 2026 年 7 月《Noema》杂志的文章中，一方面承认同意 Amodei 的部分政策建议，一方面指出论述的偏颇：打造更聪明的 AI、让 AI 符合人类价值，都有具体而有野心的计划；可是社会要怎么准备好承接它，却几乎没被提到[12]。这就是反向对齐（不是改造 AI，而是重新打造社会制度这一方的想法）的出发点。

回应之四：减速的步调由人们决定

根据 Hélène Landemore 与唐凤的文章，Amodei 在 2026 年 9 月 12 日呼吁放慢最前沿开发的步调，OpenAI 的山姆·阿特曼（Sam Altman）等人也表示同意[13]。对此，Landemore 与唐凤在《Noema》上主张，美中的竞争接近一种只要有相互承诺就能合作的关系，并提议设立常设的「AI 全球公民大会」：从全世界抽签选出 1,000 人，作为见证这些承诺的「证人」[13]。

回应之五：对一点一点失去力量之危险的共鸣

Plurality 一方也有人对 Gradual Disempowerment 的担忧表示共鸣。唐凤在 2025 年 10 月的演讲中说，让人依赖的 AI 最终走向的正是渐进式失能，并拿它和帮助社群掌舵自己规则的 AI 对照[14]。

争议与批评

在《Plurality》中的位置

《多元宇宙》的正文写在这些预测之前，所以没有点名讨论它们。书的 2-0 章把 AI、以及社会不得不配合它的未来愿景，整理为「专家统治」（由少数专家用技术管理社会的想法）[21]。这场论争可以当作它的延伸来读。详见三条道路与超级智慧。

Plurality 一方带进这场论争的，主要是三种想法：布特林的 d/acc（防御的分散）、唐凤与 Green 的关怀六力与仁工智慧（每个身边场合的问责），以及卫谷伦等人的反向对齐（重新打造社会制度）。

延伸阅读

  1. 〈末日辩论〉（Doom Debates，唐凤出场，中文，逐字稿）— https://sayit.archive.tw/2026-01-20-%E6%9C%AB%E6%97%A5%E8%BE%AF%E8%AB%96
  2. 《多元宇宙》2-0〈资讯技术与民主：日益扩大的鸿沟〉（中文，书）— https://www.plurality.net/v/chapters/2-0/zh-tw/
  3. AI 2027 作者的摘要（英文，情境）— https://ai-2027.com/summary
  4. Audrey Tang, Nikkei Asia 访谈（英文，访谈）— https://archive.tw/2025-07-22-interview-with-nikkei-asia
  5. Vitalik Buterin, "My response to AI 2027"（英文，文章）— https://vitalik.eth.limo/general/2025/07/10/2027.html
  6. civic.ai FAQ（英文，文件）— https://civic.ai/faq/
  7. Weyl 等, "What Humanity Needs To Flourish"（英文，文章）— https://www.noemamag.com/what-humanity-needs-to-flourish-in-the-next-decade/

出处

  1. AI 2027 Summary（2025-04-03）— https://ai-2027.com/summary
  2. AI Futures Project, "Clarifying how our AI timelines forecasts…"（2026-01-27）— https://blog.aifutures.org/p/clarifying-how-our-ai-timelines-forecasts
  3. Vitalik Buterin, "My response to AI 2027"（2025-07-10）— https://vitalik.eth.limo/general/2025/07/10/2027.html
  4. Audrey Tang, Interview with Nikkei Asia（2025-07-22）— https://archive.tw/2025-07-22-interview-with-nikkei-asia
  5. Leopold Aschenbrenner, "Situational Awareness"（2024-06）— https://situational-awareness.ai/
  6. Dario Amodei, "Machines of Loving Grace"（2024-10）— https://www.darioamodei.com/essay/machines-of-loving-grace
  7. Arvind Narayanan & Sayash Kapoor, "AI as Normal Technology"（2025-04-15）— https://knightcolumbia.org/content/ai-as-normal-technology
  8. "Common Ground between AI 2027 and AI as Normal Technology"（2025-11-12）— https://asteriskmag.substack.com/p/common-ground-between-ai-2027-and
  9. Jan Kulveit 等, "Gradual Disempowerment"（2025-01-28）— https://arxiv.org/abs/2501.16946
  10. AI Futures Project, "AI 2040: Plan A"（2026-07-09）— https://ai-2040.com/
  11. civic.ai FAQ（Q17）— https://civic.ai/faq/
  12. Glen Weyl, James Evans, Chris White, "What Humanity Needs To Flourish"（Noema，2026-07-21）— https://www.noemamag.com/what-humanity-needs-to-flourish-in-the-next-decade/
  13. Hélène Landemore & Audrey Tang, "Let The People Set The Pace Of Frontier AI"（Noema，2026-09-23）— https://www.noemamag.com/let-the-people-decide-the-pace-of-frontier-ai
  14. Audrey Tang, SEWF "Reshaping Tomorrow"（2025-10-30）— https://archive.tw/2025-10-30-sewf-reshaping-tomorrow
  15. Doom Debates（唐凤出场，2026-01-20）— https://civic.ai/doom-debate/ ；中文逐字稿〈末日辩论〉— https://sayit.archive.tw/2026-01-20-%E6%9C%AB%E6%97%A5%E8%BE%AF%E8%AB%96
  16. Audrey Tang, Interview with Nicholas Thompson（2025-05-21）— https://archive.tw/2025-05-21-interview-with-nicholas-thompson
  17. Jan Kulveit, "Individual AI representatives don't solve Gradual Disempowerment"（2025-06-04）— https://www.lesswrong.com/posts/E96XcEPECbsipAvFi/individual-ai-representatives-don-t-solve-gradual
  18. titotal, "A deep critique of AI 2027’s bad timeline models"（LessWrong，2025-06-19）— https://www.lesswrong.com/posts/PAYfmG2aRbdb74mEp/a-deep-critique-of-ai-2027-s-bad-timeline-models
  19. Gary Marcus, "The “AI 2027” Scenario: How realistic is it?"（2025-05-22）— https://garymarcus.substack.com/p/the-ai-2027-scenario-how-realistic
  20. Eli Lifland, "Grading AI 2027’s 2025 Predictions"（AI Futures Project，2026-02-12）— https://blog.aifutures.org/p/grading-ai-2027s-2025-predictions
  21. 《多元宇宙》2-0〈资讯技术与民主：日益扩大的鸿沟〉— https://www.plurality.net/v/chapters/2-0/zh-tw/
相关: 什么是超级智慧（superintelligence）？ ・ 什么是 d/acc（防卫性加速）？ ・ 什么是反向对齐（reverse alignment）？ ・ 什么是关怀六力（6-Pack of Care）？ ・ 什么是仁工智慧（Civic AI）？ ・ 什么是对齐大会（Alignment Assemblies）？ ・ 什么是「三条道路」？

欢迎回报文章错误或提出想知道的问题（「什么是…？」）。送出的内容会成为公开的 issue。

回报本文错误 ・ 提问