多元宇宙地圖

什麼是關於 AI 未來的論爭（AI 2027 等）？

描繪「比人類聰明的 AI 何時到來、世界會變成怎樣」的預測與情境，在 2024～2026 年接連出現，引發很大的論爭。Plurality 一方的人們，以追問「社會要怎麼準備、由誰掌舵」而非單一 AI 走向的方式來回應。

看 AI 的新聞，會同時聽到「幾年後 AI 就會超越人類」和「不會那麼快改變」兩種說法。2024 年到 2026 年間，出現了好幾篇用具體年表和劇本描繪這個問題的文章，在全世界引起討論。本文介紹主要的文件，以及 Plurality 一方的人們如何回應。

一句話說明

2024～2026 年，描繪「比人類聰明的 AI 什麼時候會來、來了之後世界會變成怎樣」的文章與情境接連發表，引起很大的論爭。主要的文件在下面的「深入了解」中介紹。

Plurality 一方的人們，例如唐鳳（Audrey Tang）、衛谷倫（E. Glen Weyl）、維塔利克·布特林（Vitalik Buterin），用獨特的方式回應：不只問「最前沿的某一個 AI 會怎樣」，也問「社會這一方要怎麼準備、由誰來掌舵」[3][11][12]。

舉例來說

AI 2027（2025 年 4 月）。 由 Daniel Kokotajlo 等人的 AI Futures Project 發表的情境（劇本）。一家虛構的美國公司在 2027 年讓寫程式自動化，AI 加速 AI 的研究[1]。

結局有兩個。「競賽」結局中，持續開發的 AI 奪得權力，在 2030 年消滅人類。「減速」結局中，危險的模型被停下，美國與中國達成協議，但權力集中在監督委員會的問題仍然留著[1]。作者們後來說明，2027 年是最可能的一年，而不是居中的預測（中位數），並持續修訂預測[2]。

布特林的回應（2025 年 7 月）。 布特林批評 AI 2027 暗中設下的前提：只有領先的 AI 獲得神一般的經濟力與破壞力，其他所有人的力量幾乎不變。布特林指出，如果同一個情境描繪到 2029 年就克服癌症與老化，那麼防守的一方應該也會得到超人的力量[3]。

布特林進一步寫道，讓一個 AI 掌握霸權、贏得競賽的戰略，會消除這個霸權出問題時的對抗手段，因此反而可能降低安全[3]。

唐鳳的回應（2025 年）。 唐鳳在 2025 年 7 月接受日經亞洲的訪談時，提出與 AI 2027 這類看法相對的圖像：像社群備註（使用者為社群網站貼文加上補充說明的機制）這樣幫助人類協調的機制，AI 越強，它也可能越強——這是「協作式 AI 的賭注」；這樣和 AI 一起，我們人們共同成為超級智慧[4]。

深入了解

論爭的主要文件

Plurality 一方的回應之一：比起一個 AI，更重要的是「力量的平衡」

布特林說，領先的 AI 能否輕易消滅其他一切，並不是既定的前提，而是可以透過普及防禦技術來調整的「旋鈕」[3]。這連到布特林的 d/acc（優先推進幫助防禦與分散之技術的想法）。

回應之二：最前沿 AI 的問題，與身邊場合的問題是兩回事

唐鳳與 Caroline Green 的 FAQ（常見問題集）把問題分成兩個。第一個是讓最前沿通用 AI 的價值與人類一致的問題；第二個是「在這個場合，這個 AI 要對誰負責，由誰來承認」的問題。FAQ 寫道，AI 倫理框架關懷六力是為第二個問題而設的[11]。

FAQ 把 AI 2040: Plan A 評為擔心風險的一方朝自己靠近（趨同），因為 Plan A 的好結局，不是交給一家公司，而是交給許多行動者組成的「生態系」。但在 Plan A 中，一般民眾只是領取紅利、承認 AI 談成的協議；人們生活的場所並沒有成為打造者。FAQ 寫道，那一半就是我們的工作[11]。

回應之三：沒有談到社會這一方的準備

衛谷倫等人在 2026 年 7 月《Noema》雜誌的文章中，一方面承認同意 Amodei 的部分政策建議，一方面指出論述的偏頗：打造更聰明的 AI、讓 AI 符合人類價值，都有具體而有野心的計畫；可是社會要怎麼準備好承接它，卻幾乎沒被提到[12]。這就是反向對齊（不是改造 AI，而是重新打造社會制度這一方的想法）的出發點。

回應之四：減速的步調由人們決定

根據 Hélène Landemore 與唐鳳的文章，Amodei 在 2026 年 9 月 12 日呼籲放慢最前沿開發的步調，OpenAI 的山姆·阿特曼（Sam Altman）等人也表示同意[13]。對此，Landemore 與唐鳳在《Noema》上主張，美中的競爭接近一種只要有相互承諾就能合作的關係，並提議設立常設的「AI 全球公民大會」：從全世界抽籤選出 1,000 人，作為見證這些承諾的「證人」[13]。

回應之五：對一點一點失去力量之危險的共鳴

Plurality 一方也有人對 Gradual Disempowerment 的擔憂表示共鳴。唐鳳在 2025 年 10 月的演講中說，讓人依賴的 AI 最終走向的正是漸進式失能，並拿它和幫助社群掌舵自己規則的 AI 對照[14]。

爭議與批評

在《Plurality》中的位置

《多元宇宙》的正文寫在這些預測之前，所以沒有點名討論它們。書的 2-0 章把 AI、以及社會不得不配合它的未來願景，整理為「專家統治」（由少數專家用技術管理社會的想法）[21]。這場論爭可以當作它的延伸來讀。詳見三條道路與超級智慧。

Plurality 一方帶進這場論爭的，主要是三種想法：布特林的 d/acc（防禦的分散）、唐鳳與 Green 的關懷六力與仁工智慧（每個身邊場合的問責），以及衛谷倫等人的反向對齊（重新打造社會制度）。

延伸閱讀

  1. 〈末日辯論〉（Doom Debates，唐鳳出場，中文，逐字稿）— https://sayit.archive.tw/2026-01-20-%E6%9C%AB%E6%97%A5%E8%BE%AF%E8%AB%96
  2. 《多元宇宙》2-0〈資訊技術與民主：日益擴大的鴻溝〉（中文，書）— https://www.plurality.net/v/chapters/2-0/zh-tw/
  3. AI 2027 作者的摘要（英文，情境）— https://ai-2027.com/summary
  4. Audrey Tang, Nikkei Asia 訪談（英文，訪談）— https://archive.tw/2025-07-22-interview-with-nikkei-asia
  5. Vitalik Buterin, "My response to AI 2027"（英文，文章）— https://vitalik.eth.limo/general/2025/07/10/2027.html
  6. civic.ai FAQ（英文，文件）— https://civic.ai/faq/
  7. Weyl 等, "What Humanity Needs To Flourish"（英文，文章）— https://www.noemamag.com/what-humanity-needs-to-flourish-in-the-next-decade/

出處

  1. AI 2027 Summary（2025-04-03）— https://ai-2027.com/summary
  2. AI Futures Project, "Clarifying how our AI timelines forecasts…"（2026-01-27）— https://blog.aifutures.org/p/clarifying-how-our-ai-timelines-forecasts
  3. Vitalik Buterin, "My response to AI 2027"（2025-07-10）— https://vitalik.eth.limo/general/2025/07/10/2027.html
  4. Audrey Tang, Interview with Nikkei Asia（2025-07-22）— https://archive.tw/2025-07-22-interview-with-nikkei-asia ［CC0］
  5. Leopold Aschenbrenner, "Situational Awareness"（2024-06）— https://situational-awareness.ai/
  6. Dario Amodei, "Machines of Loving Grace"（2024-10）— https://www.darioamodei.com/essay/machines-of-loving-grace
  7. Arvind Narayanan & Sayash Kapoor, "AI as Normal Technology"（2025-04-15）— https://knightcolumbia.org/content/ai-as-normal-technology
  8. "Common Ground between AI 2027 and AI as Normal Technology"（2025-11-12）— https://asteriskmag.substack.com/p/common-ground-between-ai-2027-and
  9. Jan Kulveit 等, "Gradual Disempowerment"（2025-01-28）— https://arxiv.org/abs/2501.16946
  10. AI Futures Project, "AI 2040: Plan A"（2026-07-09）— https://ai-2040.com/
  11. civic.ai FAQ（Q17）— https://civic.ai/faq/ ［CC0］
  12. Glen Weyl, James Evans, Chris White, "What Humanity Needs To Flourish"（Noema，2026-07-21）— https://www.noemamag.com/what-humanity-needs-to-flourish-in-the-next-decade/
  13. Hélène Landemore & Audrey Tang, "Let The People Set The Pace Of Frontier AI"（Noema，2026-09-23）— https://www.noemamag.com/let-the-people-decide-the-pace-of-frontier-ai
  14. Audrey Tang, SEWF "Reshaping Tomorrow"（2025-10-30）— https://archive.tw/2025-10-30-sewf-reshaping-tomorrow ［CC0］
  15. Doom Debates（唐鳳出場，2026-01-20）— https://civic.ai/doom-debate/ ；中文逐字稿〈末日辯論〉— https://sayit.archive.tw/2026-01-20-%E6%9C%AB%E6%97%A5%E8%BE%AF%E8%AB%96 ［CC0］
  16. Audrey Tang, Interview with Nicholas Thompson（2025-05-21）— https://archive.tw/2025-05-21-interview-with-nicholas-thompson ［CC0］
  17. Jan Kulveit, "Individual AI representatives don't solve Gradual Disempowerment"（2025-06-04）— https://www.lesswrong.com/posts/E96XcEPECbsipAvFi/individual-ai-representatives-don-t-solve-gradual
  18. titotal, "A deep critique of AI 2027’s bad timeline models"（LessWrong，2025-06-19）— https://www.lesswrong.com/posts/PAYfmG2aRbdb74mEp/a-deep-critique-of-ai-2027-s-bad-timeline-models
  19. Gary Marcus, "The “AI 2027” Scenario: How realistic is it?"（2025-05-22）— https://garymarcus.substack.com/p/the-ai-2027-scenario-how-realistic
  20. Eli Lifland, "Grading AI 2027’s 2025 Predictions"（AI Futures Project，2026-02-12）— https://blog.aifutures.org/p/grading-ai-2027s-2025-predictions
  21. 《多元宇宙》2-0〈資訊技術與民主：日益擴大的鴻溝〉— https://www.plurality.net/v/chapters/2-0/zh-tw/ ［CC0］
相關: 什麼是超級智慧（superintelligence）？ ・ 什麼是 d/acc（防衛性加速）？ ・ 什麼是反向對齊（reverse alignment）？ ・ 什麼是關懷六力（6-Pack of Care）？ ・ 什麼是仁工智慧（Civic AI）？ ・ 什麼是對齊大會（Alignment Assemblies）？ ・ 什麼是「三條道路」？

歡迎回報文章錯誤或提出想知道的問題（「什麼是…？」）。送出的內容會成為公開的 issue。

回報本文錯誤 ・ 提問