什么是超级智慧（superintelligence）？

在几乎所有领域都远远超过最聪明人类的智慧。许多 AI 公司把它当作目标，同时它也被视为可能威胁人类的存在而令人畏惧。Plurality 一方则把它重新解读为「超级智慧已经在这里，就是协作的我们自己」。

你也许在新闻里听过「AI 总有一天会比人类聪明」的说法。这样的 AI 被称为「超级智慧」。它一方面被说成梦想中的技术，另一方面也被担心可能招来人类的终结。本文介绍超级智慧这个词的意思，以及围绕它的想法差异。

一句话说明

超级智慧（superintelligence）是指从科学创造力到社交技能，在几乎所有领域都远远超过最聪明人类的智慧[1]。

这是 OpenAI、Meta、Microsoft 等 AI 公司宣称要「打造」的目标。同时，也有人把它看成可能威胁人类存续的东西，要求禁止开发[2]。

《多元宇宙》的作者唐凤（Audrey Tang）与卫谷伦（E. Glen Weyl），重新解读了这个词：超级智慧不是在资料中心里打造的东西，而是已经在这里、彼此协作的我们自己[3][4]。

举例来说

AI 公司的宣言（2023～2025 年）。 OpenAI 的经营团队在 2023 年 5 月，把超级智慧当作比通用人工智能（AGI）更强的未来 AI，讨论它的治理。他们认为十年内 AI 可能在大多数领域超过专家，并提议成立类似国际原子能总署（IAEA）的国际机构[5]。

曾是 OpenAI 经营团队成员的 Ilya Sutskever 等人，在 2024 年 6 月以超级智慧已近在咫尺为由，创立了新公司 Safe Superintelligence Inc.[6]。Meta 的 Mark Zuckerberg 在 2025 年 7 月写道，要把个人化的超级智慧送到每个人手上[7]。Microsoft AI 的 Mustafa Suleyman 在 2025 年 11 月宣布，目标不是什么都自己决定的存在，而是限定领域的「以人为本的超级智慧」[8]。

要求禁止的声明（2025 年 10 月）。 由生命未来研究所（Future of Life Institute）发起的声明指出，许多 AI 公司说要在未来十年打造在所有智力工作上超越人类的超级智慧。声明要求，在取得安全且可控的广泛科学共识与民众的强烈支持之前，禁止开发。截至 2026 年 9 月 24 日，签署数为 75,329 笔[2]。

「我们全民，才是超级智慧」（2026 年 5 月）。 唐凤在 MIT SOLVE 2026 的主题演讲中，一开头就说：对自己而言，超级智慧不是在某个资料中心里打造的东西，它就在这个房间里，在我们所有人之中，它就是我们[3]。唐凤说，该问的是：我们现在打造的技术，是让这个超级智慧变大，还是把它挤开[3]。

深入了解

词的由来

哲学家尼克·伯斯特隆姆（Nick Bostrom）在 1998 年的论文中，把超级智慧定义为：在包括科学创造力、智慧、社交技能在内的几乎所有领域，都比最好的人脑聪明得多的智慧，不论它是由电脑还是其他方法打造[1]。2014 年的著作《超级智慧》（Superintelligence）也使用在几乎所有领域都大幅超越人类认知能力的智慧这个定义（根据同年伯斯特隆姆与 Vincent C. Müller 论文中的引用）[9]。

在那之前的 1993 年，科幻作家 Vernor Vinge 写道，30 年内会出现打造超越人类智慧的手段，此后不久人类的时代就会结束，并把这个转折点称为「奇点」（singularity）[10]。

单一体

伯斯特隆姆在 2005 年，把世界的顶端只有一个决策者、能防止对自身的威胁并实际支配世界的状态，称为「单一体」（singleton）。伯斯特隆姆说，民主的世界政府、全球的独裁，或对人友善的超级智慧机器，都可能是它的例子[11]。在 Plurality 一方的论述中，这个单一体一再以「应该避免的目的地」出现[12]。

作为国家战略的超级智慧

Hendrycks 等人在 2025 年 3 月的论文中，把各国用网络攻击等手段互相妨碍对方开发超级智慧的吓阻状态，命名为「相互保证 AI 失灵」（MAIM），比拟为核吓阻[13]。这类预测与竞争的论争，整理在关于 AI 未来的论争一文中。

Plurality 一方的重新解读之一：「多元宇宙，已经来临」

《多元宇宙》2-2 章开头，引用了唐凤 2016 年写的诗（对自己工作的说明）。最后一句在繁体中文版中是：「听说『奇点即将接近』—— 多元宇宙，已经来临。」[14]

卫谷伦在 2022 年的文章中批评，AI 的主流论述以一般智慧的奇点为目标：超越多样的智慧，并以「对齐」人类愿望的目标最佳化，取代 ⿻（多元）合作的杂乱[15]。

重新解读之二：真正的超级智慧早已在我们周围

卫谷伦在 2025 年 11 月于哈佛大学的演讲中说，真正的超级智慧早已以宗教、企业、市场、民主的形式围绕着我们。卫谷伦呼吁，与其打造击败我们的 AI，不如想一想如何和环境、机器一起，成为地球规模的集体超级智慧[4]。演讲的报告把卫谷伦的立场整理为：超级智慧早在数千年前就已经在这里了[16]。

重新解读之三：不是纵向，而是横向的超级智慧

唐凤的 AI 伦理宣言关怀六力（6-Pack of Care，2025 年 9 月）说，技术奇点这种「垂直」的叙事，需要「水平」的替代方案。它描绘的不是由一个 AI 管理一切的单一体，而是许多专门 AI 共存的社会[17]。宣言写道，我们需要的超级智慧已经在这里，那就是人们协作尚未开发的力量——「We, the People」[17]。

不过，发布这些内容的 civic.ai 首页也说明，这不是说人们的集合等同于机器的超级智慧。它的意思是：在正确的制度条件下、手握工具的人们，会产生任何中央最佳化装置都无法正当取代的集体智慧[18]。

争议与批评

Plurality 一方否定超级智慧的风险吗？ civic.ai 的 FAQ 回答说，这是误解。它承认让强大通用 AI 的价值与人类一致的问题，是十多年来仍未解决的真正问题，并认为各研究者与 AI 公司的工作是必要的。关怀六力并不宣称能解决它，而是处理另一个问题：在身边的场合，AI 要对谁负责——把角色分开[19]。对于万一打造出无法控制的超级智慧的情况，FAQ 也不说能解决控制问题，而是回答要建立「第二道防线」[19]。
「我们就是超级智慧」只是比喻吗？ 如上面的说明，唐凤一方也没有说人们的集合具有与机器超级智慧相同的能力。主张的重点在于：具有正当性与问责的集体智慧，无法由中央装置取代[18]。
和 Suleyman 的「以人为本的超级智慧」有什么不同？ Suleyman 也提倡限定领域的超级智慧，看起来和 Plurality 一方「许多能力有限的 AI」的想法相似[8]。不过，目前还没有确认到 Plurality 一方直接讨论 Suleyman 构想的文章。

在《Plurality》中的位置

书的 2-0 章〈资讯技术与民主：日益扩大的鸿沟〉，举科幻与未来学决定技术发展方向的例子，写道「科技透过创造『超级智慧』导致权力集中的趋势」的著名案例，包括以撒·艾西莫夫（Isaac Asimov）和伊恩·班克斯（Iain Banks）的小说、雷·库兹威尔（Ray Kurzweil）的预测未来主义，以及《魔鬼终结者》（Terminator）和《云端情人》（Her）等电影[20]。同一章把以 AI 为中心的未来愿景整理为「专家统治」，列为三条道路之一，并把伯斯特隆姆列为这个观点的未来学家之一[20]。

2-2 章开头唐凤的诗，也在数位与 ⿻一文中讨论。唐凤在 2026 年 7 月的访谈中说，2016 年那首诗的五句，「五句里大概已经完成四句。到了第五句，我现在会再加上一句：我们全民才是真正的超级智慧。」[21]

维塔利克·布特林（Vitalik Buterin）则提出另一条路：现在先打造作为工具的 AI，而不是自己行动的 AI，将来再走向人与机器紧密连结的超级智慧[22]。布特林的想法见 d/acc，卫谷伦的发展见反向对齐，唐凤的发展见仁工智慧。

出处

Nick Bostrom, "How Long Before Superintelligence?"（1998）— https://nickbostrom.com/superintelligence
Future of Life Institute, "Statement on Superintelligence"（2025-10-22）— https://superintelligence-statement.org/
Audrey Tang, "We the People are Truly the Superintelligence"（MIT SOLVE 2026，2026-05-14）— https://civic.ai/we-the-people-are-truly-the-superintelligence/
Berkman Klein Center, "How to Be the Superintelligence You've Been Waiting For"（演讲摘要，2025-11）— https://cyber.harvard.edu/events/how-be-superintelligence-youve-been-waiting
OpenAI, "Governance of superintelligence"（2023-05-22）— https://openai.com/index/governance-of-superintelligence/
Safe Superintelligence Inc. 成立公告（2024-06-19）— https://ssi.inc/
Mark Zuckerberg, "Personal Superintelligence"（2025-07-30）— https://www.meta.com/superintelligence/
Mustafa Suleyman, "Towards Humanist Superintelligence"（2025-11-06）— https://microsoft.ai/news/towards-humanist-superintelligence/
Vincent C. Müller & Nick Bostrom, "Future Progress in Artificial Intelligence: A Survey of Expert Opinion"（2014）— https://nickbostrom.com/papers/survey.pdf
Vernor Vinge, "The Coming Technological Singularity"（1993）— https://edoras.sdsu.edu/~vinge/misc/singularity.html
Nick Bostrom, "What is a Singleton?"（2005）— https://nickbostrom.com/fut/singleton
civic.ai Glossary "Singleton" — https://civic.ai/glossary/
Hendrycks, Schmidt, Wang, "Superintelligence Strategy"（2025-03-05）— https://arxiv.org/abs/2503.05628
《多元宇宙》2-2〈数位民主的日常〉卷首 — https://www.plurality.net/v/chapters/2-2/zh-tw/
Glen Weyl, "Why I Am A Pluralist"（2022-02-10）— https://www.radicalxchange.org/updates/blog/why-i-am-a-pluralist/
Berkman Klein Center, "Rethinking and reframing superintelligence"（2025-12）— https://cyber.harvard.edu/story/2025-12/rethinking-and-reframing-superintelligence
6-Pack of Care: A Manifesto（2025-09-01）— https://civic.ai/manifesto/
civic.ai 首页 — https://civic.ai/
civic.ai FAQ（Q15、Q17）— https://civic.ai/faq/
《多元宇宙》2-0〈资讯技术与民主：日益扩大的鸿沟〉— https://www.plurality.net/v/chapters/2-0/zh-tw/
唐凤〈Open Commons 专访〉（2026-07-16）— https://sayit.archive.tw/2026-07-16-open-commons-%E5%B0%88%E8%A8%AA
Vitalik Buterin, "d/acc: one year later"（2025-01-05）— https://vitalik.eth.limo/general/2025/01/05/dacc2.html

欢迎回报文章错误或提出想知道的问题（「什么是…？」）。送出的内容会成为公开的 issue。

回报本文错误・提问