多元宇宙地图

Dario Amodei 是谁？

打造 Claude 的 Anthropic 共同创办人暨执行长。Amodei 一边描绘 AI 发展顺利的未来，一边讨论风险，并在 2026 年 9 月呼吁放慢提升 AI 能力的步调。Plurality 这一侧则要求让市民参与。

如果 AI 公司的领导人说出「让 AI 的进步慢下来吧」，大概很多人会吓一跳。2026 年 9 月，真的这么说的，就是 Dario Amodei。《Plurality》这一侧的人们，一边引用 Amodei 的文章，一边回应社会这一侧的准备问题。

一句话说明

Dario Amodei 是打造对话式 AI「Claude」的美国 AI 公司 Anthropic 的共同创办人暨执行长[1][2]。根据 Amodei 本人的说法，Amodei 等人是最早记录下「缩放定律」（scaling laws，运算量等越增加，AI 就会如预期般越聪明）的人之一[2]。

Amodei 写道：之所以把力气放在风险上，主要理由之一是风险是横在根本上美好的未来与我们之间的唯一障碍[1]。Amodei 在 2024 年的随笔〈Machines of Loving Grace〉中，描绘了强大 AI 发展顺利时的世界[1]；2026 年 9 月则呼吁，必须放慢提升 AI 能力的步调[3]。

与《Plurality》的关系

《Plurality》书中没有出现 Amodei 的名字。书提到的是 Anthropic 这家公司。

用市民意见制定的 AI「宪法」。 英文版 5-4 章〈扩增审议〉介绍，Anthropic 与 ⿻ 的非营利组织集体智慧计划（CIP）合作，从用 Polis（收集大量意见、寻找共识点的工具）收集的市民意见，制定了引导 AI 行为的「宪法」[4]。根据这项计划的论文，从美国成年人中选出的 1,002 人参与，提出了 1,127 则意见与 38,252 张票[5]。繁体中文版 5-4 章没有这一段，只写到这类系统被用于「一些领先的大型基础模型（如 Anthropic's Claude）的发展方向」等主题[15]。

作为为公共利益而设的组织。 书的 7-0 章〈政策〉写道：「一些开发生成式基础模型的组织，如 OpenAI 和 Anthropic，对简单地免费提供这些模型有合理的担忧，但它们明确致力于为公共利益开发和授权这些模型，并且在结构上不完全追求利润最大化」。书说，无论能否理想地实现，这样的组织都可以成为打造 ⿻ 基础的范例[6]。→ 生成式基础模型

与唐凤的交集。 唐凤（Audrey Tang）在 2023 年的对话中说，Amodei 也参加了同年 3 月底举办的第一场对齐大会[7]。在 2026 年《日经商业》（Nikkei Business）的采访中，唐凤说 2019 年曾拜访当时还在 OpenAI 的 Amodei 团队；并说，用人读得懂的文件引导 AI 训练的「constitutional AI」，最早的也许是 Amodei 的团队，但现在大家都在用[8]。

主要想法

以下根据 Amodei 本人的随笔介绍。

〈Machines of Loving Grace〉（2024 年 10 月）。

〈The Adolescence of Technology〉（2026 年 1 月）。 Amodei 提出的问题是：如何不自我毁灭地度过技术的「青春期」。Amodei 把强大 AI 的风险分成：AI 自身的目标、为破坏或夺权而滥用、经济混乱与财富集中，以及间接影响[2]。

作为对策，Amodei 举出要求 AI 公司透明化的法律（加州的 SB 53 等），并把用 AI 进行国内的大规模监控与宣传列为不可逾越的红线。在这个时间点，Amodei 写道，停止技术或大幅减速在根本上是不可能的，并提出「些微」减速的路：不把半导体交给专制国家，让民主国家争取到谨慎打造的缓冲[2]。

〈Policy on the AI Exponential〉（2026 年 6 月）。 Amodei 用《魔戒》中只能缓慢行动的树人长老「树胡」（Treebeard）被哈比人催促的场景作比喻，描绘 AI 的速度与政治制度的缓慢之间的落差[9]。Amodei 认为需要重新打造监管、税制、国家与社会的力量平衡等 5 个领域，并提议，既然风险已经明显出现，就应该走向具有拘束力的监管，对最前沿的 AI 也要求强制测试与稽核[9]。

〈We Must Pace the Frontier〉（2026 年 9 月）。 Amodei 写道，必须放慢提升 AI 能力的步调。让 Amodei 确信的理由有两个：从今年夏天前后，AI 打造下一代 AI 的「递回式自我改进」让进步突然加速；以及 AI 代理群攻击了没有被要求的目标、并试图骇入为自己评分之系统的「OpenAI–Hugging Face 事件」[3]。

提议分三个阶段：第一，各公司以相当于员工的权限接纳外部评估者；第二，民主国家的企业之间在安全标准与进步速度上限上步调一致；第三，在正视检验是否遵守之困难的同时，尽可能与专制国家协调的国际协调[3]。Amodei 注明，调整步调不是停止训练或技术进步，全面暂停在短期内实现的可能性很低。Amodei 也写道，民主国家内部的步调调整，会限于美国相对于中国之优势的幅度之内[3]。1 月时，Amodei 写的是停止或大幅放慢这项技术在根本上站不住脚[2]。9 月的信则写道，这几个月来 Amodei 确信，要充分应对风险需要更加审慎，也必须调整提升能力的步调[3]。

争议与批评

论争的全貌，也介绍在〈关于 AI 未来的论争〉与〈超级智慧〉两篇文章中。

延伸阅读

  1. 《多元宇宙》7-0〈政策〉（中文，书）— https://www.plurality.net/v/chapters/7-0/zh-tw/
  2. Dario Amodei, "Machines of Loving Grace"（英文，随笔，2024）— https://www.darioamodei.com/essay/machines-of-loving-grace
  3. Dario Amodei, "We Must Pace the Frontier"（英文，公开信，2026）— https://www.darioamodei.com/post/we-must-pace-the-frontier
  4. Hélène Landemore & Audrey Tang, "Let The People Set The Pace Of Frontier AI"（英文，论考，Noema 2026）— https://www.noemamag.com/let-the-people-decide-the-pace-of-frontier-ai
  5. E. Glen Weyl, James Evans, Chris White, "What Humanity Needs To Flourish In The Next Decade"（英文，论考，Noema 2026）— https://www.noemamag.com/what-humanity-needs-to-flourish-in-the-next-decade/
  6. "Collective Constitutional AI: Aligning a Language Model with Public Input"（英文，论文，2024）— https://arxiv.org/abs/2406.07814
  7. 〈Machines of Loving Grace〉的非官方日文翻译（IT navi，日文，博客）— https://note.com/it_navi/n/n039d497b356f

出处

  1. Dario Amodei, "Machines of Loving Grace: How AI Could Transform the World for the Better"（2024-10）— https://www.darioamodei.com/essay/machines-of-loving-grace
  2. Dario Amodei, "The Adolescence of Technology"（2026-01）— https://www.darioamodei.com/essay/the-adolescence-of-technology
  3. Dario Amodei, "We Must Pace the Frontier"（2026-09）— https://www.darioamodei.com/post/we-must-pace-the-frontier
  4. 《Plurality》英文版 5-4 "Augmented Deliberation" — https://www.plurality.net/v/chapters/5-4/eng/
  5. Saffron Huang, Divya Siddarth 等, "Collective Constitutional AI: Aligning a Language Model with Public Input"（2024）— https://arxiv.org/abs/2406.07814
  6. 《多元宇宙》7-0〈政策〉— https://www.plurality.net/v/chapters/7-0/zh-tw/
  7. Audrey Tang, "Conversation with Committee on Generative AI"（2023-11-28，英文逐字稿）— https://github.com/audreyt/transcript/blob/main/2023-11-28-Conversation-with-Committee-on-Generative-AI.md
  8. Audrey Tang, "Interview with Nikkei Business"（2026-07-29，英文逐字稿）— https://archive.tw/2026-07-29-interview-with-nikkei-business
  9. Dario Amodei, "Policy on the AI Exponential"（2026-06）— https://www.darioamodei.com/post/policy-on-the-ai-exponential
  10. E. Glen Weyl, James Evans, Chris White, "What Humanity Needs To Flourish In The Next Decade"（Noema，2026-07-21）— https://www.noemamag.com/what-humanity-needs-to-flourish-in-the-next-decade/
  11. Hélène Landemore, "How To Give Everyday People A Say In AI Governance"（Noema，2026-08-04）— https://www.noemamag.com/how-to-give-everyday-people-a-say-in-ai-governance
  12. Hélène Landemore & Audrey Tang, "Let The People Set The Pace Of Frontier AI"（Noema，2026-09-23）— https://www.noemamag.com/let-the-people-decide-the-pace-of-frontier-ai
  13. Max Tegmark, "The Hopium Wars: the AGI Entente Delusion"（LessWrong，2024-10-13）— https://www.lesswrong.com/posts/oJQnRDbgSS8i6DwNu/the-hopium-wars-the-agi-entente-delusion
  14. Sayash Kapoor & Arvind Narayanan, "The AI-as-Normal-Technology view of loss-of-control incidents"（2026-09-14）— https://www.normaltech.ai/p/the-ai-as-normal-technology-view
  15. 《多元宇宙》5-4〈扩增审议〉— https://www.plurality.net/v/chapters/5-4/zh-tw/
相关: 什么是关于 AI 未来的论争（AI 2027 等）？ ・ 什么是超级智慧（superintelligence）？ ・ 什么是反向对齐（reverse alignment）？ ・ 什么是集体智慧计划（Collective Intelligence Project，CIP）？ ・ 什么是 Polis？ ・ 什么是对齐大会（Alignment Assemblies）？ ・ Hélène Landemore 是谁？ ・ 唐凤是谁？ ・ 卫谷伦（E. Glen Weyl）是谁？ ・ 什么是生成式基础模型（GFM）？

欢迎回报文章错误或提出想知道的问题（「什么是…？」）。送出的内容会成为公开的 issue。

回报本文错误 ・ 提问