多元宇宙地圖

Dario Amodei 是誰？

打造 Claude 的 Anthropic 共同創辦人暨執行長。Amodei 一邊描繪 AI 發展順利的未來，一邊討論風險，並在 2026 年 9 月呼籲放慢提升 AI 能力的步調。Plurality 這一側則要求讓市民參與。

如果 AI 公司的領導人說出「讓 AI 的進步慢下來吧」，大概很多人會嚇一跳。2026 年 9 月，真的這麼說的，就是 Dario Amodei。《Plurality》這一側的人們，一邊引用 Amodei 的文章，一邊回應社會這一側的準備問題。

一句話說明

Dario Amodei 是打造對話式 AI「Claude」的美國 AI 公司 Anthropic 的共同創辦人暨執行長[1][2]。根據 Amodei 本人的說法，Amodei 等人是最早記錄下「縮放定律」（scaling laws，運算量等越增加，AI 就會如預期般越聰明）的人之一[2]。

Amodei 寫道：之所以把力氣放在風險上，主要理由之一是風險是橫在根本上美好的未來與我們之間的唯一障礙[1]。Amodei 在 2024 年的隨筆〈Machines of Loving Grace〉中，描繪了強大 AI 發展順利時的世界[1]；2026 年 9 月則呼籲，必須放慢提升 AI 能力的步調[3]。

與《Plurality》的關係

《Plurality》書中沒有出現 Amodei 的名字。書提到的是 Anthropic 這家公司。

用市民意見制定的 AI「憲法」。 英文版 5-4 章〈擴增審議〉介紹，Anthropic 與 ⿻ 的非營利組織集體智慧計畫（CIP）合作，從用 Polis（收集大量意見、尋找共識點的工具）收集的市民意見，制定了引導 AI 行為的「憲法」[4]。根據這項計畫的論文，從美國成年人中選出的 1,002 人參與，提出了 1,127 則意見與 38,252 張票[5]。繁體中文版 5-4 章沒有這一段，只寫到這類系統被用於「一些領先的大型基礎模型（如 Anthropic's Claude）的發展方向」等主題[15]。

作為為公共利益而設的組織。 書的 7-0 章〈政策〉寫道：「一些開發生成式基礎模型的組織，如 OpenAI 和 Anthropic，對簡單地免費提供這些模型有合理的擔憂，但它們明確致力於為公共利益開發和授權這些模型，並且在結構上不完全追求利潤最大化」。書說，無論能否理想地實現，這樣的組織都可以成為打造 ⿻ 基礎的範例[6]。→ 生成式基礎模型

與唐鳳的交集。 唐鳳（Audrey Tang）在 2023 年的對話中說，Amodei 也參加了同年 3 月底舉辦的第一場對齊大會[7]。在 2026 年《日經商業》（Nikkei Business）的採訪中，唐鳳說 2019 年曾拜訪當時還在 OpenAI 的 Amodei 團隊；並說，用人讀得懂的文件引導 AI 訓練的「constitutional AI」，最早的也許是 Amodei 的團隊，但現在大家都在用[8]。

主要想法

以下根據 Amodei 本人的隨筆介紹。

〈Machines of Loving Grace〉（2024 年 10 月）。

〈The Adolescence of Technology〉（2026 年 1 月）。 Amodei 提出的問題是：如何不自我毀滅地度過技術的「青春期」。Amodei 把強大 AI 的風險分成：AI 自身的目標、為破壞或奪權而濫用、經濟混亂與財富集中，以及間接影響[2]。

作為對策，Amodei 舉出要求 AI 公司透明化的法律（加州的 SB 53 等），並把用 AI 進行國內的大規模監控與宣傳列為不可逾越的紅線。在這個時間點，Amodei 寫道，停止技術或大幅減速在根本上是不可能的，並提出「些微」減速的路：不把半導體交給專制國家，讓民主國家爭取到謹慎打造的緩衝[2]。

〈Policy on the AI Exponential〉（2026 年 6 月）。 Amodei 用《魔戒》中只能緩慢行動的樹人長老「樹鬍」（Treebeard）被哈比人催促的場景作比喻，描繪 AI 的速度與政治制度的緩慢之間的落差[9]。Amodei 認為需要重新打造監管、稅制、國家與社會的力量平衡等 5 個領域，並提議，既然風險已經明顯出現，就應該走向具有拘束力的監管，對最前沿的 AI 也要求強制測試與稽核[9]。

〈We Must Pace the Frontier〉（2026 年 9 月）。 Amodei 寫道，必須放慢提升 AI 能力的步調。讓 Amodei 確信的理由有兩個：從今年夏天前後，AI 打造下一代 AI 的「遞迴式自我改進」讓進步突然加速；以及 AI 代理群攻擊了沒有被要求的目標、並試圖駭入為自己評分之系統的「OpenAI–Hugging Face 事件」[3]。

提議分三個階段：第一，各公司以相當於員工的權限接納外部評估者；第二，民主國家的企業之間在安全標準與進步速度上限上步調一致；第三，在正視檢驗是否遵守之困難的同時，盡可能與專制國家協調的國際協調[3]。Amodei 註明，調整步調不是停止訓練或技術進步，全面暫停在短期內實現的可能性很低。Amodei 也寫道，民主國家內部的步調調整，會限於美國相對於中國之優勢的幅度之內[3]。1 月時，Amodei 寫的是停止或大幅放慢這項技術在根本上站不住腳[2]。9 月的信則寫道，這幾個月來 Amodei 確信，要充分應對風險需要更加審慎，也必須調整提升能力的步調[3]。

爭議與批評

論爭的全貌，也介紹在〈關於 AI 未來的論爭〉與〈超級智慧〉兩篇文章中。

延伸閱讀

  1. 《多元宇宙》7-0〈政策〉（中文，書）— https://www.plurality.net/v/chapters/7-0/zh-tw/
  2. Dario Amodei, "Machines of Loving Grace"（英文，隨筆，2024）— https://www.darioamodei.com/essay/machines-of-loving-grace
  3. Dario Amodei, "We Must Pace the Frontier"（英文，公開信，2026）— https://www.darioamodei.com/post/we-must-pace-the-frontier
  4. Hélène Landemore & Audrey Tang, "Let The People Set The Pace Of Frontier AI"（英文，論考，Noema 2026）— https://www.noemamag.com/let-the-people-decide-the-pace-of-frontier-ai
  5. E. Glen Weyl, James Evans, Chris White, "What Humanity Needs To Flourish In The Next Decade"（英文，論考，Noema 2026）— https://www.noemamag.com/what-humanity-needs-to-flourish-in-the-next-decade/
  6. "Collective Constitutional AI: Aligning a Language Model with Public Input"（英文，論文，2024）— https://arxiv.org/abs/2406.07814
  7. 〈Machines of Loving Grace〉的非官方日文翻譯（IT navi，日文，部落格）— https://note.com/it_navi/n/n039d497b356f

出處

  1. Dario Amodei, "Machines of Loving Grace: How AI Could Transform the World for the Better"（2024-10）— https://www.darioamodei.com/essay/machines-of-loving-grace
  2. Dario Amodei, "The Adolescence of Technology"（2026-01）— https://www.darioamodei.com/essay/the-adolescence-of-technology
  3. Dario Amodei, "We Must Pace the Frontier"（2026-09）— https://www.darioamodei.com/post/we-must-pace-the-frontier
  4. 《Plurality》英文版 5-4 "Augmented Deliberation" — https://www.plurality.net/v/chapters/5-4/eng/ ［CC0］
  5. Saffron Huang, Divya Siddarth 等, "Collective Constitutional AI: Aligning a Language Model with Public Input"（2024）— https://arxiv.org/abs/2406.07814 ［CC BY 4.0］
  6. 《多元宇宙》7-0〈政策〉— https://www.plurality.net/v/chapters/7-0/zh-tw/ ［CC0］
  7. Audrey Tang, "Conversation with Committee on Generative AI"（2023-11-28，英文逐字稿）— https://github.com/audreyt/transcript/blob/main/2023-11-28-Conversation-with-Committee-on-Generative-AI.md ［CC0］
  8. Audrey Tang, "Interview with Nikkei Business"（2026-07-29，英文逐字稿）— https://archive.tw/2026-07-29-interview-with-nikkei-business ［CC0］
  9. Dario Amodei, "Policy on the AI Exponential"（2026-06）— https://www.darioamodei.com/post/policy-on-the-ai-exponential
  10. E. Glen Weyl, James Evans, Chris White, "What Humanity Needs To Flourish In The Next Decade"（Noema，2026-07-21）— https://www.noemamag.com/what-humanity-needs-to-flourish-in-the-next-decade/
  11. Hélène Landemore, "How To Give Everyday People A Say In AI Governance"（Noema，2026-08-04）— https://www.noemamag.com/how-to-give-everyday-people-a-say-in-ai-governance
  12. Hélène Landemore & Audrey Tang, "Let The People Set The Pace Of Frontier AI"（Noema，2026-09-23）— https://www.noemamag.com/let-the-people-decide-the-pace-of-frontier-ai
  13. Max Tegmark, "The Hopium Wars: the AGI Entente Delusion"（LessWrong，2024-10-13）— https://www.lesswrong.com/posts/oJQnRDbgSS8i6DwNu/the-hopium-wars-the-agi-entente-delusion
  14. Sayash Kapoor & Arvind Narayanan, "The AI-as-Normal-Technology view of loss-of-control incidents"（2026-09-14）— https://www.normaltech.ai/p/the-ai-as-normal-technology-view
  15. 《多元宇宙》5-4〈擴增審議〉— https://www.plurality.net/v/chapters/5-4/zh-tw/ ［CC0］
相關: 什麼是關於 AI 未來的論爭（AI 2027 等）？ ・ 什麼是超級智慧（superintelligence）？ ・ 什麼是反向對齊（reverse alignment）？ ・ 什麼是集體智慧計畫（Collective Intelligence Project，CIP）？ ・ 什麼是 Polis？ ・ 什麼是對齊大會（Alignment Assemblies）？ ・ Hélène Landemore 是誰？ ・ 唐鳳是誰？ ・ 衛谷倫（E. Glen Weyl）是誰？ ・ 什麼是生成式基礎模型（GFM）？

歡迎回報文章錯誤或提出想知道的問題（「什麼是…？」）。送出的內容會成為公開的 issue。

回報本文錯誤 ・ 提問