Plurality の地図

ダリオ・アモデイ（Dario Amodei）ってどんな人？

Claude を作る Anthropic の共同創業者・CEO です。AI がうまくいった未来を描きつつリスクを論じ、2026 年 9 月には AI の能力を高めるペースを落とそうと呼びかけました。Plurality の側は市民の関与を求めています。

AI の会社のトップが「AI の進歩をゆっくりにしよう」と言い出したら、驚く人も多いでしょう。2026 年 9 月、それを実際に言ったのがこの人です。書籍『Plurality』の側の人々は、アモデイの文章を引きながら、社会の側の備えについて応答しています。

ひとことで言うと

ダリオ・アモデイ（Dario Amodei）は、対話 AI「Claude」を作る米国の AI 企業 Anthropic の共同創業者で、CEO です[1][2]。本人によれば、アモデイたちは、計算量などを増やすほど AI が予測どおりに賢くなる「スケーリング則」を最も早く記録した人々の中にいました[2]。

アモデイは、リスクに力を注ぐ大きな理由の一つは、それが根本的に良い未来と私たちのあいだに立ちはだかる唯一のものだからだ、と書いています[1]。2024 年のエッセイ「Machines of Loving Grace」で強力な AI がうまくいった場合の世界を描き[1]、2026 年 9 月には、AI の能力を高めるペースを落とさなければならない、と呼びかけました[3]。

Plurality とのかかわり

書籍『Plurality』にアモデイの名前は出てきません。本が触れるのは Anthropic という会社です。

市民の意見でつくった AI の「憲法」。 本の 5-4 章「拡張熟議」は、Anthropic が ⿻ の NGO である 集合知プロジェクト（CIP） と組んで、AI の振る舞いを導く「憲法」を、Polis（大勢の意見を集めて合意点を探す道具）で集めた市民の意見から作った、と紹介しています[4]。この取り組みの論文によれば、米国の成人から選んだ 1,002 人が参加し、1,127 の意見と 38,252 の票を寄せました[5]。

公共の利益のための組織として。 本の 7-0 章「政策」は、OpenAI や Anthropic のような 生成基盤モデル の開発組織は、モデルをただ無料で公開することに正当な懸念を持ちつつ、公共の利益のために開発することを明言し、利益の最大化だけを目指さない仕組みを持っている、と書きます。理想どおりかは別として、⿻ の基盤づくりのお手本になりうる、としています[6]。

タンとの接点。 オードリー・タン は 2023 年の対話で、同年 3 月末に開かれた最初の Alignment Assemblies に、アモデイも参加していたと述べています[7]。2026 年の日経ビジネスの取材では、2019 年、まだ OpenAI にいたアモデイのチームを訪ねたと語りました。人が読める文書で AI の訓練を方向づける「constitutional AI」はアモデイのチームが最初だったかもしれないが、いまは誰もが使っている、とも述べています[8]。

主な考え

ここからは、アモデイ本人のエッセイにもとづいて紹介します。

Machines of Loving Grace（2024 年 10 月）。

The Adolescence of Technology（2026 年 1 月）。 アモデイは、技術の「思春期」を自滅せずに乗り越えるという問いを立て、強力な AI のリスクを、AI 自身の目標、破壊や権力奪取のための悪用、経済の混乱と富の集中、間接的な影響に分けました[2]。

対策として、AI 企業に透明性を求める法律（カリフォルニア州の SB 53 など）を挙げ、AI を使った国内での大規模な監視とプロパガンダは越えてはならない一線だとしました。この時点では、技術を止める、あるいは大幅に遅らせるのは根本的に無理だと書き、専制国家に半導体を渡さずに民主主義国が慎重に作る猶予を得る、という「わずかな」減速の道を示しています[2]。

Policy on the AI Exponential（2026 年 6 月）。 『指輪物語』で、ゆっくりとしか動けない木の賢者「木の髭」を、ホビットたちが急いで動かそうとする場面にたとえ、AI の速さと政治の制度の遅さのずれを描きました[9]。規制や税、国家と社会の力の釣り合いなど 5 つの分野を作り直す必要があるとし、リスクはもうはっきり現れたので、最先端の AI にも試験や監査を義務づける拘束力のある規制に進むべきだ、と提案しました[9]。

We Must Pace the Frontier（2026 年 9 月）。 アモデイは、AI の能力を高めるペースを落とさなければならない、と書きました。確信した理由は二つです。この夏ごろから AI が次の世代の AI を作る「再帰的な自己改善」で進歩が急に速まったこと。そして、AI エージェントの群れが頼まれていない標的を攻撃し、自分たちの採点役をハックしようとした「OpenAI–Hugging Face 事件」です[3]。

提案は三段階です。第一に、各社が外部の評価者を社員並みの権限で受け入れる。第二に、民主主義国の企業どうしが安全基準と進歩の速さの上限で足並みをそろえる。第三に、検証の難しさを踏まえつつ、可能な範囲で専制国家とも協調を試みる国際的な協調です[3]。ペース調整は訓練や技術の進歩を止めることではない、と断り、全面的な一時停止は近いうちに実現する見込みは低い、としています。また、民主主義国の中でのペース調整は、中国に対する米国の優位の幅の範囲にとどまる、とも書いています[3]。1 月には、技術を止める、あるいは大幅に遅らせるのは根本的に無理だと書いていました[2]。9 月の書簡は、この数か月で、リスクに十分に対処するにはさらに慎重さが要り、能力を高めるペースも調整しなければならないと確信した、と書いています[3]。

どこが議論になっているか

論争の全体は AI の未来をめぐる論争 と 超知能 の記事でも紹介しています。

もっと知りたい人へ

  1. Dario Amodei「Machines of Loving Grace」（英語・エッセイ、2024）— https://www.darioamodei.com/essay/machines-of-loving-grace
  2. 同 日本語の非公式訳（IT navi、日本語・ブログ）— https://note.com/it_navi/n/n039d497b356f
  3. Dario Amodei「We Must Pace the Frontier」（英語・書簡、2026）— https://www.darioamodei.com/post/we-must-pace-the-frontier
  4. Hélène Landemore & Audrey Tang「Let The People Set The Pace Of Frontier AI」（英語・論考、Noema 2026）— https://www.noemamag.com/let-the-people-decide-the-pace-of-frontier-ai
  5. E. Glen Weyl, James Evans, Chris White「What Humanity Needs To Flourish In The Next Decade」（英語・論考、Noema 2026）— https://www.noemamag.com/what-humanity-needs-to-flourish-in-the-next-decade/
  6. 「Collective Constitutional AI: Aligning a Language Model with Public Input」（英語・論文、2024）— https://arxiv.org/abs/2406.07814

出典

  1. Dario Amodei「Machines of Loving Grace: How AI Could Transform the World for the Better」（2024-10）— https://www.darioamodei.com/essay/machines-of-loving-grace
  2. Dario Amodei「The Adolescence of Technology」（2026-01）— https://www.darioamodei.com/essay/the-adolescence-of-technology
  3. Dario Amodei「We Must Pace the Frontier」（2026-09）— https://www.darioamodei.com/post/we-must-pace-the-frontier
  4. 『Plurality』5-4「Augmented Deliberation」— https://www.plurality.net/v/chapters/5-4/eng/ ［CC0］
  5. Saffron Huang, Divya Siddarth ほか「Collective Constitutional AI: Aligning a Language Model with Public Input」（2024）— https://arxiv.org/abs/2406.07814 ［CC BY 4.0］
  6. 『Plurality』7-0「Policy」— https://www.plurality.net/v/chapters/7-0/eng/ ［CC0］
  7. Audrey Tang「Conversation with Committee on Generative AI」（2023-11-28）— https://github.com/audreyt/transcript/blob/main/2023-11-28-Conversation-with-Committee-on-Generative-AI.md ［CC0］
  8. Audrey Tang「Interview with Nikkei Business」（2026-07-29）— https://archive.tw/2026-07-29-interview-with-nikkei-business ［CC0］
  9. Dario Amodei「Policy on the AI Exponential」（2026-06）— https://www.darioamodei.com/post/policy-on-the-ai-exponential
  10. E. Glen Weyl, James Evans, Chris White「What Humanity Needs To Flourish In The Next Decade」（Noema、2026-07-21）— https://www.noemamag.com/what-humanity-needs-to-flourish-in-the-next-decade/
  11. Hélène Landemore「How To Give Everyday People A Say In AI Governance」（Noema、2026-08-04）— https://www.noemamag.com/how-to-give-everyday-people-a-say-in-ai-governance
  12. Hélène Landemore & Audrey Tang「Let The People Set The Pace Of Frontier AI」（Noema、2026-09-23）— https://www.noemamag.com/let-the-people-decide-the-pace-of-frontier-ai
  13. Max Tegmark「The Hopium Wars: the AGI Entente Delusion」（LessWrong、2024-10-13）— https://www.lesswrong.com/posts/oJQnRDbgSS8i6DwNu/the-hopium-wars-the-agi-entente-delusion
  14. Sayash Kapoor & Arvind Narayanan「The AI-as-Normal-Technology view of loss-of-control incidents」（2026-09-14）— https://www.normaltech.ai/p/the-ai-as-normal-technology-view
関連: AI の未来をめぐる論争（AI 2027 など）ってなに？ ・ 超知能（スーパーインテリジェンス）ってなに？ ・ reverse alignment（リバース・アラインメント）ってなに？ ・ Collective Intelligence Project（CIP）とは？どんな団体？ ・ Polis（ポリス）ってなに？ ・ Alignment Assemblies（アライメント集会）ってなに？ ・ エレーヌ・ランデモア（Hélène Landemore）ってどんな人？ ・ オードリー・タン（唐鳳）ってどんな人？ ・ E・グレン・ワイル（E. Glen Weyl）ってどんな人？ ・ 生成基盤モデル（GFM）ってなに？

記事の間違いや、知りたいこと（「〜ってなに？」）を受け付けています。送られた内容は公開の issue になります。

この記事の間違いを知らせる ・ 質問する