Plurality の地図

レオポルド・アッシェンブレナー（Leopold Aschenbrenner）ってどんな人？

OpenAI の Superalignment チームの初期メンバーだった研究者です。2024 年の連作エッセイ『Situational Awareness』で、2027 年ごろの AGI と、米中の超知能の競争を論じました。

「数年のうちに人間より賢い AI が現れ、国どうしの競争になる」。こうした見通しを、数字と年表で具体的に描いて大きな反響を呼んだのが、この人の連作エッセイです。書籍『Plurality』の側の人々とは違う立場から、AI の未来を論じている人として紹介します。

ひとことで言うと

レオポルド・アッシェンブレナー（Leopold Aschenbrenner）は、OpenAI で超知能の安全性を研究する「Superalignment」チームが始まったとき、その最初のメンバーの一人だった研究者です[1]。

2024 年 6 月、連作エッセイ『Situational Awareness: The Decade Ahead（状況認識：これからの 10 年）』を公開しました。2027 年ごろには AGI（汎用人工知能。人間のように幅広い仕事ができる AI）が現れうること、そして超知能は経済と軍事で決定的な優位をもたらすので、自由世界は競争に勝たねばならないことを論じています[2]。→ 超知能

同じ 2024 年 6 月の Dwarkesh Podcast では、Patrick Collison・John Collison、Daniel Gross、Nat Friedman を主な出資者として、AGI と超知能に賭ける投資会社を立ち上げる、と本人が語りました[1]。その後の活動は、このサイトの資料には含まれていません。

Plurality とのかかわり

本やワイル・タンによる直接の言及はありません。 書籍『Plurality』（各言語版）と、グレン・ワイル、オードリー・タンの講演・対談の記録には、アッシェンブレナーや『Situational Awareness』を名指しで論じた箇所は見つかっていません。唯一の例外は、下で紹介する対談で、司会者がこのエッセイの名前を出した場面です。

ブテリンによる言及。 ヴィタリック・ブテリン は 2025 年 1 月の「d/acc: one year later」で、AI のハードウェアの規制が、輸出規制のように「自分の側は信頼するが相手は信頼しない」という考え方で検討されている、と書きました。その例として、アメリカはまず決定的な優位を得るために競争し、そのうえで中国に、動かせる計算機の数を制限する取り決めを事実上のませるべきだ、というアッシェンブレナーの主張を挙げています。ブテリンは、このやり方は危うく、競争と中央集権の両方の欠点を併せ持ちかねないと見ます。制限が要るなら、一つの側が他を支配するのではなく、全員を対等に制限し、協力の仕組みを作る努力をすべきだ、というのがブテリンの考えです[3]。→ d/acc

タンへの問いの中で。 2026 年 1 月の番組「Doom Debates」で、司会のリロン・シャピラ（Liron Shapira）は、『Situational Awareness』などの最近の文章に触れ、名前を思い出せない別の論文が、国どうしが互いの AI の力を本気で狙い合うと書いていた、台湾は将来の経済の要になる、と話題にしました[4]。続けて国際条約や AI の「停止ボタン」について問われた オードリー・タン は、AI が人を強く説得してしまう力を心配して、「Red Lines」宣言（越えてはいけない一線を定めようという宣言）に署名したと答えました。そのうえで、台湾の詐欺対策のように、発言を検閲せず、誰の発言か・電子署名があるかを見えるようにする。そうした小さく身近なレッドラインを社会が引く練習が、将来の大きな国際条約の土台になる、と述べています[4]。これはアッシェンブレナー個人を論じた発言ではありません。

AI の未来をめぐる論争の中で。 『Situational Awareness』には、マックス・テグマーク（Max Tegmark）の「The Hopium Wars: the AGI Entente Delusion」など、応答がいくつも寄せられました[5]。このサイトでは、Plurality の側とは別の立場の代表的な文書の一つとして、AI の未来をめぐる論争 の記事でも取り上げています。

主な考え

ここからは、アッシェンブレナー本人の文章や発言にもとづいて紹介します。

『Situational Awareness』（2024 年）。 序章は、AGI の競争はすでに始まったと書きます。2025〜26 年には AI が多くの大卒者を上回り、2020 年代の終わりまでには本当の意味での超知能が現れる、という見通しです[2]。

各章の要約（著者自身によるもの）は次のとおりです[2]。

競争に勝ちたいならアラインメントを（2023 年）。 アラインメントとは、AI を人間の意図や価値に沿って動かすための研究です。アッシェンブレナーは、AGI の競争で中国に勝ちたいなら、もっと良いアラインメントの計画が要る、と書きました。人間を超える AGI が安全だと広く合意できるほどの解決がなければ、先へ進めなくなるかもしれない、という理屈です[6]。同じ日の別の投稿では、AI の能力を高める研究者が世界におそらく約 10 万人いるのに対し、アラインメントの研究者は約 300 人しかいない、と警告しています[7]。

成長と人類存亡のリスク（2020 年）。 オックスフォード大学の Global Priorities Institute のワーキングペーパーでは、技術の進む向きを考える経済モデルで、人類存亡のリスクが山なりの形（逆 U 字）をたどりうる、と論じました。いまは人類を滅ぼしうる技術を持ちながら、安全に十分なお金をかけるほどには豊かでない「危険の時代」かもしれない。そして、この時期に成長を速めると、はじめはリスクが上がるが、長い目で見た生き残りの見込みは高まる、という主張です（取得できたのは要旨のみ）[8]。

バーク的な長期主義（2021 年）。 18 世紀の思想家エドマンド・バークの『フランス革命の省察』から、社会は生きている人・亡くなった人・これから生まれる人のあいだの協同関係だ、という趣旨の一節を掲げて書いた文章です。遠い未来を強く気にかける「長期主義」の友人たちと近いけれど違う見方を「Burkean longtermism」と名づけ、遠い未来への関心、受け継いだものへの感謝、知ることの限界への謙虚さなどを命題として並べました[9]。

OpenAI を離れた経緯（本人の説明）。 アッシェンブレナーは Dwarkesh Podcast で、OpenAI は情報漏洩を理由に自分を解雇したと社員に説明した、と語りました。本人によれば、「漏洩」とされたのは、AGI に向けて必要な安全・セキュリティ対策についての検討メモを外部の研究者 3 人に見せたことでした。また解雇のときには、セキュリティに関するメモが大きな理由だと明言された、とも述べています。これは本人の側の説明です[1]。

どこが議論になっているか

もっと知りたい人へ

  1. Leopold Aschenbrenner『Situational Awareness: The Decade Ahead』序章と章の要約（英語・エッセイ、2024）— https://situational-awareness.ai/
  2. Dwarkesh Podcast「Leopold Aschenbrenner — 2027 AGI, China/US Super-Intelligence Race, & The Return of History」（英語・ポッドキャスト、約 4.5 時間）— https://www.dwarkesh.com/p/leopold-aschenbrenner
  3. Leopold Aschenbrenner「Want to win the AGI race? Solve alignment.」（英語・ブログ、2023）— https://www.forourposterity.com/want-to-win-the-agi-race-solve-alignment/
  4. Vitalik Buterin「d/acc: one year later」（英語・ブログ、2025）— https://vitalik.eth.limo/general/2025/01/05/dacc2.html
  5. Max Tegmark「The Hopium Wars: the AGI Entente Delusion」（英語・論考、2024）— https://www.lesswrong.com/posts/oJQnRDbgSS8i6DwNu/the-hopium-wars-the-agi-entente-delusion

出典

  1. Dwarkesh Patel「Leopold Aschenbrenner — 2027 AGI, China/US Super-Intelligence Race, & The Return of History」（2024-06-04）— https://www.dwarkesh.com/p/leopold-aschenbrenner
  2. Leopold Aschenbrenner『Situational Awareness: The Decade Ahead』序章と目次（2024-06、抜粋）— https://situational-awareness.ai/
  3. Vitalik Buterin「d/acc: one year later」（2025-01-05）— https://vitalik.eth.limo/general/2025/01/05/dacc2.html
  4. Audrey Tang & Liron Shapira「Doom Debate」（2026-01-20）— https://archive.tw/2026-01-20-doom-debate ［CC0］
  5. Max Tegmark「The Hopium Wars: the AGI Entente Delusion」（LessWrong、2024-10-13）— https://www.lesswrong.com/posts/oJQnRDbgSS8i6DwNu/the-hopium-wars-the-agi-entente-delusion
  6. Leopold Aschenbrenner「Want to win the AGI race? Solve alignment.」（2023-03-29）— https://www.forourposterity.com/want-to-win-the-agi-race-solve-alignment/
  7. Leopold Aschenbrenner「Nobody's on the ball on AGI alignment」（2023-03-29）— https://www.forourposterity.com/nobodys-on-the-ball-on-agi-alignment/
  8. Leopold Aschenbrenner「Existential Risk and Growth」（GPI Working Paper No. 6-2020、要旨）— https://web.archive.org/web/20250617201207/https://globalprioritiesinstitute.org/leopold-aschenbrenner-existential-risk-and-growth/
  9. Leopold Aschenbrenner「Burkean Longtermism」（2021-07-26）— https://www.forourposterity.com/burkean-longtermism/
関連: AI の未来をめぐる論争（AI 2027 など）ってなに？ ・ 超知能（スーパーインテリジェンス）ってなに？ ・ d/acc（防御的な加速）ってなに？ ・ ヴィタリック・ブテリン（Vitalik Buterin）ってどんな人？ ・ オードリー・タン（唐鳳）ってどんな人？ ・ サム・アルトマン（Sam Altman）ってどんな人？

記事の間違いや、知りたいこと（「〜ってなに？」）を受け付けています。送られた内容は公開の issue になります。

この記事の間違いを知らせる ・ 質問する