指数関数的成長の終焉が目前に——Dario Amodeiが語るAGIの現実

AnthropicのCEOであるDario Amodeiは、AGI（汎用人工知能）が「データセンターの中の天才国家」として、わずか1〜3年以内に実現すると確信している。Dwarkesh Patelとの対話は、技術的楽観主義と経営的慎重さの間で揺れる稀有なCEOの内面を描き出す。3年前の初対談から現在まで、Amodeiの核心的な信念は変わっていない——スケーリングは機能し、指数関数的成長は終焉に近づいている。しかし、その認識が一般社会にまったく浸透していないことこそが、彼にとって最大の驚きであり、最大の懸念でもある。

0:00指数関数的成長の終焉——なぜ世界は気づいていないのか

Amodeiは冒頭で、過去3年間の最大の変化を問われ、驚くべき答えを返す。技術そのものの進歩は予想通りだった——モデルは優秀な高校生から大学生、そして博士課程レベルへと着実に進化してきた。しかし、彼が「まったくもって狂気じみている」と表現するのは、この指数関数的成長が終わりに近づいているという事実に対する社会の認識不足だ。「バブルの中でも外でも、人々は相変わらず同じ古びた政治問題について話し続けている」とAmodeiは嘆く。この認識のギャップこそが、彼が公の場で精力的に発信する理由であり、今回の対談の根底にある緊張感を生み出している。

1:27スケーリング仮説の現在地——「ビッグブロブ・オブ・コンピュート」は生きている

3年前、Amodeiは「スケーリングはなぜ機能するのか」という問いに答えた。今、状況はより複雑になっている。公開されているスケーリング則は事前学習に関するものだが、現在は強化学習（RL）のスケーリングが主流であり、その法則性はまだ公開されていない。しかしAmodeiの信念は揺るがない。彼は2017年に書いた「Big Blob of Compute Hypothesis」を今も堅持している。

この仮説が主張するのは、あらゆる巧妙な手法や新しい方法論はほとんど重要ではなく、本当に重要な要素は7つしかないということだ。すなわち、生の計算量、データの量、データの質と分布、学習時間、無限にスケール可能な目的関数（事前学習の目的関数もRLの目的関数もこれに該当する）、そして数値的安定性のための正規化や条件付けである。「事前学習のスケーリング則はその一例に過ぎなかった。今、RLでも同じ現象を目の当たりにしている」とAmodeiは言う。数学コンテスト（AIME）でのパフォーマンスが学習時間に対して対数線形に向上する現象は、Anthropic内部でも確認されており、他の企業も同様の結果を公表している。

5:35継続的学習は本当に必要か——「進化と人間学習の間」にあるLLM

Richard Sutton（「Bitter Lesson」の提唱者）はLLMに懐疑的だ。彼の立場を代弁すれば、「真の人間的学習の核心を持つものは、Excelの使い方を学ぶために数十億ドルものデータと計算資源を必要としない」ということになる。Amodeiはこの批判を真摯に受け止めつつ、別の枠組みを提示する。

彼の洞察はこうだ。事前学習においても、GPT1のような狭いデータ分布で学習したモデルは汎化しなかった。汎化が現れたのは、GPT2でインターネット全体をスクレイピングした時だった。RLでも同じことが起きている——最初は数学競技のような単純なタスクから始まり、コード、そして多様なタスクへと広がり、その過程で汎化が生まれつつある。

しかし、サンプル効率の違いは確かに存在する。人間は何兆ものトークンを必要としない。Amodeiの答えは、LLMの学習プロセスを「人間の学習と人間の進化の中間」に位置づけることだ。人間の脳は白紙の状態ではなく、進化によって形作られた豊かな事前知識を持って生まれてくる。LLMはランダムな重みから始まり、事前学習とRLを通じて、進化が人間に与えたものを獲得している。そして、一度学習したモデルは、長いコンテキスト（100万トークン）の中で驚くべき適応力を示す——これは人間の数日分の学習に相当する。

「継続的学習がなくても、既存のパラダイムだけで『データセンターの天才国家』の大部分は実現できる」とAmodeiは断言する。それでも彼は、継続的学習の解決にも1〜2年以内に取り組むと付け加える。

13:071年か、10年か——Amodeiの確信とその根拠

Amodeiは2つの主張を区別する。「弱い主張」と「強い主張」だ。弱い主張は、2019年にスケーリングを初めて目撃した時のもの——「これは誰もが考えているよりはるかに可能性が高い。50%の確率で起こる」。そして今、彼は「データセンターの天才国家」が10年以内に実現する確率を90%と見積もる。これ以上確率を上げるのが難しいのは、世界の予測不可能性ゆえだ——「台湾が侵略され、すべてのファブがミサイルで破壊される」といったシナリオが5%程度は存在する。

コードに関しては、さらに確信が強い。「1〜2年以内に、エンドツーエンドのソフトウェアエンジニアリングがAIによって実行される。10年以内に実現しないことはありえない」。唯一の根本的不確実性は、検証不可能なタスク——火星ミッションの計画、基礎的な科学発見、小説の執筆——にある。しかし、それらに対しても「信頼できる経路は存在する」と彼は言う。

Dwarkeshが「人間は検証可能なタスクと検証不可能なタスクの両方で優れている。モデルが検証可能なタスクでのみ進歩するなら、それは真の汎化ではないのでは」と問うと、Amodeiは「検証可能な領域から検証不可能な領域への汎化はすでに起きている」と反論する。コードの例を挙げれば、ソフトウェアエンジニアの仕事には設計文書の作成も含まれるが、モデルはすでにコメントの記述に優れており、その能力は急速に向上している。

19:34経済への浸透——「速いが無限ではない」指数関数的成長

Amodeiのフレームワークの核心は、「能力の指数関数的成長」と「経済への浸透の指数関数的成長」という2つの異なる指数関数の存在だ。前者は急速だが、後者は「速いが無限ではない」。

Anthropicの収益成長はこのモデルを裏付けている。2023年の0〜1億ドルから、2024年の1億〜10億ドル、2025年の10億〜90億ドル、そして2026年1月だけでさらに数十億ドルを追加した。「この曲線は永遠に続かない。GDPには限界がある。しかし、これまでにない速さだ」とAmodeiは言う。

Dwarkeshは「拡散論は単なるコープ（現実逃避）ではないか」と鋭く問う。AIは人間と違い、Slackやドライブを数分で読み込み、知識を瞬時に共有でき、逆選択の問題もない。それでも拡散が遅いのは、AI自体の限界を示しているのではないか。Amodeiは認めつつも、現実の障壁を挙げる——大企業では法務、セキュリティ、コンプライアンスの承認が必要で、CEOが「Claude Codeに5000万ドル使う価値がある」と判断し、それを組織全体に展開するには時間がかかる。「AGIや『データセンターの天才国家』でさえ、無限に魅力的な製品ではない」と彼は言う。

46:20コンピュート投資のジレンマ——なぜもっと買わないのか

ここが対談で最も緊張感のある部分だ。Amodeiは「1〜3年以内にデータセンターの天才国家が実現する」と予測しながら、Anthropicのコンピュート投資は競合より「責任ある規模」に抑えている。Dwarkeshはこの矛盾を突く。「本当にノーベル賞級の天才がデータセンターに詰まっているなら、その価値は数兆ドルだ。なぜもっとコンピュートを買わないのか？」

Amodeiの答えは、需要予測の難しさにある。収益が年10倍で成長すると仮定すれば、2027年には1兆ドルの収益が見込める。しかし、それが8000億ドルだった場合、1兆ドルのコンピュートを購入していれば破産する。「たった1年予測を誤るだけで、会社は潰れる」。彼は「我々はスプレッドシートを書いた。他の企業はただカッコつけでやっているように見える」と皮肉を込めて語る。

さらに、彼は収益性の概念そのものを再定義する。「この業界では、収益性は需要を過小評価した結果生じる。損失は需要を過大評価した結果生じる」。つまり、コンピュートを事前に購入し、その需要が予想を上回れば利益が出るが、下回れば損失が出る。理想的な均衡では、企業は研究に50%、推論に50%のコンピュートを割り当て、粗利益率が50%を超えれば利益が出る構造だ。

1:31:19規制と地政学——民主主義の「強い手」をどう維持するか

Amodeiは「AIの恩恵は市場が自動的に届ける。問題は分配と政治的自由だ」と語る。彼はテネシー州の「AIによる感情的サポートを禁止する法案」を「愚かだ」と切り捨てつつ、連邦政府による州規制の全面禁止（モラトリアム）にも反対する。「10年間、州の規制を禁止し、連邦政府の計画もない——これは狂気の沙汰だ」と彼は言う。

より深刻な懸念は地政学だ。なぜ米国と中国が両方とも「データセンターの天才国家」を持つべきではないのか。Amodeiの答えは、攻撃優位の世界では、核抑止と同様の安定が保証されないというものだ。「両陣営が『自分が勝つ確率は90%』と考えれば、紛争の可能性は劇的に高まる」。さらに、権威主義国家がAIを使って自国民を抑圧するリスクを挙げる。

しかし、彼は「独裁制が道徳的に時代遅れになる」可能性にも言及する。産業化が封建制を時代遅れにしたように、AGIが独裁制を機能不全に陥れるかもしれない。ただし、これは希望的観測であり、確実ではない。「我々は問題を認識し、10の解決策を試し、効果を評価し、失敗したら新しいものを試すしかない」と彼は現実的に締めくくる。

2:13:57歴史が記録しないもの——指数関数的成長の「内側」から見た世界

対談の終盤、Dwarkeshは「この時代の『原子爆弾の製造』が書かれるとき、歴史家が最も見落としがちなものは何か」と問う。Amodeiの答えは2つだ。

第一に、「外の世界がまったく理解していなかったこと」。歴史は常に「起こったことは必然だった」と振り返るバイアスを持つ。しかし、実際にはスケーリングへの賭けは決して自明ではなかった。内部で高い確信を持っていた人々と、それにまったく行動を起こさない外部の世界との間の「奇妙な隔絶」が、未来の歴史家には理解しがたいものになるだろう。

第二に、「すべてが同時に、猛烈な速さで進行していたこと」。重要な決断は、30分の検討を経て行われるのではなく、誰かがオフィスに飛び込んできて「Dario、2分です。AとB、どちらにすべきですか？」と尋ね、昼食の時間に追われて「Bでいいや」と答えた結果、それが最も重要な決断になる——そんな混沌が現実だ。

まとめ

このエピソードが重要なのは、Amodeiが単なる技術的楽観主義者でも、慎重な経営者でもなく、その両方を同時に生きているからだ。彼は「データセンターの天才国家」が1〜3年以内に来ると確信しながら、その確信に基づいて無謀な投資をしない。彼はAGIのリスクを真剣に憂慮しながら、愚かな規制には断固反対する。彼は民主主義がAGI時代に「強い手」を持つべきだと信じながら、その実現方法については謙虚に「わからない」と認める。

この対談が残すものは、技術的指数関数の終焉が目前に迫っているという事実と、その後の世界をどう形作るかという難題だ。Amodeiのメッセージは明確だ——準備はできていない。しかし、少なくとも彼は、その準備のなさを認識し、警鐘を鳴らし続けている。