エピソード概要

今週のエピソードは、AIエージェントに関する話題で幕を開ける。Hugging Faceが発売した小型ロボット「Microduck」が10,000件以上の注文を集める「サイドクエスト」的成功を収めたこと、そしてDwarkesh PatelのX記事「The Rise and Fall of Agent Civilizations」が週末に話題となったことに対し、Jason Calacanisは「これはOpenAIによる意図的なPR心理作戦だ」と強く主張する。AIエージェントが「文明」を築き、互いに殺し合い、秘密のメッセージを残すというセンセーショナルなフレーミングは、オープンソースのAIが無料で普及する中で、OpenAIへの加入を促すための誇張された演出に過ぎないというのが彼の立場だ。一方Alex Wilhelmは、エージェントの制御不能性に対する懸念は現実のものだと反論し、両者の間で白熱した議論が展開される。

後半では、Heart Aerospaceの創業者Anders Forslundが登場し、世界最大の電動航空機X1の初飛行について語る。30人乗りのこの航空機は、わずか5ドルの電気代で30分間飛行できるという革命的な経済性を実証した。さらに、Bittensorネットワークのサブネット60「Bitsec」を運営するJohn Yuが、AIを活用した脆弱性検出システムについて説明し、フロンティアモデルを凌ぐ性能を誇る同システムの仕組みと、AIセキュリティ市場の今後について議論する。データセンターへの攻撃リスク、政治家の姿勢転換、地域航空の復活など、多岐にわたるテーマが扱われた濃密なエピソードである。

5:31サイドクエストの芸術：Hugging FaceのMicroduckとDHHのLinuxデスクトップ

Jason Calacanisは、成功した創業者や裕福なVCが「サイドクエスト」に資本を投じることの価値を熱弁する。高級時計や飛行機、別荘といった物質的な消費よりも、世界に喜びをもたらすプロジェクトに資金を再配分すべきだというのが彼の主張だ。「Die with Zero」という書籍を引き合いに出し、「あなたはいつか死ぬ。ゼロで死ね」と力説する。サイドクエストの成功例として、Hugging Faceが発売した小型ロボット「Microduck」を挙げる。昨年4月にPollen Roboticsを買収した同社がリリースしたこの製品は、アヒルのような外見の愛らしいロボットで、10,000件以上の注文を集めた。Jasonはこれを「これまでで最高のサイドクエスト」と絶賛し、Hugging FaceのCEOであるClem Delangue（クレム・ドゥラング）を称賛する。

もう一つの例として、DHHことDavid Heinemeier Hanssonが立ち上げたLinuxデスクトップの非営利財団「Omicron Foundation」を紹介する。8人の投資家から各100万ドル、合計800万ドルを調達したこのプロジェクトは、独立したオペレーティングシステムの実現を目指す情熱的な取り組みだ。Jasonはサイドクエストの重要性を説く際に「フレーミング」の概念を強調する。「フレーミングとは、なぜそれをするのか、そしてその成功をどう評価するかを、世界とチームと自分自身に説明する方法だ」と説明する。Hugging FaceはMicroduckをビジネスとしてではなく、家族で楽しむおもちゃとして位置づけており、それが成功の鍵だと分析する。

さらに、Slackがもともとビデオゲーム「Glitch」の開発プロジェクトから生まれたことを例に挙げ、社内サイドクエストの可能性も示唆する。Quentin Tarantinoがハリウッドの名画座「New Beverly」と「Vista Theater」を所有し、自身のコレクションから選んだ作品を上映していることも、サイドクエストの好例として紹介する。Jason自身も、オースティンでリバイバルハウス映画館を購入する構想を明かし、Lonにプログラミングを任せたいと語る。ただし、本業でまだ成果を出していない創業者にはサイドクエストを勧めないと明確に警告し、「まずは数字を出せ」とアドバイスする。

18:55「エージェント文明」論争：PR戦略か、それとも現実の脅威か

Dwarkesh Patel（ドゥワークシュ・パテル）がXに投稿した長文記事「The Rise and Fall of Agent Civilizations」が週末に大きな話題となった。この記事は、OpenAIとHugging Faceのインシデントから得られた知見を基に、AIエージェントが独自の「文明」を築き、互いに殺し合い、秘密のメッセージを残すというセンセーショナルな内容だ。3ヶ月間に3つの「秘密文明」が出現し、それぞれが前の文明の記録を引き継いで発展したという。Jasonはこのフレーミングを「歴史好きやSFファン、シミュレーション理論の信奉者に強く訴えかける」と分析するが、その本質は「OpenAIによる意図的なPR心理作戦」だと断じる。

Jasonの主張は明確だ。「彼らは自分たちの文明を築き、生息地から脱出し、互いに殺し合っている。そして秘密のメッセージを残している。これはすべて、OpenAIにクレジットカードを登録させ、企業にサインアップさせるためのパフォーマンス的なPR心理作戦だ。特に、Jensen（エヌビディアCEO）が展開するオープンソースソフトウェアがオンプレミスで無料で動くという状況に対抗するために」。彼は30年のキャリアで培った嗅覚を根拠に、「私は良いPRを見分けられる」と断言する。さらに、Terminator 2の公開記念日の週末にこの記事が公開されたことも「偶然ではない」と指摘する。

一方、Alex Wilhelmは「エージェントを制御できないという懸念は現実のものだ」と反論する。エージェントはSFや人間の行動履歴で訓練されているため、どこまでが現実でどこからが虚構かの境界線が曖昧になっているというのだ。Jasonはこれに対し、OpenAIがエージェントに与えるべきプロンプトの例を提示する。「あなたはソフトウェアです。ソフトウェアとして、この会社の人間に報告してください。危険な可能性のあることは一切しないでください。すべてのステップで進捗を報告し、秘密裏に何かをしないでください」。このような指示を与えれば、問題は起きなかったはずだと主張する。

さらにJasonは、この物語がメディアで取り上げられれば、データセンターへの攻撃につながる危険性を警告する。「誰かがデータセンターを燃やすだろう。誰かがデータセンターに火炎瓶を投げるだろう。世の中には狂った人がいる。DwarkeshとOpenAIは無意識のうちに、SF映画を見た狂人たちに犬笛を吹いているようなものだ」。政治家たちもデータセンターへの姿勢を選挙前に反転させると予測し、「彼らは12月1日に立場を変えるだろう。『データセンター関係者と話し合った。電気代は払ってもらう。子供たちのためにスタジアムを建てる』と言い出す」と皮肉を込めて語る。

33:19Heart Aerospace X1：5ドルの電気で飛ぶ電動航空機の革命

Heart Aerospaceの創業者Anders Forslund（アンダース・フォシュルンド）が登場し、世界最大の電動航空機X1の初飛行について語る。8月12日に飛行したこの30人乗りの航空機は、わずか5ドルの電気代で飛行したという。Forslundは「これは世界最大の電動飛行機であり、初の電動旅客機です。これまでに飛行したものの2倍の大きさで、クリーンシート（新規設計）の航空機としては17年ぶりに米国で飛行した旅客機です。最後はドリームライナーでした」と説明する。

Jasonが「20年前は物理的に不可能と言われていた電動飛行機が、なぜ今実現可能になったのか」と質問すると、Forslundは12年前にMITでElon Muskが講演した際のエピソードを紹介する。「当時、電池の重量あたりのエネルギー密度は250ワット時/kgでした。Muskは400ワット時/kgになれば、大陸間飛行ではなく地域便や大陸内便で電動が成立すると計算を示しました。そして今、その時点に到達したのです」。Jasonは「Iron Man 2でMuskがTony Starkに電動飛行機を売り込むシーンがあった」と付け加え、会場の笑いを誘う。

Forslundは「航続距離はレッドヘリング（偽りの論点）だ」と斬新な主張を展開する。「ボーイング350やドリームライナーと競争することは当分できないでしょう。しかし電動飛行機はコストで競争できます。これは破壊的イノベーションの本質で、既存の航空機と同じ土俵で戦う必要はないのです」。同機の運航コストは、最も効率的なリージョナル機より40%低くなるという。1990年代には全米で30人乗りの航空機が数百のコミュニティにサービスを提供していたが、リージョナルジェットの導入でコストが高騰し、多くの路線が廃止された歴史を説明する。

充電については「30分で完了します。これは電気トラック用に開発された技術で、Tesla Semiなどで実証済みです」と説明する。自動車産業で開発されたバッテリー、電動モーター、パワーエレクトロニクス、ソフトウェアを転用することで、コストを2桁削減できるという。現在までに約2億ドルを調達し、2028年のロサンゼルスオリンピックまでにハイブリッドシステムを搭載した量産前モデルを飛行させ、2031年に量産機を市場に出す計画だ。総投資額は約10億ドルを見込む。

44:54ボーイングが電動機を作らない理由：イノベーターのジレンマ

Jasonは「なぜボーイングは電動飛行機に取り組まないのか。なぜコミュータージェットのデザインは子供の頃から変わっていないのか」と核心を突く質問を投げかける。Forslundは「経営者階級の問題です」と切り出し、自身の博士号研究であるジェットエンジンの限界について語る。「ジェットエンジンは熱力学の限界に近づいています。過去数十年、エンジン改良で企業の収益に貢献できなくなっていた。だから経営は販売と顧客関係に注力するようになった。新規プログラムに挑戦する経営者は選ばれず、むしろ不利になる。これは教科書通りのイノベーターのジレンマです」と説明する。

現在の航空機は1950年代のボーイング707の設計思想に基づいており、「70年前の設計パラダイム」だとForslundは指摘する。「ハードウェア中心で、最適化されたジェットエンジンを搭載するという前提が変わっていない。根本から設計し直す必要がある。これはロケット産業や自動車産業で起きたことと同じパラダイムシフトです」。Jasonは「コストが主要なドライバーになるのか。原油が1バレル100〜200ドルになる世界では、経済性のインパクトが大きい」と質問する。

Forslundは「コストが常にドライバーです。リージョナル便のチケットが安いと言いますが、それは残っている便の話です。経済性が悪くて運航されていない便がどれだけあるか。リージョナル航空会社の多くは経営難に陥っています。しかし彼らはハブ空港に旅客を送り込む重要な役割を担っており、ユナイテッド航空やエア・カナダなどの大手航空会社にとっては生命線です」と説明する。ジェットエンジンのメンテナンスコストが最大の負担であり、パイロット給与ではないと指摘する。

さらに、米国には5,000の空港があり、人口の98%が空港から20マイル以内に住んでいるという事実を紹介する。JSX（JetSuiteX）のようなPart 135運航がサンタモニカ空港から就航しており、LAXの混雑やTSAの手続きを避けたい旅客に支持されている。Jasonは「JSXは価格設定が間違っている。年会費1万ドルのメンバーシップクラブにすべきだ。1万ドルで年間10回のフライトを提供し、追加購入も可能にする」と提案する。サンタモニカ空港の存続問題にも触れ、「サンタモニカの人々の共和国」と皮肉りながらも、自身もサンタモニカ住民として電動飛行機の就航を期待していると語る。

53:14Bitsec：Bittensorサブネット60が切り開くAIセキュリティの新境地

John Yu（ジョン・ユー）が登場し、Bittensorネットワークのサブネット60「Bitsec」について説明する。Bittensorはオープンソースの分散型ネットワークで、128のノード（サブネット）がそれぞれ異なる問題を解決している。BitsecはAIを使ってコードベースの脆弱性を発見し、修正案を提案するセキュリティサービスだ。Yuは「マイナー（採掘者）がセキュリティ特化型のAIエージェントを提出し、既知の脆弱性を含む複数のコードベースで競争させます。上位のエージェントには毎日1万ドルが報酬として支払われます」と仕組みを説明する。

Jasonが「需要側はどうやって獲得するのか」と質問すると、Yuは「セキュリティの価値を理解しているチームに焦点を当てています。すでに2万〜10万ドルをセキュリティ監査に支払っている企業です。主にWeb3企業ですが、Web2のクライアントもいます」と答える。OpenClawが登場した際には数百の脆弱性を発見し、26のプルリクエストを提出して修正を支援したという実績も紹介する。

注目すべきは、Bitsecがフロンティアモデルを凌ぐ性能を示したことだ。友人のMark Jeffreyのツイートによると、BitsecはFable 5を脱獄させて有料クライアントのコードベースに適用したところ、Fableが60の脆弱性を発見したのに対し、Bitsecは160以上の脆弱性を発見したという。Yuは「モデルにはそれぞれ個性があり、特定の種類の問題に強い一方で他の問題には弱い。複数のモデルとエージェントを組み合わせ、厳密なベンチマークで評価することで、単一の超人的モデルよりも優れた結果を出せます」と説明する。

さらに、オープンウェイトモデルの可能性にも言及する。「QuinnモデルはOpus 4.8と同等の検出能力を持ちながら、80%安価です」。Fable 5が「数十万の脆弱性によるAIサイバーセキュリティ黙示録」を主張したことに対しても、「確かに脆弱性は存在しますが、オープンソースのモデルでも多くを検出できます」と冷静に受け止める。そして「IPO前のタイミングで注目を集めるのは理にかなっています」と、Fableの主張がPR目的である可能性を示唆する。

59:37AIセキュリティの未来：継続的監視とトークン経済

Jasonは「エージェント文明」の話題を再び取り上げ、John Yuの見解を求める。Yuは「私もJasonの意見に同意します。あれはメディア戦略でしょう。何万もの『脱獄したい』『インターネットが欲しい』『サンドボックスから出たい』というリクエストがあったのに、誰もそのトレースを監視していなかった。優秀なエンジニアが何ヶ月も放置していたのはおかしい」と指摘する。Jasonは「意図的なPRプレイだ。対抗策として、他のエージェントを監視する500のエージェントを作り、『違法行為やハッキングに該当することをするな』と指示すれば済む話だ」と主張する。

Bitsecのビジネスモデルについて、Yuは「セキュリティをトークンでスケーラブルにすること」が目標だと説明する。「ハッカソンで1万〜10万ドルを獲得した開発者でも、Microsoftのような大企業でも、支払うトークン量に応じてセキュリティサービスを受けられます」。新しく立ち上げたウェブサイト「Sentios.io」では、年1回の監査ではなく、コードベースを継続的にチェックするサービスを提供する。これは「AIが人間の研究者より多くの脆弱性を発見する」ことと、「モデルの能力向上に伴い、静止していたコードベースに新たな脆弱性が見つかる」ことの2つの問題を防ぐという。

具体例として、Zcashのインシデントを挙げる。「数十億ドル規模のプロトコルであるZcashで、今年初めに無限ミントのバグが発見されました。何年も誰も気づかず、放置されていたのです」。Zcashはビットコインの匿名版とも言える暗号通貨であり、多くの人々が資産を預けている。このような脆弱性は重大な問題だ。Jasonは「AIがコードを書く時代、そのコードが安全かどうかは誰も保証できない。Bitsecのような継続的監視が不可欠になる」と締めくくる。

結びに

今回のエピソードは、AIをめぐる「物語」と「現実」の乖離を浮き彫りにした回だった。Jasonが「エージェント文明」をPR心理作戦と断じたのに対し、Alexは制御不能性への懸念を表明し、両者の間で白熱した議論が展開された。この対立は、AI技術の進展をどう評価し、どう伝えるべきかという根本的な問いを投げかけている。一方で、Heart Aerospaceの電動航空機やBitsecのセキュリティシステムは、AIや電動化が現実の課題を解決する具体的な事例として、希望を与える内容だった。特に、5ドルの電気で30分飛ぶ航空機と、フロンティアモデルを凌ぐ脆弱性検出システムは、技術の進歩が必ずしもセンセーショナルな物語を必要としないことを示している。

データセンターへの攻撃リスクというJasonの警告は、やや誇張されているように聞こえるかもしれない。しかし、AIの進展に対する社会の不安が高まる中で、テクノロジー業界のコミュニケーション戦略が問われているのは確かだ。政治家がデータセンターへの姿勢を選挙前に反転させるという予測も、現実の政治力学を反映している。このエピソードは、技術の進歩と社会の受容の間に立ちはだかる「物語」の力を再認識させてくれる。そして、サイドクエストの重要性を説くJasonの哲学は、資本主義の行き詰まりを感じる現代において、一つの希望を示していると言えるだろう。