Etched - AI推論を高速・低コストにするハードウェア構築 - [Invest Like the Best, EP.480]

Gavin Uberti（ギャビン・ウベルティ）とRob Wachen（ロブ・ワッケン）は、2023年に創業したAIハードウェア企業Etchedの共同創業者である。彼らは、ChatGPT登場後に設立されたハードウェア企業として初めて、一発目で動作するチップのテープアウトに成功した。同社は、AI推論（inference）専用に設計されたチップとそれを搭載したラックシステムを開発しており、既に10億ドル以上の顧客需要を獲得し、8億ドルの資金を調達している。このエピソードでは、パトリック・オショーネシーが、なぜ22歳の若者が半導体業界の巨人NVIDIAに挑戦できると考えたのか、その技術的賭けの本質、伝説的な人材を採用し最速で製品を市場に送り出すための組織哲学、そして推論市場が世界最大の市場の一つになるという彼らのビジョンについて深く掘り下げている。

Etchedの物語は、単なる技術スタートアップの成功譚ではない。それは、業界の常識や「不可能」とされた前提に真っ向から挑戦し、物理学の限界に挑むエンジニアリングの物語であり、同時に、資本集約型ビジネスにおいてスピードと垂直統合で勝負するという、現代のビジネス戦略のケーススタディでもある。創業者たちの稀有な経歴、癌との闘病を経たRobの原動力、そして10代からカーネル開発に携わってきたGavinの技術的直感が融合し、彼らだけのユニークな企業文化を形成している。この対話は、AIの未来が単にモデルの性能向上だけでなく、その推論をいかに安価に、高速に、大量に提供するかというインフラの戦いにかかっていることを鮮烈に描き出す。

07:52二つの技術的賭け：低電圧推論とクラスター規模メモリ

Etchedのアーキテクチャの中核をなすのは、二つの主要な技術的賭けである。第一は「低電圧推論（Low Voltage Inference）」だ。Gavinは、GPUなどの汎用AIチップが推論時に直面する根本的な問題として、デナード・スケーリング（Dennard scaling）の限界を挙げる。電圧を2倍にすると消費電力は4倍になるというこの物理法則により、単に演算ユニット（FLOP）を増やしても、チップが熱的にスロットル（thermal throttle）し、実際の性能は向上しない。彼らは、ビットコインマイナーなどがGPUよりはるかに低い電圧で動作している事実に着目し、「なぜGPUは低電圧で動かせないのか」という問いを徹底的に追求した。その結果、従来のGPUアーキテクチャでは不可能だった、はるかに低い電圧で動作する新しい電力供給機構を開発した。これにより、同じシリコン面積により多くのFLOPを詰め込み、熱的制約なしに動作させることが可能になる。彼らはこれを「低電圧推論」と名付け、将来のすべてのAIチップはこの方向に進むと確信している。

第二の賭けは「クラスター規模メモリ（Cluster Scale Memory）」である。推論の後半プロセスであるデコード（decode）フェーズでは、メモリ帯域幅が性能の鍵を握る。しかし、Gavinは「人々は間違った質問をしている」と指摘する。重要なのは単一チップのメモリ帯域幅ではなく、クラスター全体としてのメモリ帯域幅である。現在のGPUクラスターでは、チップ間のデータ転送レイテンシが極めて大きい（例：Blackwellチップ間で約4,000ナノ秒）。このため、クラスターを拡大しても、メモリ帯域幅を効率的に活用できず、性能は線形にスケールしない。Etchedは、ネットワークスタックの第2層（イーサネット）以上を完全にカスタム設計することで、このチップ間レイテンシを5分の1以下に削減した。これにより、クラスター全体のSRAMやHBMをあたかも単一のメモリプールのように扱うことができ、チップ数を増やすごとにトークン生成速度が比例して向上するという、真のスケーラビリティを実現した。

これらの技術的選択は、ChatGPT登場以前に設計された既存のアーキテクチャが、現代の推論ワークロードに最適化されていないという認識に基づいている。Etchedは、電圧領域、パワープレーン、パッケージング、ボード設計、そしてインターコネクトに至るまで、すべてを推論専用にゼロから再設計した。その結果、彼らの初代製品は、他のどのAIチップよりも半分以下の電圧で動作し、圧倒的な性能効率を実現している。

14:15推論が世界最大の市場になる理由

GavinとRobは、推論（inference）が今後10年で世界最大の市場の一つになると確信している。その理由は、AIの価値が最終的には「どれだけ多くの人が、どれだけ高速に、どれだけ安価に」その思考能力を利用できるかにかかっているからだ。現在、有料のAIモデルを利用しているユーザーは全世界で数百万人規模であり、これは地球人口の1000分の1にも満たない。真の普及には、現在の供給を数桁（orders of magnitude）引き上げるインフラが必要となる。

彼らは、推論市場の成長を二つの軸で捉えている。一つは「同時実行性（Concurrency）」である。現在、10億人が同時に高性能モデルを利用することは不可能であり、一部のユーザーは劣悪な体験を強いられるか、そもそもアクセスすらできない。もう一つは「壁時計時間（Wall Clock Time）」の短縮だ。もしエージェントが1年かかるタスクを、より高速なデコード速度によって1ヶ月で完了できるようになれば、科学的発見や技術の普及速度は劇的に加速する。Robは、この状況を「ルネサンス期のネジ製造」に例え、現在のトークン生成は手工業的であり、iPhoneや自動車のような「規模の経済（Economies of Scale）」が働いていないと指摘する。Etchedの目標は、トークン製造にも規模の経済をもたらし、誰もが最高品質のモデルを平等に利用できる世界を実現することだ。

さらに、彼らは推論がGDPの大部分を占める未来を予見する。社会の生産性は「一人当たりGDP」から「メガワット当たりのエージェント数」へと指標が変わる可能性がある。Robは、2027年には知識労働に従事するエージェントの数が人間を上回ると予測し、各国のエネルギー効率が事実上の「労働力」を決定づける時代が来ると語る。これは、単なる技術トレンドを超えた、文明の構造そのものを変える可能性を秘めたビジョンである。

28:38伝説と若き天才の二極化採用戦略

Etchedの採用哲学は、極めて二極化している。彼らはこれを「レジェンド（Legends）」と「チップス・オン・ショルダー（Chips on Shoulders）」と呼ぶ。レジェンドとは、特定の困難な技術問題において世界で最も優れた人物であり、その経験と知見は「10億ドルの教訓」をもたらす。彼らは「プロジェクトベースのリクルーティング」というシステムを構築し、業界全体でこれまでに解決された最も困難な技術問題をマッピングし、その「0→1」を成し遂げた人物を特定する。例えば、ラックシステムの責任者として、NVIDIAでHGXおよびDGXシステム（NVIDIAの収益の大部分を占める）のチームを立ち上げたBrian Leylerを採用した。彼のような人物は「何が良いか」を本質的に理解しており、無数の試行錯誤を省くことができる。

一方の「チップス・オン・ショルダー」は、Gavinの高校時代のロボット競技のパートナーであるSanfordのような、圧倒的なドライブと第一原理思考を持つ若き天才たちである。彼らは「なぜ」を問い続け、業界の「常識」や「過去の失敗例」に縛られない。例えば、サーマルエンジニアなら数ヶ月かかると言うであろうコールドプレートの試作を、Sanfordは「可能だ」と信じて1週間で作り上げ、重要なリスクを潰した。Etchedの真髄は、この両者を単に採用するだけでなく、密接に協働させる点にある。レジェンドの経験とスケール感が、若者の無謀な挑戦を現実的な成功へと導き、若者の「不可能を知らない」姿勢が、レジェンドの固定観念を打ち破る。

このような会社に参加するには、ある種の「頭がおかしい」資質が必要だとGavinは笑う。安定した高収入の職を捨て、24歳の創業者たちが率いる半導体スタートアップに人生を賭けるには、強い信念と、証明したいという内発的動機が不可欠だ。この自己選択的な性質が、結果として強固な企業文化を形成している。

38:01スピードが全て：並列化と垂直統合の徹底

Etchedの行動原理は「スピードが勝つ（Speed wins）」という一言に集約される。彼らは、この市場で1日遅れるごとに数十億ドルの機会を逃しているという強い危機感を持っている。この哲学を具現化するのが「プリフェッチング（Prefetching）」という概念だ。これは、ある工程の完了を待つ間に、次に必要となる作業を可能な限り並行して進めてしまう手法である。彼らは、チップが完成する前から、ソフトウェアスタックの構築、ラックの顧客データセンターへの先行設置、700台以上のFPGAを用いたチップ全体のシミュレーション、チップの熱特性を模したサーマルチップによるコールドプレートの開発、さらには生産ラインの準備までを全て完了させていた。この結果、チップ到着からラック上で推論を実行するまでにかかった期間は、競合他社が10ヶ月を要したのに対し、Etchedはわずか40日だった。

このスピードを支えるのが、極限の垂直統合戦略である。彼らは「最高の部品は、部品がないこと。最高のベンダーは、ベンダーがいないこと」という考え方のもと、チップだけでなく、ボード、コールドプレート、インターコネクト、そして生産までを可能な限り内製化する。これは単なるコスト削減や性能向上のためではなく、意思決定のスピードを最大化するためだ。外部ベンダーに依存すれば、調整に時間がかかり、ボトルネックが発生する。自前で全てを持つことで、問題が発生した瞬間にエンジニアをバンガロールに6ヶ月間派遣し、現地で24時間体制の開発サイクルを回すといった、常識外れの対応が可能になる。

Gavinは、この姿勢を高校時代のロボット競技での経験に重ねる。20人チームが標準の中、彼とSanfordの2人だけのチームで世界記録を打ち立てた。彼らはアウトリーチやドキュメンテーションといった二次的な評価軸を無視し、「勝つためのロボット」だけに集中した。Etchedも同様に、製品開発にのみフォーカスし、大企業のように2万人もの人員を必要とせず、はるかに少ない人数で最高の製品を作り出すことができると確信している。

52:44垂直統合の限界と市場の力学

垂直統合の範囲について、Robは「生産こそが製品である（Production is the product）」という明確な基準を示す。究極の目標は、可能な限り多くのトークン容量をオンラインにすることであり、そのために必要な部分は全て内製化するが、そうでない部分にはリソースを割かない。例えば、ラック全体を自社で設計・製造するのは、スケールと性能に不可欠だからだ。しかし、データセンター自体の建設は、現時点では彼らのコアコンピタンスではなく、顧客であるクラウド事業者やハイパースケーラーが行う領域と見なしている。

彼らは、業界の垂直統合の動きを、規模の経済の観点から分析する。チップ設計やモデル開発には大きな規模の経済が働くが、ラック内の小さな金属部品の製造には同様の効果はない。自然な境界線は、チップ（下流）とモデル（上流）にあり、Etchedはその間の全領域を埋めることを目指す。この視点は、Google（TPU）、Meta（MTIA）、Microsoft（Maya）、OpenAI（Jalapeno）といった巨大企業が自社チップを開発する動きと対照的である。Gavinは、これらの企業にとって自社チップの成功は「存在的（existential）」ではないと指摘する。彼らの本業は検索や広告であり、チップが失敗しても会社は潰れない。一方、Etchedにとっては、この製品の成功が会社の命運を全て左右する。この「存在的な切迫感」こそが、最高の人材を惹きつけ、サプライヤーや顧客からの強力な支援を得る原動力となっている。

この文脈で、彼らはNVIDIAの優位性も説明する。NVIDIAはGPUだけを作る会社であり、その製品の成功が会社の命運を握っている。だからこそ、彼らは最高のチップを作り続けられる。Etchedも同じ道を歩む。彼らは、競合他社のチップ設計者をリクルートする過程で、「あなたの会社にとって、このチップの成功は存在的ではない」という理由で移籍を決意したエンジニアの事例を紹介する。この「フォーカス」と「切迫感」の違いが、長期的な競争優位の源泉になると彼らは考えている。

01:01:09資金調達の死闘とパートナーシップの構築

Etchedの歩みは、資金調達の面でも極めて困難な連続だった。特に、シリーズAを調達していた2024年初頭は、会社の存続がかかった瀬戸際の時期だった。彼らは、チップのアーキテクチャが正しいことを確信していたが、物理設計（physical design）フェーズに進むためには、少なくとも4,000万～5,000万ドルの費用がかかる契約を結ぶ必要があった。さらに、モデルが巨大化するにつれ、チップだけでなく、ボード、インターコネクト、コールドプレートなど、ラックシステム全体を開発する必要があると気づき、必要な資金は銀行にあった1,500万ドルをはるかに超えることが明らかになった。Robは「ハーバードに戻る方法を真剣に考えた」と当時の絶望感を語る。

彼らは100時間をかけて30ページの詳細なメモを作成し、投資家に売り込んだが、シリコンバレーの主要な投資家は全て即座にパスした。「二人の子供が、チップのテープアウトもしていないのに」「推論市場が本当に大きくなるのか」といった理由だった。当時の半導体スタートアップのシリーズAの最大調達額は4,000万～5,000万ドルだったが、彼らは次の12ヶ月で1億ドルが必要だと試算していた。彼らは「ラーメンしか食べなければ3,000万ドルでできる」という極限のコスト削減策を検討し、デットプロバイダーからの融資も模索した。そして、500万ドル、1,000万ドルと、小切手をかき集める「スノーボール」作戦で、何とか1億300万ドルのソフトコミットメントを集め、シリーズAをクローズした。

この資金調達を可能にしたのは、投資家だけでなく、サプライヤーからの信頼も大きい。TSMC（台湾積体電路製造）は、彼らがまだ資金調達を完了する前から協力を約束した。Gavinが半導体会議で偶然TSMCの上級副社長と知り合い、AIモデルのテンソルレベルの動作について深い議論を交わしたことがきっかけだった。また、Synopsys（シノプシス）も、エミュレーターを長期分割払いという有利な条件で提供した。これらのパートナーシップは、単なる金銭的取引を超え、Etchedのビジョンと技術力を信じたからこそ実現したものであり、彼らのビジネスの強固な基盤となっている。

結びに

このエピソードがリスナーに残すものは、単なる一スタートアップの成功物語ではない。それは、「不可能」とされた領域で、第一原理思考と圧倒的な実行力で突破口を開く方法論の体現である。GavinとRobの物語は、AIの未来が単に賢いモデルを作ることではなく、その知性をいかにして地球上の全人類が利用できるインフラにするかという、極めて現実的かつ壮大なエンジニアリングチャレンジであることを教えてくれる。彼らの「スピード」「垂直統合」「二極化採用」といった戦略は、ソフトウェアからハードウェアへと重心が移行する現代のテクノロジー業界において、新たな勝ちパターンを示唆している。

何より印象的なのは、Robの癌との闘病という個人的な原動力が、人類全体への貢献という壮大なビジョンに昇華されている点だ。そして、Gavinの10代からの技術的探求心が、業界の常識を疑う原動力となっている。彼らは、未来の「トークン工場」が世界最大の企業になるという確信を持ち、そのサプライチェーンの大部分を掌握しようとしている。このエピソードは、投資家、起業家、そしてテクノロジーの未来に関心を持つ全ての人にとって、AI時代のハードウェアとインフラ戦略を理解する上で、極めて示唆に富んだ内容である。