OpenAI社長グレッグ・ブロックマンと語るサイバーセキュリティと創薬の変化する物理学

今回はOpenAIの共同創業者兼社長であるグレッグ・ブロックマンをお迎えし、最新の数学の成果やAstra、AIが本当に新しい知識を生み出せるのかという点、創薬やDots、そしてセキュリティ支出がソフトウェア支出を大きく上回るべきだという主張について話を聞く。

ありがとう、呼んでくれて嬉しいよ。

AIの世界では毎週が1年のように感じられる。今週はGPT6が10億人以上に展開され、数学の面でも非常にエキサイティングなニュースがある。OpenAI内外で今もっとも興奮していることは何か。

AIでは「楽にはならない、ただ速くなるだけだ」という言葉がよく当てはまる。ピークだと思った瞬間に、さらに上のレベルがあると気づく。これは一社や一技術の問題ではなく、世界と社会がこの技術を採用し、人々の生活を良くしていくことだ。今週の数学の結果は本当のマイルストーンで、過去千年の生活の質を支えてきたのは技術と科学的進歩だった。AIが新しい知識を生み出せるのかという問いに対して、今や「可能だ」と否定するのは不可能だ。まだ全く新しい理論を生み出しているわけではないが、100年来の数学の問題を解けるようになった。重要なのは機械が答えを出すことではなく、この道具を手にした人間がかつて考えられなかった何を達成できるかだ。人間のレバレッジは大きく上がる。数学の問題を解くのと同じ能力を生物学に応用したらどうか、中小企業の経営者が自分の事業に最適化された知能を使えたらどうか。目標や願望に沿った、かつて考えられなかった成果が誰の手にも届くようになる。それがとても興奮する点だ。

進歩の速度は驚くべきものだ。初期のモデルでは基本的な算数ができないと不満が出ていたのに、今では高度な定理を解いている。これが数学や物理、材料などの分野に影響し始めると、モデルが賢くなるほど、その成果を人にどう伝えるかというコミュニケーションが重要になるのではないか。数学のどんな分野でも、人が生み出した定理を本当に評価できる人はごく少数だ。

私は数学出身で、ガロアやガウスのように100年、400年という時間軸で考える数学者に憧れていた。数学の美しさや意味は客観的なものではなく、見る人の目にある。物理法則に近い部分もあるが、人間的な要素も重要だ。だから「誰にも理解できない証明が出て問題解決、めでたし」という話ではない。重要なのはそこからどんな洞察が得られるかだ。我々は約400の重要な未解決問題を解決して公開し、数学コミュニティが洞察を探している。専門家の投稿を読むと、意外なアイデアの応用や、なぜあの結果をここで使ったのかという驚きがある。出てきているのは理解不能な定理ではない。四色定理のように機械が場合分けを検証しただけの歴史もあるが、今は機械による発見の新しい段階に入っている。

モデルが心の理論をより良く備えるようになれば、人間が何を知っているかを把握し、新しい理解へと導く道も開けるのではないか。私は数学を途中でやめたが、Math AcademyやChatGPTで新しい数学を学んだ。人が理解できると期待される知識の水準も上がっていくはずだ。

これは過小評価されている利点だと思う。人々がより多くを知り、互いをよりよく理解し、世界をよりよく理解する助けになる。問題を解き、領域間のつながりを見出すAIが、それをどうあなたに伝え、どう理解させるかが重要だ。これはAIの安全性やアラインメントにもつながる。2017年から議論しているディベートや反復的増幅といった技術がある。人間には検証が難しすぎる問題、たとえば本の要約が良いかどうかは、全部読まないと分かりにくい。そこで別のAIが「この要約は悪い」と証明しようとし、本の重要なプロットを含む段落を示せば、全部読まなくてもその指摘が妥当だと分かる。こうした訓練方法は、人間が監視し運転席にいることと整合する。OpenAIにとって重要な価値であり、AIの結果を人間に合わせて意味のあるものにするという点とも一致する。

多くの人にとって数学理論の進歩はまだ抽象的だ。一方でAIが科学を変え、将来すべての病気を解決するという主張もある。その間の中間段階として何が見えてくるか。

この技術の何年もの反復から、何を期待すべきか形が見えてきた。AIがある次元で能力を発揮し、なぜそこで能力を得たかを理解すれば、似た性質を持つ他の分野でも同様の結果が期待できる。数学で成果が出た理由の一つは、AIの生の知能が一定水準に達したこと、そして数学が検証可能だと思われてきたことだ。算数の答えは照合できるが、自然言語の証明の検証ははるかに難しい。しかし核心はデータだ。数学や理論物理ではデータを多く得られるが、生物学はデータのボトルネックが大きい。幸いデータが少なくても扱える技術も進めている。計算・データ・アルゴリズムが能力と結果を生むという深層学習の基本物理がある。最も賢い人々が数百年かけた難問をAIが解けるなら、それを生物学や創薬に移したい。問いはデータがあるか、得られるかで、まだ解決していない。同じ技術を生物領域に適用すれば、かつて苦痛だったことが急速に容易になる領域もあるが、別のボトルネックも残る。たとえば規制申請は、臨床試験の申請書を書くのに1年かかるような大きなボトルネックで、AIでずっと容易に書ける。創薬の各段階を見て、根本的にデータが存在しない場所では、ウェットラボやシミュレーションの革新が重要になる。数学と共通する科学的発見の側面と、データの出どころが大きく異なる側面の両方を理解する必要がある。

生物学は良い例だ。AlphaFoldなどの初期研究は分子の設計や結合の理解に集中していた。創薬には15年かかり、費用は15億ドル、そのうち5000万ドルほどが前臨床のマウス研究、14億ドル以上が臨床試験だ。初期段階に2〜3年、残りに12年かかる。初期のモデルは「結合するか」に重点があったが、実際に人間の役に立つ製品にするには下流の多くの課題がある。OpenAIは科学分野をどう優先順位付けし、どこでデータや結果、能力を生み出したいと考えているか。

創薬が最も明確で明白な領域だ。一つ選んで完全に革命を起こし、人々の生活の質を押し上げたいなら、長年みんなが考えてきたAIの最重要応用の一つである創薬をやるべきだ。パイプラインは非常に長い。人間は生物学も創薬も驚くほど苦手だ。自然言語は人間に非常に適しているが、生物学はまったく異質だ。しかしニューラルネットにとって、自然言語が生物学より得意である理由はない。自然言語で素晴らしい結果が出ているなら、第一原理からして生物学の言語も解読できるはずだ。だから創薬が第一だ。多くの軸で我々は非常に近づいている。

本当にエキサイティングだ。

並列性を大幅に高め、多くの工程の期間を短縮できる。創薬には多くの側面がある。たとえばN of 1の疾患では、その人の症状を治す薬がすでに文献のどこかに存在し、関連する一本の論文を見つけられれば治せる場合がある。前例も十分にある。そうした運用を大規模に拡大できる。短期間での影響は十分可能だ。材料科学も別の例で、他にも長い尾を引く領域で人類が達成できることの現実が変わっていくはずだ。

薬が市場に出るまで15年かかる理由の一つは、安全性の考慮が異なる試験を段階的に大きくし、大規模なヒト試験を行うことだ。そして現在の試験は規制によって定められている。正当な理由があるが、技術が機能しデータが取得・生成できると信じるなら、制限要因の一つは、薬の承認や手順に関する期待を変えるべきだと規制当局を説得できるかどうかになる。

創薬の物理法則が変わったと本当に証明できれば、それはシステムのあらゆる部分に波及すべきだ。自動運転車の例を考えよう。道路の運用や安全は人間の運転者に合わせて調整されている。自動運転が人間より10倍、100倍安全になれば、AIがその領域で明確に望ましい結果を出せる段階に達したのだから、交通システム全体をどう考え直すかという話になる。一定地域では自動運転車だけを許可する規制もあり得る。規制は世界で一様ではなく、臨床試験の規制はオーストラリアと米国で大きく異なり、規制環境が自分たちの進め方に合う場所へ試験を移す動きもすでに見られる。どう変えるべきかは、実際に何を証明できるかに大きく依存する。ニューラルネットが実際の臨床試験より良い結果を出せるかはまだそこまで達していないが、改善していく可能性は想像できる。

有効性や毒性の予測精度がより高くなれば、当然変えるべきだ。

もちろん。社会が可能なことの根本的変化にもっと踏み込み、それに素早く方向転換すべき領域がある。ただし結果や含意をよく考える必要がある。長期のアウトカムを予測するシミュレーションの精度を問うなら、少なくとも一度は長い時間を経た対応が必要で難しい。それでも可能なことの80%はすぐに実現するだろう。

AstraのリリースやDev Dayから少し経った。新しい製品や能力を内部や外部の人々がどう使っているかで、驚いたことはあるか。

Dotsは多くの人の働き方を本当に変えた。Dotsが表すものは……

Dotsについて簡単に説明してくれるか。

Dotsはプロアクティブなエージェントだ。常時オンで常に働き、あなたが仕事をやめても働き続ける。私のDotsは、送るべきメッセージや、やると言ってまだやっていないことを見張っている。朝起きると、やるべきことのリストがある。頼んでいないことにも気づく。カレンダーの予定が衝突していれば指摘し、この会議を早く出ないと次に間に合わないと教えてくれる。文脈をよく理解し、私の一日、取り組んでいるプロジェクト、受信箱やSlackの中身を把握し、それらを統合して、私が最近尋ねている質問から関心の高い領域を知っている。Dotsは能力ではなくフォームファクターの変化だ。Astra級のモデルで独自のクラウドコンピュータを持つが、このレベルの知能を持つフォームファクターの変化は職場でゲームチェンジャーになる。

複数のDotsを動かしているのか、それともバックグラウンドのタスクをすべて一つでカバーしているのか。

一つだ。アイコンは小さなフクロウで、変更も頼める。仕事生活のすべてをこなしている。

OpenAIには研究部門があり、消費者向け、企業向け、開発者向けのプラットフォーム事業もある。Dotsのように仕事を助けるアシスタントと、消費者向けのアシスタントは分かれていくと思うか。

間違いなく収束していく。環境ごとに異なる圧力がある。大衆向け消費者製品では、無料または低コストで提供するスケールの実現が重要だ。職場では、忙しい経営者でも個人貢献者でも、より多く支払うことでリターンが得られるなら、より多くの計算資源を投じる価値がある。主な違いはコストだ。ChatGPTでは最大規模の無料枠に力を入れ、無料ユーザー全員にメモリを提供するのは大規模なエンジニアリングの取り組みだった。同じ機能を少数の人に高コストで実装するのは容易だ。パーソナルアシスタントの領域では、投入する計算資源の量が異なる市場セグメントが生まれ、計算資源の差が製品の見え方の違いにもなる。決済や旅行など消費者向けのユースケースもあるが、根本的な違いはなく、AIが何かをするという点は同じで、圧力の方向が少し違うだけだ。OpenAIの強みは、ChatGPTに12億人の消費者がいることと、主要なコーディング・企業向け事業の両方を持つことだ。両方を社内に持つ企業は他にない。だから二つの戦線ではなく一つの戦線で競うよう統合する戦略を取っている。これはAIの一般的な方向でもあり、消費者と企業の区別は曖昧になっていく。起業家のルネサンスが起きる。頼れるAIがなければ起業しなかったと言う人を実際に知っている。通常の参入障壁の多くをAIが担えるからだ。長く続いた区別は変わっていく。

企業と消費者の世界を伝統的に分けてきたものの一つがUIだ。コストや提供できる品質の違いに加え、企業向けではアクセスの仕方やUIが消費者向けと大きく異なることが多い。動的UIについても考えていると思うが、ユーザーに有用なUIを動的に生成するにはどうするか、あるいはチャットの一部として背景に移るのか。両セグメントに対応する中でUIはどう進化すると考えるか。

まず、最高のUIはUIがないことだ。AIでは話しかけられるものに向かっていく。口頭でもSlackでもiMessageでも、あらゆるサーフェスから呼び出せる。Dotsでは今日すでにそれができる。ただし個人と職場には根本的な違いがある。職場には管理者、会社のセキュリティチーム、より多くのステークホルダーがいる。自分専用で自分を代表し、結果を自分が所有するAIとは違う。これが企業と家庭の主な違いで、製品の違いにもつながる。小さな例では、新機能の導入時期を企業が管理したいため、管理者向けの制御やトグルがある。その結果、職場では利用できる機能が少なくなることがある。しかしUIがないのが要点なのに、機能が欠けていることをどう表面化し、どう知らせるのかという課題が残る。これは魔法のように消えるものではなく、複雑さに向き合う必要がある。それでも根本的に考えると、ChatGPTはテキストボックスから始まったが、向かっている先にはテキストボックスすらなくなる。それこそが約束されていたAIだ。

UIのない製品をより良くする要素として、どれだけ計算資源を投じられるか、モデル自体の良さ、メモリシステム、そしてどれだけ難しく考えるべきかの行動の調整などがあると思う。

それは非常に得意になってきている。GPT6を全員に展開したことで、AIが難しい問題をじっくり考える場合でも、まず素早い答えを出し、考え続けてからより正確で完全な答えを返せるようになった。UIがないという点に関連して、インテリジェントUIも導入した。AIがその場で生成UIを作れる。固定のUIやボタン、メニューはないが、AIが結果を視覚的にまさに望む形に仕上げられる。たとえば航空券予約では複雑なUIで選択肢を見たい。自転車の組み立て方を尋ねるなら、その場で専用アプリのようなものを作れる。そのために1カ月かけて人を雇うことはないが、AIがリアルタイムで作るのはまったく問題ない。AIがユーザーに合わせて自らを形作り、必要な瞬間に必要なインターフェースになる世界だ。これは製品のあらゆる側面で注力している。

最近のAI論議で最大の変化の一つがサイバーだ。AI駆動の攻撃に耐える安全なシステムをどう作るか。ガードレールをどう構築し、サイバーセキュリティの様々な側面にどう取り組んでいるか。

まず、サイバーセキュリティの物理法則は変わりつつある。我々は「防御者の窓」と呼ぶ時期にいる。ピークのフロンティアAI能力が防御側の安全確保を助けられるが、まだ広く普及していない。一方で広く普及する能力は段階的に上がっている。世界中のプロバイダーのモデルリリースごとに、誰もが使えるサイバー能力は上がっている。影響の先端も見え始め、たとえば韓国では複数のモデルによって銀行への高プロファイルなハッキングが起きた。重要なのは、防御側がこの時間を使う必要があることだ。我々はDaybreakプログラムを通じて、防御側に責任ある形でアクセスを提供し、ピーク知能や非常に有能なモデルでシステムの脆弱性を見つけて修正できるよう取り組んでいる。これらの欠陥は以前から存在していた。人間が書いたすべてのコードについて、安全だったか、開発者が正しく訓練されていたかを問う必要がある。我々がシステムを築いた方法は根本的に安全ではなく、それはずっと分かっていた。十分なリソースを与えられたCISOなど存在したことがない。

世界のインフラが地下室の一人が書いた一つのオープンソースプロジェクトに依存しているというXKCDのコミックや、Heartbleedなど、AI以前からあった問題を見れば分かる。

その通りだ。これらは本当に人間の問題だ。我々がインターネットを築いた方法の問題で、セキュリティは後付けされた。初期のワームやウイルスがあり、ウイルス対策ソフトやHTTPをHTTPSにする暗号化が必要だと気づいた。こうした仕組みは後からセキュリティを追加する遅い道だった。インターネットはセキュリティのためではなく回復力のために築かれてきた。今、その技術的負債が表面化し、返済すべき時だ。OpenAIとしてもこの瞬間を支援することに力を入れている。たとえば10億ドルのコミットメントで、最前線の防御者がモデルにアクセスして防御に使えるよう支援し、脆弱性の研究や、世界がどう対応するか、インシデント対応をどう調整するか、政府やコミュニティとどう協力するかを考えている。人々はサイバーセキュリティの物理法則がどれほど変わるかをまだ内面化していない。より安全な世界になる機会がある。AIはかつて考えられなかった形で技術的負債を返済でき、ソフトウェアの形式検証もできる。モデルは証明が得意なのだから、ソフトウェアのセキュリティ特性を証明しない手はない。これまでは苦痛で高コストで、重要なものには誰もやらなかった。それが変わり得る。OpenAI内部でも、新しいモデルが出るたびに自分たちの安全確保に適用し、脆弱性を見つけて飽和させるということをしている。たとえば生産エンジニアの約25%をプロジェクト停止にしてセキュリティに専念させ、当時のピーク知能モデルにインフラを調べさせ、レッドチームを行い、繰り返しやすいツールも作った。多くの問題を見つけて修正し、そのモデルが見つけられる問題を飽和させた。良い話だが、次のモデルが出れば同じプロセスを繰り返す必要がある。コードの多くがAI支援で書かれるようになれば、最初から安全なコードを書くようモデルを訓練でき、根本的により安全なシステムにできる。

つまり、人々がコードベースをより安全にし、より安全になるよう設定されたAI生成コードを使うまで、サイバー攻撃やインシデントが増える移行期間があり、その後防御が追いつくということだ。業界で聞くコンセンサスとも一致し、最もありそうな先行きに思える。

この瞬間を乗り越えることには楽観的だ。ただし協調した対応が必要で、防御側がサイバーセキュリティの物理法則の変化を内面化する必要がある。この窓は永遠には続かない。組織の安全は、一度きりの投資である基本対策と、防御に使ったサイバー能力の水準の両方に関わる世界に移行している。その世界では防御側が攻撃側を上回れるが、多くの変化が必要だ。あらゆる組織の運営の考え方、重要インフラをどう共同で考え、これまでリソースのなかった人々にどう資源を配分するかが変わる必要がある。

インターネット全体の技術的負債のような話で、内部での対応は良い例だ。技術的負債への対処は苦痛で、エンジニアの25%を割くとか、四半期の機能凍結をして修正するというのは、世界がまだ決断していない状態に思える。セキュリティ投資は伝統的にIT予算の低い一桁台の割合だが、今この時点でどうあるべきか。従来のネットワークやエンドポイントのセキュリティ投資はあまり重要でなくなり、単に2倍使うべきなのか。

サイバー支出、セキュリティ支出はソフトウェア支出を大きく上回るべきだと感じている。本当にそう信じている。間違っているかもしれないが、これからの世界ではソフトウェアが参入障壁になりつつある。

無料に近い。

そういうことだ。

その通り。ソフトウェアは非常に安くなっている。だからこそソフトウェアそのものではなく、信頼でき、安全で、信じられるソフトウェアが欲しい。そのソフトウェアの回復力にこそ価値があり、さらに重要になる。XKCDのオープンソースメンテナーの話は意味をなさなかった。そういう世界になったのは、ソフトウェアを書くこと、信頼できるソフトウェアを書くことの物理的な難しさと、誰もがサプライチェーンを持ち、ごく少数の企業しか監査しないからだ。悪意あるパッケージがアップロードされて多くの企業が被害を受けるサプライチェーン脆弱性も見てきた。すべて変える必要がある。人間の開発者だけでは不可能だった。パッケージやセキュリティ技術の obscure な専門知識を持つ人はごく少数だからだ。

Socketなどのサードパーティがオープンソースのサプライチェーンをスキャンして脆弱性を見つける例もある。メンテナーが突然プロジェクトを引き継ぎ、悪意あるものを入れる人的要素もある。OpenAIなどが進める取り組みを支えるサードパーティのエコシステムの変化は興味深い。

その通りで非常に重要だ。コミュニティとともに進め、CrowdStrikeのような企業と提携している。これも協調した対応だ。OpenAIがリードすることは中核的優先事項だと考えている。フロンティアモデル、ピーク知能モデルを持っているからこそ、サイバーセキュリティには善のための変革的な可能性がある。そのためには当社自身もセキュリティの移行を進めている。この数カ月、開発プロセスの安全性、セキュリティ、アラインメントについて話してきたが、世界が根本的により安全になり、この時期を乗り越えられるよう支援することも考えている。

OpenAIは常に人間と人間の主体性、人間の進歩に寄り添ってきた。AIでみんなを良くしようという考えだ。元々の前提は、AIを広く普遍的に前向きに使えるよう、他社に対抗できるものを作るというものだった。その精神はOpenAIに続いているのか、AIコミュニティの文脈でどう考えているか。

その精神はAGIが全人類に利益をもたらすという使命の中核だ。ここでの「人類」が非常に重要で、人間がしっかり運転席にいて未来をコントロールし、この技術が人間の主体性を増幅すべきだと考えている。

モデルが能力で人間を上回っても、だ。

これは絶対に重要だ。モデルは非常にギザギザで、明らかにAIが今日の誰よりも有能な領域がある。GPT4でさえどんな人よりも多くを知っている。しかし重要なのは、スティーブ・ジョブズがiMacに取っ手を付けた理由の話を思い出すことだ。人は機械をコントロールできると感じられる必要があり、いつでも持ち上げて窓から投げ捨てられると思えることが大事だ。同じ精神がAIにも必要だ。人間の判断や価値観が運転席にあり、将来は人間がCEOや取締役のように振る舞うようになるかもしれない。CEOならドメイン専門家やチームを持ち、多くの軸で自分より良いアイデアを持つこともあるだろう。しかし根本的な問いは、あなたは満足しているか、これは望んだことか、人生を良くしているかだ。これはAIだけでなく技術全体の問題で、技術は人類文明を持ち上げるためのものだ。生活の質を改善する最も根本的な原動力であり、AIにもそれを求めるべきだ。それがOpenAIの信念だ。

グレッグ、今日は本当にありがとう。

時間を取ってくれてありがとう。

こちらこそ、二人ともありがとう。感謝している。