なぜ従来のベンチマークは現代のAIモデルに失敗するのか：OpenAI研究科学者Noam Brownと共に

OpenAIの研究科学者Noam Brown（ノーム・ブラウン）が、同社の推論モデル「o1」の開発に携わった人物として、AI業界における評価方法の根本的な問題を提起する。従来のベンチマークグリッドは、モデルがどれだけの時間をかけて思考するかを考慮せず、静的な性能比較に終始している。しかし、現代のAIモデルは、与えられた推論予算（テスト時計算量）に応じて能力が劇的に変化する。o1-previewとo1の比較においても、ベンチマーク上の数値差はわずか数パーセントだったにもかかわらず、実際の使用感では大幅な改善が認められた。この乖離の原因は、o1が思考の効率性において優れており、同じ性能を達成するために必要な計算量が少ない点にある。つまり、モデルの真の能力を測るには、性能を計算量の関数としてプロットする必要があるというのがBrownの主張である。

この問題は、安全性評価の分野においてさらに深刻な様相を呈する。現在の各AIラボの責任あるスケーリングポリシーや準備フレームワークは、テスト時計算量を考慮に入れていない。GPT-3の時代には、どれだけ計算予算を投じてもモデルの能力は頭打ちになったが、現在の最先端モデルでは、10ドルの予算と1万ドルの予算では達成できるタスクの質が根本的に異なる。さらに、モデルが数週間から数ヶ月にわたって思考し続けることができるようになったことで、その真の能力上限を評価するには、実際にその期間実行する以外に方法がない。しかし、モデルリリースサイクルは2〜3ヶ月と加速しており、誰もモデルの潜在能力の天井を把握できていないというパラドックスが生じている。Brownは、この「不都合な真実」を業界が直視すべきだと訴える。

0:00壊れたベンチマークとテスト時計算量の新たな評価軸

Brownがエッセイを執筆した直接の動機は、o1リリース時の反応にある。リリース直後、ベンチマークグリッド上ではo1-previewとo1の差がわずか数ポイントであったため、コミュニティからは「本当に改善されているのか」という懐疑的な声が上がった。しかし、実際にモデルを使い始めたユーザーは、数時間のうちにその印象を改めた。この矛盾の原因は、ベンチマーク結果がテスト時計算量を統制していない点にある。o1はo1-previewよりも思考の効率が格段に高く、同じ性能を達成するために必要なトークン数が少ない。つまり、従来のベンチマークグリッドは、モデルの「思考の速さ」を無視した不公平な比較を強いている。

Brownは、モデル評価の新しい方法として、性能をテスト時計算量（トークン数、コスト、時間のいずれか）の関数としてプロットすることを提案する。このアプローチの重要性は、現代のモデルが「思考のプラトー」に達するまでに非常に長い時間を要する点にある。GPT-3の時代には、モデルにどれだけ思考時間を与えても性能はすぐに頭打ちになったため、単一の数値で比較しても問題はなかった。しかし、現在のモデルは適切にスキャフォールディングすれば、数週間にわたって思考を続け、その間ずっと性能が向上し続ける。そのため、プラトー点を待って評価することは現実的ではない。評価者は「忍耐の限界」または「予算の限界」を事前に設定し、その条件下で比較を行う必要がある。

この問題は、モデルリリースサイクルとのミスマッチを生む。モデルが2〜3ヶ月ごとにリリースされる現在、各モデルの真の能力上限を評価するには、次のモデルが登場するまでの全期間を費やす必要がある。結果として、誰もモデルの潜在能力の天井を知らないまま、次のモデルがリリースされるという状況が常態化している。Brownは、o1リリース時にも、ある評価タスクが完了するまでに1週間以上かかった事例を挙げ、この問題の深刻さを強調する。

5:34思考時間の最適化とユーザー体験のジレンマ

モデルが長時間思考できるようになったとはいえ、ユーザー体験の観点からは「1週間待って回答を得る」というアプローチは現実的ではない。Brownは、思考時間は柔軟であるべきだと指摘する。迅速な応答が求められる場面では素早く、複雑な問題には時間をかけるという使い分けが重要であり、現在のユーザーはおおむね適切なバランスを取っていると評価する。

しかし、業界全体としてはテスト時計算量を過小評価している可能性がある。Brownは自身の経験から、モデルに十分な思考予算を与えることで、予想外の能力が引き出せることを示す。特に印象的なのは、数学の未解決問題である「エルデシュ単位距離予想」の反証事例である。OpenAIの内部モデルを使い、比較的低い計算予算でこの予想の反証に成功した。発表後、o1でも同様の結果が得られることが確認されたが、単純な質問では不可能で、適切なスキャフォールディングと段階的な誘導が必要だった。Brownは、一般用途のスキャフォールドを使えば、1,000〜10万ドルの計算予算でo1から同様の成果を引き出せた可能性があると推測する。

この事例は、現在のモデルにはまだ発見されていない「潜在能力」が大量に眠っていることを示唆する。しかし、モデルリリースサイクルが加速する中で、既存モデルの限界を探るよりも、次のモデルを待つ方が効率的だというジレンマが存在する。BrownはOpenAI内部でも、数学者や物理学者がモデルを使って未解決問題に挑戦することを積極的には推奨していないと明かす。その理由は、リソースを「より強力なモデルをより早く安全に世界に届ける」という本来のミッションに集中させるべきだからだ。

11:26安全性評価における「不都合な真実」

テスト時計算量のスケーリングは、AI安全性評価の枠組みに根本的な疑問を投げかける。現在の各AIラボの責任あるスケーリングポリシーや準備フレームワークは、モデルの「静的な能力」を測定することを前提に設計されている。しかし、現代のモデルでは、能力は投入する計算予算の関数となる。10ドルの予算で評価したモデルと、1万ドルの予算で評価したモデルでは、危険な能力（例えば生物兵器の設計支援）の有無に関する判定がまったく異なる可能性がある。

Brownは、この問題が現在のポリシーでほとんど考慮されていないことを指摘する。一部のラボは部分的に対応しているが、業界全体として「この問題は存在しないかのように振る舞っている」と批判する。特に深刻なのは、モデルが有害なタスクにおいても、有用なタスクと同様に長時間の思考によって能力を向上させる点である。つまり、モデルが数ヶ月かけて科学研究を進められるなら、同じ期間を使って悪意ある目的にも活用できる可能性がある。

さらに、モデルリリースサイクルと安全性評価のタイムスパンが乖離している。モデルが2〜3ヶ月ごとにリリースされる中で、その真の能力を評価するには数ヶ月から1年かかる可能性がある。Brownは「エージェントの真の能力を評価する唯一の方法は、実際に1年間実行することかもしれない」と述べ、このパラドックスを浮き彫りにする。競争圧力の中でリリースを遅らせることは難しいが、評価を省略することもできない。このジレンマに対する明確な解決策はまだ存在しない。

20:59再帰的自己改善の限界と時間というボトルネック

Brownは、再帰的自己改善（RSI）に関する自身の見解を明確にする。彼は「一晩で知能爆発が起こる」というシナリオには懐疑的である。その理由は、現代のモデルが最高の知能を発揮するために大規模なテスト時計算量を必要とする点にある。もしモデルが自身を改善するために長時間の思考を必要とするなら、時間そのものがボトルネックとなる。改善のサイクルは加速するが、一夜にして超人的な知能が出現するような「瞬時の爆発」は起こりにくい。

具体的な例として、Brownは自身の博士論文のテーマであるポーカーソルバーの開発経験を語る。o1-previewは彼のアルゴリズムを10〜100倍高速化することに成功したが、既存のアルゴリズムを超える「新しいアルゴリズム」をゼロから考案することはできなかった。研究の「センス」や「味」の部分はまだモデルには不足しており、研究者の補完役として機能している段階だと評価する。ただし、モデルリリースのたびにこの能力は向上しており、いずれ「研究のセンス」においても転換点が訪れる可能性を認める。

現在のところ、モデルは研究の一部を100倍高速化するが、高速化されない部分が新たなボトルネックとなる。このボトルネックは徐々に縮小していき、結果として「緩やかな離陸」が進行するとBrownは予測する。彼は「最大のボトルネックは時間だ」と述べ、研究者たちが長時間労働に駆り出される現状を説明する。全員が「オーバーハング（潜在能力の余剰）」を認識しており、それを解放するための時間が不足しているという認識で一致している。

27:09マルチエージェント協調と知識の蓄積

マルチエージェントシステムの可能性について、Brownは「まだ表面をなぞっただけ」と評価する。特にフロンティアモデルを必要とする大規模なマルチエージェント協調は、研究が難しい領域だと指摘する。小規模な実験では真の能力を引き出せず、大規模な実験には膨大なリソースが必要となる。

Brownは、人間の文明の進化をアナロジーとして用いる。人間の知能そのものは過去5万年で大きく進化していないが、知識の蓄積と共有によって驚異的な成果を上げてきた。何十億もの人間が長期間にわたって思考し、互いの知識を積み重ねてきた結果が現代文明である。これに対して、現在のAIモデルは「生まれては短いコンテキストウィンドウの中で存在し、消えていく」存在だ。知識を蓄積し、共有し、発展させるという有機的なプロセスが欠如している。

しかし、変化の兆しは見え始めている。MultiPoKやOpenClawといった初期の試みは過大評価された面もあるが、将来の方向性を示している。Brownは、モデルが大規模に協調し、知識をグローバルに共有し、それを生産的に発展させられる世界がいつか訪れると予測する。その時、AIシステムは人間の文明に匹敵する「複合的な知識の蓄積」を実現するだろう。

29:11フロンティアにおける競争と悪い均衡

フロンティアラボ間の競争について、Brownは「非常に激しい」と認めつつも、一定の安心材料を挙げる。すべてのフロンティアラボの研究者は、自分たちが扱っている技術の重大性とリスクを認識しているという点だ。競争は存在するが、全員が「良い結果」と「悪い結果」の両方の可能性を理解しており、最終的にはポジティブな方向に進もうとする共通認識があると述べる。

しかし、ベンチマーク評価の慣行については「悪い均衡」に陥っていると批判する。多くの研究者が「ベンチマークを計算量の関数としてプロットすべきだ」と頭では理解していながら、実際には従来のグリッド形式を踏襲し続けている。その理由は「みんながグリッドを出しているから、自分たちも出さなければならない」という同調圧力にある。Brownはエッセイを通じて、この均衡を打破し、次回のモデルリリース時に企業がグリッドを前面に出さなくてもよい環境を作りたいと語る。

また、ルーティングレイヤー（複数のモデルを組み合わせて最適な出力を得る技術）を提供する企業についても言及する。これらの企業は、複数のモデルからのコンセンサスを得ることで性能を向上させていると主張するが、Brownは「テスト時計算量を統制した上で比較すべきだ」と指摘する。単純なコンセンサスよりも、1つのモデルに長時間思考させた方が効率的かもしれない。ルーティングが本当に優れているかどうかは、同じ計算予算の条件下で検証されるべきであり、その検証が行われていない現状を問題視する。

33:29コスト軸で評価するベンチマークの未来

Brownは、ベンチマーク評価の未来像として「コストをX軸にした性能曲線」を提案する。このアプローチを採用すれば、異なるモデル間の公平な比較が可能になるだけでなく、ルーティングレイヤーやアンサンブル手法の真の価値も評価できる。同じ計算予算で、単一モデルの長時間思考と複数モデルのコンセンサスのどちらが優れているかという問いに、初めて定量的な答えが出せるようになる。

ただし、このアプローチにも課題は残る。ベンチマークで最適化されたルーティング手法が、実世界のユースケースでも同様に機能するとは限らない。ベンチマークゲーミングのリスクは依然として存在し、新しい評価方法にも同様の懐疑的な目が必要だとBrownは警告する。

最終的にBrownは、業界全体が「悪い均衡」から脱却することを呼びかける。ベンチマークグリッドは便利なフォーマットだが、モデルの真の能力を反映していない。次のモデルリリースの際には、企業が勇気を持って新しい評価方法を採用し、業界全体がより生産的な議論を行える環境を作るべきだと主張する。この変化は、AIの安全性評価の改善にもつながり、結果として社会全体の利益になると結論づける。

結びに

このエピソードがリスナーに残す最大の印象は、「AIモデルの能力は静的ではなく、投入する計算予算に応じて動的に変化する」という認識の転換である。Noam Brownは、自身が開拓したテスト時計算量のスケーリングという分野において、その評価方法が業界の慣行に追いついていない現状を鋭く指摘する。特に、安全性評価の枠組みがこの新しい現実を無視している点は、政策的な議論を喚起する重要な問題提起である。

また、再帰的自己改善に関するBrownの「緩やかな離陸」シナリオは、急速な知能爆発を想定する一部の議論に現実的な修正を加える。時間そのものがボトルネックとなるという洞察は、AI開発のペースとリスク管理のバランスを考える上で示唆に富む。彼の「研究者はモデルに置き換えられるのではなく、補完される」という現状認識は、過度な楽観論と悲観論の両方を退けるバランスの取れた視点を提供する。

最後に、ベンチマーク評価の「悪い均衡」を打破しようとするBrownの呼びかけは、業界全体の慣行を変える可能性を秘めている。彼のエッセイとこの対話が、次世代のモデル評価のスタンダードを形成するきっかけとなるかどうかが、今後の注目点である。