
🔬因果モデルには因果データが必要 - Xairaの創薬向けX-Cellモデル(Bo Wang & Ci Chu, Chief Discovery Officer & Chief AI Scientist)
- Xaira Therapeutics(ザイラ・セラピューティクス)のチーフ・ディスカバリー・オフィサーであるCi Chu(チュー)氏とチーフAIサイエンティストである...
- 従来の「バーチャルセル」モデルは、主に観測データ(CELLxGENEなど)に基づいていた。これらのモデルは細胞の状態記述には優れるが、遺伝子を操作した際の因果的な応答...
- [0:00] 因果データの生成:ハイスループット生物学の産業化 X-Cellの核心は、その学習データにある。従来のバーチャルセル研究が依存してきたCELLxGENEの...
自分では見つけにくい海外Podcastの話題に、日本語で気軽に触れたい人。
Latent Space: The AI Engineer Podcast / Latent.Space
- X-Cellの核心は、CRISPRとシングルセルRNA-seqを組み合わせたハイスループット実験「Perturb-seq」を産業規模にスケールさせ、ゲノムワイドな因果データセット「X-Atlas」を生成した点にある。データセットは7キャンペーン、16細胞種、2,500万細胞から構成される。
- 従来の観測データ(CELLxGENEなど)に基づくモデルは、因果推論タスクにおいて線形ベースラインを超えられなかった。X-Cellは因果データで学習することで、この壁を打破した。
- アーキテクチャ上の最大の革新は、自己回帰モデルから拡散言語モデルへの転換である。拡散モデルは遺伝子に人為的な順序を仮定せず、双方向的な生成が可能であり、シングルセルRNA-seqデータの性質に適合する。
- X-Cellは、GenePT、PPIネットワーク、遺伝子必須性情報など5種類の生物学的事前知識をプレコンディショニングとして統合。これにより、文脈特異的な予測精度とモデルの解釈可能性が向上した。
- モデルの一般化能力は、休止T細胞から活性化T細胞への予測、iPSC分化実験における未見細胞種の予測、そして細胞株から初代T細胞への予測という3つの厳格なテストで実証された。
- 線形ベースライン問題の原因は、評価指標(MAE)の不適切さとデータセットの小ささにある。X-Cellは、遺伝子発現の変化量(delta)を評価するPearson delta指標において、線形モデルを明確に凌駕した。
- Xairaは、X-AtlasとX-Cellをオープンソースとして公開。これは、タンパク質構造予測分野でPDBとAlphaFoldが果たした役割を、バーチャルセル分野で再現することを目指した戦略的な判断である。
- アカデミアの役割は、産業界では再現困難な「アカデミック・フリーダム」に基づく基礎的イノベーションと、医療データへのアクセスにある。一方、産業界はそのスケールアップとロバスト化に優れる。両者の共生が分野の進歩に不可欠である。
Xaira Therapeutics(ザイラ・セラピューティクス)のチーフ・ディスカバリー・オフィサーであるCi Chu(チュー)氏とチーフAIサイエンティストであるBo Wang(ボー・ワン)氏が、AI創薬の最前線を語る。同社は、1億ドル規模の資金調達を背景に、AIを用いた創薬プラットフォームの構築を進めている。その中核をなすのが、遺伝子発現の因果関係を予測する基盤モデル「X-Cell」と、その学習に不可欠な大規模因果データセット「X-Atlas」である。本エピソードでは、従来の観測データに基づくモデルが因果推論において線形ベースラインを超えられなかった壁を、どのようにして打破したのか、その技術的ブレークスルーが詳細に解説される。
従来の「バーチャルセル」モデルは、主に観測データ(CELLxGENEなど)に基づいていた。これらのモデルは細胞の状態記述には優れるが、遺伝子を操作した際の因果的な応答予測(「もしこの遺伝子をノックダウンしたら、他の遺伝子はどう変化するか」)においては、単純な線形モデルを凌駕できなかった。Xairaのチームは、この根本的な問題の原因が「情報量の不足」にあると特定。CRISPRとシングルセルRNAシーケンシングを組み合わせたハイスループット実験「Perturb-seq」を産業レベルにスケールさせ、ゲノムワイドな摂動(perturbation)データを生成することで、この壁を突破した。その結果、従来の約30倍の情報量を持つデータセットで学習したX-Cellは、未見の細胞種や実験条件に対する一般化において、線形モデルや他の既存モデルを明確に凌駕する性能を示した。
因果データの生成:ハイスループット生物学の産業化
X-Cellの核心は、その学習データにある。従来のバーチャルセル研究が依存してきたCELLxGENEのようなデータベースは、様々な条件下での遺伝子発現を観測した「記述的(descriptive)」なデータである。しかし、遺伝子A、B、Cが同時に上昇するという観測事実からは、「AがBとCを制御する」「BがAとCを制御する」「未知の因子Xが全てを制御する」といった無数の因果構造が推定可能であり、真の因果関係を特定することは原理的に不可能である。Chu氏は「観測データは因果関係を学習するには情報量が不足している」と断言する。
この問題を解決するためにXairaが採用したのが、CRISPR-Cas9を用いた大規模摂動実験である。これは、細胞内の特定の遺伝子の発現を人為的に抑制(ノックダウン)し、その結果として他の全ての遺伝子の発現がどう変化するかを網羅的に測定する手法だ。重要なのは、この実験を「プールド(pooled)」形式で行う点にある。20,000種類以上の遺伝子それぞれに対するガイドRNAを細胞集団に一度に導入し、各細胞に1種類のガイドRNAが取り込まれるように設計する。その後、シングルセルRNAシーケンシングによって、各細胞でどの遺伝子がノックダウンされ、その結果として全遺伝子の発現がどう変化したかを一気に読み取る。これにより、バッチ効果(実験のタイミングや環境の違いによるノイズ)を排除した、高品質な2次元データセットが生成される。
この実験をゲノムワイドに、かつ複数の細胞種で実行することは、極めて困難な工学的挑戦である。Chu氏のチームは、学術界で確立されたプロトコルを産業用にスケールアップする過程で、細胞の状態を化学的に固定(chemical fixation)する技術を導入し、14時間にも及ぶ長時間の実験工程をタイムシフト運用可能にした。これにより、細胞や研究者へのストレスを軽減し、データ品質を維持している。この結果生まれたデータセット「X-Atlas」は、7つのゲノムワイド摂動キャンペーンから構成され、16種類の生物学的コンテクスト(細胞種・状態)にわたり、厳格な品質フィルタリング後でも2,500万細胞ものデータを含む、世界最大級の摂動データセットとなった。
アーキテクチャの転換:自己回帰から拡散モデルへ
X-Cellのアーキテクチャ上の最大の特徴は、生成モデルとして拡散言語モデル(diffusion language model)を採用した点にある。Wang氏の研究室が以前開発したscGPTは、ChatGPTと同様の自己回帰(autoregressive)方式を採用していた。これは遺伝子発現データを文脈(sequence)として扱い、ある順序で次の遺伝子の発現値を予測するものだ。しかし、遺伝子発現データには本質的な順序が存在しない。遺伝子の並び順をシャッフルしても生物学的な意味は変わらないため、自己回帰モデルに任意の順序を強制することは、モデルの表現力を制限する可能性があった。
拡散モデルは、この問題を根本的に解決する。Wang氏は、自己回帰を「タイピング」に例え、拡散モデルを「編集」に例える。拡散モデルは、ランダムノイズから出発し、それを段階的に洗練(denoise)することで、最終的な遺伝子発現パターンを生成する。このプロセスは双方向的(bidirectional)であり、遺伝子間に人為的な順序を仮定する必要がない。論文では、拡散ステップを増やすほど損失関数が減少し、予測が段階的に精緻化されることが示されており、このアプローチがシングルセルRNA-seqデータの生成に極めて適合的であることが確認された。
さらにX-Cellは、多様な生物学的事前知識(prior knowledge)をモデルに組み込む「プレコンディショニング」も重要な革新である。具体的には、①ChatGPTに遺伝子の説明を生成させて埋め込んだ「GenePT」、②タンパク質間相互作用(PPI)ネットワーク、③がん関連遺伝子の必須性情報(depmap)、④細胞の形態情報、⑤scGPTの埋め込み(細胞タイプ情報)の5種類をクロスアテンション機構で条件として与える。これにより、モデルは特定の細胞種や状態に応じた文脈特異的な予測が可能となる。Wang氏は、これらの寄与度について「データの質と量が最も重要であり、次にアーキテクチャ、そして事前知識の順」と評価するが、特に未見のコンテクストへの一般化において、事前知識が重要な役割を果たすと述べている。
一般化の実証:未見の細胞種と実験への挑戦
X-Cellの真価は、学習データに含まれない「未見の(unseen)」コンテクストに対する予測性能で発揮される。チームは、この一般化能力を検証するために複数の厳格なテストを設計した。その一つが、休止状態のT細胞(resting T cell)で学習したモデルに、活性化状態のT細胞(activated T cell)における全遺伝子摂動の影響を予測させるという課題である。線形ベースラインは、休止状態での摂動効果をそのまま活性化状態に線形に足し合わせるだけだが、X-CellはT細胞受容体(TCR)複合体の既知の生物学を正確に予測しただけでなく、新規のT細胞不活性化因子を正しく同定した。
さらに、多細胞種分化実験(iPSCから10種類の細胞種への分化)では、特定の1細胞種を学習データから意図的に除外した。X-Cellは、残りの9細胞種と他の全データセットで学習した後、除外した細胞種における数千の遺伝子、数千の摂動に対して高精度な予測を達成した。これは、モデルが細胞種の違いを超えた普遍的な遺伝子制御ネットワークの知識を獲得していることを示唆する。
最も印象的なのは、細胞株(cell line)で学習したモデルが、実際のヒトドナーから採取した初代T細胞(primary T cell)の実験結果を予測できた点である。Alex Marson研究室が発表した初代T細胞のPerturb-seqデータに対して、X-Cellは単一のT細胞株での学習のみで、複数のドナーにわたる初代細胞の応答を正確に予測した。Chu氏は「これは理論全体の検証だ」と述べ、細胞株という「少し奇妙な細胞」で学習しても、ドメインを十分にカバーしていれば、実際の人間の細胞に一般化できることを示した。これらの結果は、バーチャルセルモデルの究極の目標である「実験が困難または不可能な複雑な生物学的システム(動物、オルガノイド、最終的には患者)への一般化」への第一歩として位置づけられる。
線形ベースラインを超えて:因果推論のための正しいデータと評価指標
AI for Scienceの分野では、複雑な深層学習モデルが単純な線形モデルを凌駕できないという「線形ベースライン問題」が長年議論されてきた。Wang氏は、この問題の原因を「評価指標とデータセットの不適切さ」に求める。従来のベンチマークで使われてきた公開データセットはサンプル数が少なく、評価指標として平均絶対誤差(MAE)を用いる場合、単に全細胞の平均発現プロファイルを予測するだけでも、技術的反復実験間の誤差よりも低いMAEを達成できてしまう。つまり、MAEは摂動予測の質を測る指標として不適切なのである。
X-Cellの論文では、より厳格な指標として「Pearson delta」を採用している。これは、摂動前後の遺伝子発現変化量(delta)の予測値と実測値の間のピアソン相関係数であり、モデルが「変化」をどれだけ正確に捉えているかを直接評価する。Chu氏は、この指標で評価した際の「Wowモーメント」を語る。線形ベースライン、X-Cellの予測、そして実際の実験データ(ground truth)を並べたヒートマップを視覚的に比較したとき、X-Cellの予測が線形モデルよりもはるかにground truthに近いことが一目で明らかだったという。
この性能差の背景には、データの質と量の違いがある。X-Cellは7つのゲノムワイド摂動キャンペーンを統合して学習している。このデータから、生物学者はすぐに、一部の摂動は細胞種を超えて普遍的な効果を持つ(ハウスキーピング遺伝子など)一方で、他の摂動は特定の細胞種でのみ特異的な機能を示すことを発見した。例えば、iPSC(人工多能性幹細胞)では神経分化に関わる発生関連遺伝子のみが活性化する。このような「文脈普遍的効果」と「文脈依存的効果」の両方を学習するには、非線形な深層学習モデルが本質的に適しており、X-Cellはその能力を最大限に引き出せるだけのデータを手に入れたのである。
アカデミアと産業の役割:オープンサイエンスと人材育成の未来
Wang氏は、アカデミアと産業の間で加速するリソース格差について率直に語る。自身はXairaに80%の時間を割く一方、大学のラボではエージェンティックAIを駆使して日々のペーパーを監視し、週次のラボミーティングで議論している。それでも「AIのペースは信じられないほど速く、朝起きると不安を感じる」と認める。学生はGPUの数で研究室を選ぶ時代になり、多くの教授が産業界に流出している現状を憂慮する。
しかしWang氏は、アカデミアの存在意義を強く主張する。その根拠は「アカデミック・フリーダム」にある。教育を通じて知識を更新し続けるプロセスは、予期せぬイノベーションを生む。また、カナダの大学のように、規制上の理由で産業界がアクセスしにくい医療データへのアクセス権を持つ場合もある。Chu氏もこれに同意し、CRISPRやシングルセルRNA-seqといった基盤技術の多くがアカデミアで発明されたことを指摘。産業界はそのスケールアップとロバスト化に優れるが、基礎的な発見のプロセスは「偶然性が高く、純粋な産業には適さない」と述べる。
Xairaは、このエコシステムを促進するために、X-AtlasデータセットとX-Cellモデルをオープンソースとして公開している。Wang氏は「バーチャルセルはまだ初期段階の分野であり、データやモデルを秘匿するのは得策ではない」と語る。タンパク質構造予測の分野でPDBデータベースとAlphaFoldのオープンソース化が爆発的な進歩を生んだように、バーチャルセル分野でもコミュニティ全体でデータとアイデアを共有することが、分野全体の加速につながるとの信念に基づく。最後に、アカデミアの学生に対しては「エージェンティックAIの時代だからこそ、プロジェクトに対する『味覚(taste)』を磨くことが重要だ」と強調。単にトークンを消費するのではなく、正しい研究の方向性を見極める能力こそが、人間の研究者に残された最も重要な役割だと示唆した。
結びに
本エピソードは、AI創薬という壮大なビジョンを、データ生成からモデルアーキテクチャ、評価指標、そして産業とアカデミアのエコシステムに至るまで、極めて具体的かつ誠実に語った点で貴重である。特に印象的なのは、Xairaのチームが「因果推論には因果データが必要」という原理に立ち返り、そのために数十億円規模の投資を伴う大規模実験を自ら実行した点だ。単に公開データセットでモデルを訓練するだけでは決して到達できない「一般化」の壁を、自らデータを生成することで突破したというストーリーは、AI for Scienceの分野における一つの理想的なアプローチを示している。また、線形ベースライン問題に対する「データと指標の問題である」という明確な診断と、拡散モデルへのアーキテクチャ転換、多様な事前知識の統合といった技術的な意思決定のプロセスは、AIエンジニアにとって多くの示唆に富む。このエピソードがリスナーに残すのは、「データの情報量」こそがAIモデルの性能を決定づける最も重要な要素であり、そのデータを自ら作り出すための工学的な執念とリソースの投入が、真のブレークスルーを生むという確信である。
あわせて読む
同じ番組の別エピソードや、近いテーマの記事から続けて読めます。





