AIにセンスがない理由とその改善方法（w/ Thais Castello Branco）| E2319

AIモデルは博士課程レベルの数学問題を解き、アプリを数分でコーディングできるのに、なぜデザインやツイートはどれも同じような「スロップ（凡庸な量産品）」になってしまうのか。この根本的な疑問に切り込んだのが、Taste Labs創業者Thais Castello Branco（タイス・カステロ・ブランコ）だ。彼女は主観的な領域におけるAIの限界を指摘し、それを克服するために1,850万ドルのシード資金を調達した。同社のアプローチは、有償の「TasteMaker」コミュニティによる人間の選好データを活用し、フロンティアモデルの美的感覚を向上させるというものだ。ホストのJason Calacanis（ジェイソン・カラカニス）とLon（ロン）は、この哲学的なテーマについて深く掘り下げ、AI時代における「キュレーター階級」の運命や、テイストの商品化がもたらす文化的影響について議論を交わした。

エピソードの後半では、話題はニュース解説へと移る。25歳のLeopold Aschenbrenner（レオポルド・アッシェンブレナー）が率いるAIヘッジファンドの大規模な損失、Google EarthへのAI画像生成機能「Nano Banana」の統合による偽情報リスク、LinkedInやSubstackによるAIスロップ対策など、スタートアップとテクノロジー業界の最新動向が次々と取り上げられた。さらに、スペイン領セウタでの移民危機に対するVCたちの過剰な反応、自動運転ゴルフカートの登場、ロボットアームによる太陽光パネル設置など、多岐にわたるトピックが議論された。ホストたちの強い意見と鋭い分析が光る、情報量の多いエピソードとなっている。

5:23AIにテイストが欠如している理由とTaste Labsの解決策

Taste Labsの創業者Thais Castello Brancoは、AIモデルが主観的なタスクで「平均への回帰」を起こす理由を明確に説明する。数学やコーディングのような客観的な領域では、モデルは「最も可能性の高い正解」を導き出すように訓練されている。しかし、優れたデザインや文章は、平均ではなく「分布の外側」にあるユニークなものであることが多い。だからこそ、AIが生成するものはどれも似たり寄ったりの凡庸なものになってしまうのだという。さらに、異なるプロンプトを与えても出力が同じように見える問題も指摘し、パーソナライゼーションの欠如が根本的な課題だと述べた。

この問題に対するTaste Labsの解決策は、二段構えのアプローチだ。第一に、フロンティアラボと協力してモデルのベンチマークと評価を行い、どこで失敗するかを特定する。第二に、アプリケーションレイヤーの企業向けに、出力品質を向上させるためのツールとAPIを提供する。特に重要なのが、約1,000人からなる「TasteMaker」コミュニティの存在だ。彼らはデザイン、メディアタイプ、スタイルなど異なる専門分野を持つ有償の人間キュレーターであり、時給50ドルから100ドルでAIの出力を評価・批評する。Jasonはこの仕組みを「データラベリング企業」と比較したが、Castello Brancoは自社を単なるデータ提供企業ではなく、エージェント向けのインフラとAPIを構築する企業だと位置づけた。

Jasonは、AIがテイストを商品化することで、キュレーションの希少性が失われるという哲学的な懸念を提起した。しかしCastello Brancoは、まずは品質の底上げが先決であり、その後にパーソナライゼーションの問題に取り組むべきだと反論する。彼女は「量産が進めば進むほど、最高峰の価値は高まる」と主張し、AIによってテイストメーカーの価値が下がるどころか、むしろ高まるとの見解を示した。実際に彼女のコミュニティでは、AIスロップへの嫌悪と問題解決への好奇心から参加するメンバーが多いという。

24:40Jasonの「クールハンター」システムとキュレーター階級の未来

Jasonは自身が開発した「クールハンター」プロンプトの詳細を初めて公開した。Monocle誌を含む約15の情報源をAthenaアシスタントに集約させ、シンガポールのホテル選びに活用した事例を紹介。その結果、シンガポールの「アーティザン」ホテルという、通常の検索では見つからないであろうサイバーパンク風のジャングルホテルを発見できたという。彼は毎週、トレンドレポートを生成するこのシステムを「スーパーメガプロンプト」と呼び、その有効性を実証した。

この話題から、かつて存在した「キュレーター階級」の衰退について議論が展開された。Jasonは映画評論家のJanet Maslin（ジャネット・マスリン）やPauline Kael（ポーリーン・ケイル）、Roger Ebert（ロジャー・イーバート）らを例に挙げ、新聞や雑誌の衰退とともに彼らの役割が失われたと指摘する。Lonも自身の経験から、メディアで文化批評家として働いていた知人たちが皆、仕事を見つけるのに苦労していると認めた。しかし、この失われた機能をAIやソーシャルメディアが完全に代替できているわけではないというのが二人の共通認識だ。

Castello Brancoは、このキュレーター階級の衰退はAIとは無関係に起こった現象だと指摘する。しかし、AIの登場によって状況はさらに複雑化している。彼女は「テイストメーカーはAIによって不要になるどころか、より価値が高まる」と主張する。量産されるコンテンツが増えれば増えるほど、真に優れたものの価値が際立つからだ。Taste Labsでは、この考えに基づき、テイストメーカーとの新しい協業モデルを模索している。彼らのデザインを「デザインインデックス」に貢献してもらい、AIの出力にクレジットを与える仕組みや、株式報酬の可能性も検討中だという。

37:36シチュエーション・アウェアネス欠如：25歳の天才投資家の挫折

話題は、Leopold Aschenbrennerが率いるAI特化ヘッジファンドの崩壊に移る。彼は2024年にファンドを設立し、わずか数ヶ月で運用資産が450億ドルにまで成長。6月30日時点での純収益率は439%に達していた。しかし、レバレッジを多用したポジションが裏目に出て、Goldman SachsやBank of Americaからのマージンコールに対応できず、公開株式ポートフォリオをKen Griffin（ケン・グリフィン）のCitadelに売却せざるを得なくなった。ただし、Anthropicの株式50億ドルを含む非公開投資は引き続き保有している。

Jasonはこの状況を「銀行の取り付け騒ぎ」に例え、ウォール街の容赦ない力学を解説した。レバレッジポジションを持つ投資家が窮地に陥ると、他の投資家たちはそのポジションを売り浴びせ、さらに空売りを仕掛けて価格を下落させる。そして、弱ったところで資産を買い叩くというのが常套手段だという。AschenbrennerはLP宛ての書簡で「今月は皆さんを失望させた。恒久的な資本毀損に許容できないほど近づいた」と認め、全責任を取った。

Jasonは、この出来事に対する過剰なまでの「シャーデンフロイデ（他人の不幸を喜ぶ感情）」を懸念した。彼は「このような公の場での大失敗は、若者を心理的に打ちのめす可能性がある」と述べ、Aschenbrennerを擁護する立場を取った。一方で、レバレッジを4倍に膨らませるという行為自体が、経験不足による「若気の至り」だったことも認めている。しかし、彼は「この若者はAnthropicの株式を50億ドル分保有している。打ちのめされても、より強くなって戻ってくるだろう」と予測した。

50:54Google EarthのNano Banana統合とAIスロップ規制の波

GoogleがAI画像生成機能「Nano Banana」をGoogle Earthに統合したというニュースに対し、ホストたちは強い懸念を示した。この機能を使えば、ユーザーはプロンプトを入力するだけで、Google Earth上の画像を自由に改変できる。実際に、Henk van Essという研究者が、米メキシコ国境沿いに偽の難民キャンプを生成したり、ガザに偽の病院と爆弾クレーターを生成したりする例が紹介された。Jasonは「偽情報を生み出す可能性は計り知れない」と警鐘を鳴らす一方で、都市計画や建築など実用的な用途もあると指摘した。

この問題の本質について、Jasonは「Googleの社内で『AIを何にでも振りかけろ』という圧力が働いている」と分析する。Gmail、Google Flights、Google Localなど、あらゆる製品にAIを統合しようとする動きの一環として、Google EarthにもAIが追加されたというわけだ。しかし、このような無計画なAI統合は、誤情報の拡散という深刻なリスクを生む。Lonは「ZuckerbergがInstagramで同様の機能を提供していないのは、そのリスクを理解しているからだ」と指摘した。

一方で、AIスロップへの対策も進んでいる。LinkedInは「AIで投稿を強化」ボタンを廃止し、AI生成コンテンツを報告する機能を追加した。SubstackもAI対策ツールを導入し、Chris Best CEOは「SubstackをLinkedInのようにはしたくない」と明言した。Jasonはさらに踏み込んだ提案を行い、AI生成の可能性が高い投稿はフィードで非表示にする「シャドウバン」を推奨した。彼は自身の経験から、Instagramでサメの動画を探すとAI生成の偽物ばかりが表示され、YouTubeでも甥っ子のために電車の動画を探すと偽のアニメーションばかりが出てくると、AIスロップが日常的な体験を損なっていると訴えた。

57:54セウタ移民危機とVCの過剰反応、自動運転の未来

スペイン領セウタでの移民危機について、ホストたちはVCコミュニティの過剰な反応を批判した。セウタはモロッコ北端に位置するスペイン領の小さな都市で、人口は85,000人。そこに今年に入って60,000人もの移民が押し寄せているという。国境フェンスは突破され、約18人の移民が死亡したと報告されている。この危機的状況に対して、多くのVCがソーシャルメディアで意見を述べているが、Jasonは「VCが移民問題について何度もツイートするのは、投資家としての資質を疑う」と痛烈に批判した。

Lonは、この移民の動きが「ソーシャルメディアで組織化された可能性」を指摘し、Jasonはさらに踏み込んで「CIAなどの諜報機関が関与している可能性」に言及した。しかし、NPRの報道によれば、移民たちの動機は経済的困難が主であり、明確な引き金となる出来事は特定されていないという。Jasonは「VCはすべてのニュースにコメントする必要はない。1回のツイートで十分だ」と述べ、過剰な発言を戒めた。

話題は自動運転技術へと移る。スタンフォード大学のコンピュータサイエンス卒業生であるEthan Goodheartが、カメラとビジョンモデルのみを使用した自動運転ゴルフカートを開発した。この「Wind」というアプリは、スタンフォードキャンパス内で自動運転ゴルフカートの乗車サービスを提供するもので、Sam Altman（サム・アルトマン）やAndrej Karpathy（アンドレイ・カルパシー）、Jensen Huang（ジェンセン・フアン）らがベータテスターとして試乗している。Jasonは「学生が自分たちで自動運転車を組み立てられる時代になった」と、技術のコモディティ化を強調した。

しかし、Jasonは自動運転技術の普及に伴う社会的な摩擦を予見している。中国がBaiduの事故を受けて自動運転車の新規許可を凍結したのは、安全性の問題ではなく「雇用保護」のためだと指摘。米国でもWaymoに対する反感が高まっていると述べた。彼は「自動運転企業は、影響を受けるドライバーへの補償を考慮すべきだ」と提案し、1台あたり年間1万ドル程度の補償金を支払うことで、技術導入への社会的合意を得られる可能性を示唆した。

1:09:53ロボットによる太陽光パネル設置とエネルギー問題の解決

サンフランシスコのロボティクス企業Grittが、太陽光パネルの設置を自動化するロボットシステムを公開した。このシステムは、市販の川崎重工業製ロボットアームにAIを組み合わせ、ユーティリティ規模の太陽光パネルの荷降ろしから設置位置への運搬までを自動化する。ただし、パネルを固定する精密な作業は人間が行う必要があり、人間とロボットの協働が前提となっている。Jasonは「工場でパネルを製造し、そのままロボットが設置するシステムが完成すれば、砂漠地帯での大規模太陽光発電所の建設が飛躍的に進む」と将来像を描いた。

この話題から、エネルギー問題の解決可能性について楽観的な議論が展開された。カリフォルニア州では、太陽光とバッテリーによる発電が全エネルギーの51%に達している。さらに、カリフォルニア州の灌漑用水路に太陽光パネルを設置する「Project Nexus」プロジェクトが紹介された。この取り組みは、発電と同時に水の蒸発を70%削減するという一石二鳥の効果をもたらす。Jasonは「エネルギーを解決すれば水も解決できる。エネルギーと水を解決すれば農業も解決できる」と、技術による問題解決の連鎖を強調した。

Jasonは「AIの暗黒面ばかりが注目されるが、こうした明るいニュースにも目を向けるべきだ」と述べ、エピソードを締めくくった。彼は「This Week in Hope（今週の希望）」と称し、技術がもたらすポジティブな可能性に焦点を当てた。太陽光発電の普及によるエネルギー問題の解決、ロボットによる労働力不足の解消、AIによる生産性向上など、明るい未来像を提示した。ただし、これらの技術が社会に受け入れられるためには、雇用への影響を考慮した政策や補償制度が必要だという現実的な視点も忘れなかった。

結びに

このエピソードの核心は、AIが「客観的な知能」では驚異的な進歩を遂げた一方で、「主観的なテイスト」という人間らしさの本質的な部分で依然として課題を抱えているという認識だ。Taste Labsの試みは、このギャップを埋めるための野心的な挑戦であり、人間のキュレーターをAIトレーニングに活用するという逆説的なアプローチは、AI時代における人間の役割を再定義するものと言える。JasonとLonの議論は、テイストの商品化がもたらす文化的リスクから、AIスロップによる情報環境の悪化、自動運転による雇用破壊まで、AIが社会に与える影響の多面性を浮き彫りにした。

特に印象的だったのは、Jasonが繰り返し強調した「AIは万能ではない」という認識だ。博士レベルの数学を解けるモデルが、なぜ良いツイートを書けないのか。この問いは、AIの本質的な限界と、人間の感性の価値を再確認させるものだった。また、セウタ危機に対するVCの過剰反応を批判する場面では、テクノロジー業界の「何でもコメントしたがる」風潮に対する痛烈な批判が展開された。技術の進歩と社会的受容のバランスをどう取るかという、現代の最も重要な問いの一つを考えさせられるエピソードだった。