AIの100倍はチップの速さからは来ない

この動画で扱われていること

Sequoia Capital の対談回。SemiAnalysis の創業者 Dylan Patel 氏が、AIの性能向上がどこから来るのかを論じます。

主張は明快です。AIにおける最大の進歩は、チップが速くなることからは生まれない。 モデル・カーネル・シリコンをまとめて最適化する「協調設計」から生まれる——と概要欄にあります。2倍ずつの改善を積み上げて100倍にするという考え方です。

「CUDAの堀は、実はCUDAの話ではなかった」

概要欄にこの一文があります。NVIDIAの優位性がソフトウェア資産（CUDA）にあるという通説に、別の見方を出しているようです。章立ての 35:48「CUDAの優位はどこから来ていたのか」がその節にあたります。

半導体とAIの関係を、投資判断の材料として見ている人には、ここが一番効くと思われます。

モデルの設計とハードウェアが結びついている

概要欄によると、OpenAIの疎なモデルとAnthropicの密なモデルが、異なるハードウェアに向かう理由が説明されています。DeepSeekの技術者がNVIDIA Hopper向けに育ったこと、TPUがHopper向けの実装を動かすのに苦労することにも触れているとのことです。

つまり「どのモデルが賢いか」ではなく、どのモデルがどのハードで安く動くかという視点です。推論コストが事業性を決める局面では、この見方のほうが実務的です。

70分あります

1時間10分と長く、前半は創業者の経歴です（1:58〜9:16）。技術と市場の議論に入るのは34:35以降なので、時間がなければそこから見るのが早いと思います。

英語レベルは3にしました。半導体とモデルアーキテクチャの専門用語が前提です。