哈利拆解黃仁勳 CES 演講的兩件事：Vera Rubin 比 Blackwell 快 3 到 5 倍，靠的是哪三個做法；以及為什麼 Alpamayo 1 不能拿來跟特斯拉 FSD 比。
重點
Vera Rubin 的倍數不是晶片本身。NVIDIA 官方數字是推論比 Blackwell 強 5 倍、訓練強 3.5 倍，但電晶體數量只增加大概 60%。哈利說這中間靠的是三個 trick：NVFP4 的硬體優化、額外的 KV Cache 儲存、六張晶片一起設計。
NVFP4 是接近免費的午餐。把 DeepSeek R1 從 FP8 量化到 NVFP4，NVIDIA 自己的實驗是準確率掉不到 1%，記憶體省下差不多 1.8 倍。Rubin 把「判斷哪些 Tensor 可以降精度」燒進硬體電路，這部分是哈利根據黃仁勳的兩句描述做的推測。
記憶體才是新瓶頸。KV Cache 隨對話變長而變大，HBM 很容易被塞滿。Rubin 用 Bluefield 4 DPU 替每個 GPU 多接 16TB 記憶體放「溫資料」，同時能服務的使用者變多。
Alpamayo 1 只是 Reasoning Model。哈利把自駕拆成負責開車的 Driver Model（System 1）與從旁輔助的 Reasoning Model（System 2）。NVIDIA 這次只發表後者，所以拿它比 FSD 是拿橘子對蘋果。
車廠追不上特斯拉。Driver Model 沒有數據捷徑，合成資料贏不了真實路面資料。哈利認為馬斯克說 FSD 需要 100 億英里是有根據的，車廠短期內追不上，但 NVIDIA 不管誰贏都賣得到 GPU。
時間軸 點時碼從那一段開始
- CES 與樂高智慧積木哈利今年沒去成 CES，說去年逛兩天只逛了大概十分之一。今年他最有興趣的是會發光發聲的樂高智慧積木。
- 老黃的演講成了主場黃仁勳賣的是企業生意，卻成了 CES 焦點。哈利說他的講法很 marketing，技術細節常被帶過，所以今天先講 Vera Rubin 與 Alpamayo，再講馬斯克的訪談。
- Vera Rubin 與官方數字Vera 是 CPU、Rubin 是 GPU，這代兩個都更新。官方說推論強 5 倍、訓練強 3.5 倍，電晶體只多大概 60%。
- 第一招：NVFP4NVIDIA 自己開發的 4-bit 浮點數格式。照 NVIDIA 的實驗，DeepSeek R1 從 FP8 量化過去準確率下降不到 1%，記憶體省將近兩倍。Blackwell 去年就支援。
- 硬體加速的自適應壓縮Rubin 的差別是為 NVFP4 做最佳化。NVIDIA 沒公布細節，哈利推測是把「哪些 Tensor 能降精度」的判斷邏輯燒進 GPU 電路。
- 第二招：KV Cache 擴充記憶體被每位使用者的 KV Cache 塞滿。用 Bluefield 4 DPU 當額外記憶體，熱、溫、冷資料分三層放，GPU 可以多服務使用者。
- 第三招：Extreme co-designNVIDIA 賣的是整個機櫃的系統。六張晶片這一代從頭一起設計，不再各自開發再拼起來。
- 老黃還能炸幾次Blackwell 的 25 倍主要從 FP4 炸出來（H100 只到 FP8），這次降不到 FP2，只剩 3 到 5 倍。哈利認為再十倍沒問題，之後不要當成理所當然。
- Alpamayo 是什麼一整套自駕技術資源，包含基礎模型、simulation framework 與資料集。真正新的只有 Alpamayo 1 這個模型。
- Driver 與 Reasoning Model以 System 1、System 2 區分兩種模型。哈利說 FSD V13、V14.1 沒用 Reasoning Model，Alpamayo 1 不是 Driver Model，不能跟 FSD 比。
- Alpamayo 1 的架構VLA 模型，用阿里巴巴的 Qwen 3 多模態版本微調，輸出建議軌跡，再由類 diffusion 模型算出控制。哈利說這種架構跑不快，現階段當不了 Driver Model。
- NVIDIA 的安卓策略比照 Google 開源安卓拉高搜尋市占，NVIDIA 把自駕與機器人的模型與軟體全部開源，讓車廠上路後訓練、模擬、車上的 Jetson 都綁在 NVIDIA 生態系。
- 特斯拉有受到威脅嗎哈利說 Reasoning Model 不難做，Driver Model 才難訓練。特斯拉 V14.2 已經有 Reasoning Model，V14.3 會更多。
- 合成資料比不過真實資料沒有第三方路測，哈利猜 NVIDIA 沒有那麼強的 Driver Model。合成資料適合補 edge case，但贏不了真實路面資料。
- 馬斯克的 100 億英里馬斯克說 FSD 需要 100 億英里，已累積 70 億英里，今年七月底達成。特黑嗆他一直調高標準，哈利認為 scaling law 讓這個數字有根據。
- 車廠追不上特斯拉車廠要重建相機配置、資料與訓練 pipeline，成本也高。特斯拉現在重心在 AI5、AI6 晶片，哈利認為邊緣晶片 NVIDIA 比不上。
- 為什麼仍看好 NVIDIA不管車廠或特斯拉誰贏，都要買 NVIDIA 的 GPU。哈利認為華爾街低估 NVIDIA，馬斯克的訪談留到下一集。
值得記的話
▶ 12:07「這真的是全天下最接近免費的午餐的東西了」
▶ 30:35「大家不要把它當成理所當然我預測不了未來喔」
▶ 33:48「我覺得是不對等的，是拿橘子對蘋果」
▶ 47:12「你沒有捷徑你就真的需要用大量大量的數據去建立起一個這個模型」
▶ 50:33「這些合成資料無論如何都不可能會贏過真實路面收集的開車資料」
名詞與人物
- Vera Rubin
- NVIDIA 下一代運算平台，Vera 是 CPU、Rubin 是 GPU，這一代兩者同時更新。
- NVFP4
- NVIDIA 自己開發的 4-bit 浮點數格式，Blackwell 就已支援，Rubin 為它做硬體最佳化。
- KV Cache
- 模型回答時暫存之前所有 token 資訊的地方，隨對話變長而變大，會塞爆 GPU 記憶體。
- Bluefield 4 DPU
- 資料處理單元，Rubin 用它當 GPU 的額外記憶體來放溫資料。
- Extreme co-design
- 黃仁勳反覆強調的說法：六張晶片全部一起設計，為同一個目標優化。
- Alpamayo
- NVIDIA 的自駕技術平台，包含模型、simulation framework 與資料集；其中新的模型是 Alpamayo 1。
- Driver Model / Reasoning Model
- 前者負責開車（System 1），後者在特殊情況給建議或短暫接手（System 2）；Driver Model 是哈利自己取的名字。
- VLA
- Vision Language Action Model，從多模態語言模型微調出能輸出動作的模型。
- Hydra MDP
- NVIDIA 去年推出的 Driver Model，先輸出 Trajectory 再翻成控制。
- FSD
- 特斯拉的自動駕駛系統，哈利說它是完整的 Driver Model 搭配 Reasoning Model 輔助。
- 特黑
- 哈利對特斯拉黑粉的叫法，這集指嗆馬斯克一直調高里程標準的那群人。
延伸
- 哈利原本還要談馬斯克上 Peter Diamandis 的 Moonshot podcast 訪談，這集沒講到，預告放在下一集。
- 哈利說他對 Alpamayo 與特斯拉 FSD 的比較還有很多想法，這集先沒有展開。