先看 Opus 4.7 的升級和難駕馭之處,再拆解黃仁勳反對全面禁售 GPU 的兩個論點,以及哈利為何認為現行禁令強度剛好。
重點
Opus 4.7 小幅進步、要換寫法。哈利推測它和 4.6 用同一個 5 兆參數的底座,加上後訓練,也可能用了 Mythos 蒸餾。能處理的圖片大了三倍,GDPval 拿到榜首;但它會很字面地執行 prompt,舊的模糊寫法會燒更多 token、結果還更差。
好工程師與壞工程師的差距。哈利認為 AI 讓所有人的生產力都提高,高手提高得更多,所以差距會拉大。他也認為資工仍有出路,但該學的是軟體工程的基礎觀念,而不是背語法。
黃仁勳的兩個論點。一是持續賣 GPU 可以把中國鎖在 NVIDIA 生態系裡;二是 Mythos 只用了普通的算力,賣不賣 GPU 中國都做得出來。黃仁勳同意只賣削弱版、晚一代才賣,反對的是一顆都不賣。
哈利的結論和黃仁勳一致。持續賣削弱版 GPU、延遲一代、控制總量。他舉 DeepSeek V4 延後、中國算力只占全球 5%,說明禁令有效;但他不同意 Mythos 是普通算力。
哈利改觀的一點。他原本接近 Dwarkesh,認為模型可攜性很強;現在推論成為主要算力需求,模型架構會開始為硬體做最佳化,生態系鎖定因此成立。
禁令只是爭取時間。哈利認為鎖定最多幾年,長期鎖不住中國,禁令只能拖慢;但在 AI 進展這麼快的時候,拖一年也有意義。
時間軸 點時碼從那一段開始
- 台股第七大市值台股成了全球第七大股市,網路上一片捧台股踩美股。哈利查到 GPT 爆發後三年,台股漲 200 多%、美股漲 83%。
- 基礎設施先漲以網際網路為例:資金先流向海底纜線、光纖、Cisco 這類設備商,最後價值落在 Google、Amazon、Meta。他認為台股是 AI 供應鏈,先受惠,最大的價值之後會出在美股。
- 本集兩個話題哈利說現在每集都得聊 Anthropic,產品推出速度快到像以小時計;Claude Design 讓 Figma 跌了 7% 還是 8%。第二個話題是黃仁勳在 Dwarkesh 訪談中談晶片禁令,哈利不認為他動怒,但少見這麼激動。
- Opus 4.7 的底座哈利判斷 4.7 非常高機率和 4.6 同為 5 兆參數底座,Sonnet 是 1 兆、Mythos 可能 10 兆以上。差別在更多後訓練,也可能用了 Mythos 蒸餾。多數基準略高,Agentic Search 與資安幾乎沒進步。
- 圖片理解變強能處理的圖片比之前大三倍。操作電腦靠看截圖,寫程式時也常截圖標註,所以這項對實際工作很重要。
- GDPval 拿下第一GDPval 的題目是白領工作的實際專案,用 Elo 分數評比。Artificial Analysis 的結果是 Opus 4.7 得 1753 分,超過原本榜首 GPT-5.4 的 1674 分,哈利說差距不大但統計上顯著。
- Gemini 掉到第二梯隊Gemini 3.1 Pro 在 GDPval 只有 1314 分。哈利認為長時間任務與寫程式是最重要的兩項能力,Google 落後就建不起資料飛輪;他排的 Tier 1 是 GPT 與 Claude,Google 掉到 T2,xAI 與 Meta 是 T3。
- Codex 與 Claude Code個人開發者心中的排名輪流換,近一兩個月是 Codex 較強;企業端過去一年都是 Anthropic 贏。哈利認為 OpenAI 輸在公司面,不是模型。他自己做前端,仍覺得 Claude 比 GPT 好一點。
- 更好但更難駕馭4.7 會字面、嚴格地執行 prompt,不再替使用者猜意思。模糊的指令會讓它想很久、燒更多 token,結果還可能更差;Anthropic 的意思是系統提示與 harness 都得重新調整。
- 凡人與高手差距哈利用 1 對 10 變成 10 對 100 的算式說明:全體提升 10 倍,差距從 9 變成 90。真正的好工程師知道要什麼,也能精準溝通。
- 資工該學什麼語法兩天學基本的就好;該學的是前後端、HTTPS、API、資料怎麼流動,能畫出整個 full stack。他說學校與線上學習平台的傳統教材都已經過時。
- 晶片禁令背景2022 年起由拜登政府實施,目的是拖慢中國的 AI 進展。範圍包括 GPU、ASML 的 EUV 設備與半導體人才;GPU 只能賣削弱版,主要削弱的是 GPU 之間的互聯頻寬。
- 正反兩方與 Mythos有人主張管更嚴,激進的一方(例如 Anthropic 執行長 Dario Amodei)主張一顆都不賣;黃仁勳則希望放寬。Mythos 證明模型能造成重大資安威脅,正是禁令當初想防的,議題因此重新被炒熱。
- 黃仁勳的立場哈利先說明黃仁勳是從 NVIDIA 的利益出發。黃仁勳同意只賣削弱版、晚一代賣;哈利說現在賣到中國的還是 Hopper,美國公司已在用 Blackwell,等削弱版 Blackwell(B30)賣到中國時,美國又要換 Vera Rubin。他反對的是全面禁售,認為那對美國是更大的國安威脅。
- 論點一:生態系鎖定黃仁勳認為持續賣 GPU 能讓中國依賴 NVIDIA,必要時可以停止支援。哈利補上反方的質疑:中國反正會建自己的生態系,何必在這段期間幫它加速。黃仁勳的回應是模型與硬體的綁定會越來越深,換一種硬體就跑不了那麼好。
- 論點二:普通算力黃仁勳說 Mythos 是用 mundane compute 訓練的:中國有大量便宜能源,國產晶片的能源效率若只有 NVIDIA 的三分之一,就用三倍的數量;全球 50% 的 AI 研究員是中國人,也能從架構與演算法補強效率。
- 哈利:禁令有效哈利的結論和黃仁勳一致:賣削弱版、晚一代、總量稍微控制,不必大改。證據是 DeepSeek V3 之後遲遲沒有 V4,且只有 1 兆參數;Epoch AI 估中國全部 AI 公司的算力只占全球 5%,走私品不計。
- Mythos 算不算普通算力哈利上週估訓練 Mythos 要約 10 萬到 15 萬顆 B200,有 VC 分析師的估算跟他差不多。他不同意黃仁勳的說法:預訓練省不下多少 flops,華為整套系統效率又輸 NVIDIA,因此他認為一年內中國訓練不出 Mythos 等級的模型。
- 哈利改觀:架構綁硬體他原本接近 Dwarkesh,認為模型可攜性強,差別只在 serving 與 kernel。現在算力從訓練轉向推論,要壓低 tokens per watt per dollar 就得選邊站,所以他同意黃仁勳的生態系鎖定。
- 銅線與光互連NVIDIA 用銅線加 NVLink 與 Switch,中國走光互連、類似 TPU 的拓撲,瓶頸不同,模型架構也會跟著調整。這段哈利參考了 Gavin Baker 的貼文。中國 AI lab 多用一顆 NVIDIA,就少用一顆國產,會拖慢國產晶片的學習曲線。
- 只能拖延,鎖不住哈利補充黃仁勳與 Gavin Baker 沒特別講的一點:禁令只是拖延。中國的慣用手法是先引進、養起國內供應鏈、再靠法規與補貼趕走外商,EV 就是如此。華為的 CANN 把 CUDA 程式轉到華為硬體,NVIDIA 停止支援時模型也能搬過去。
- 結語:買一年時間哪怕只拖慢一年也很有意義,因為 AI 進展太快,一年的硬體差距會放大成更大的實力差距。哈利說自己是 NVIDIA 的奈米股東,但中美 AI 競賽是更重要的議題。
值得記的話
▶ 26:10「Opus 4.7 對於好工程師來說是好消息,對於壞工程師來說是壞消息」
▶ 28:08「他提升一般人的生產力很多,但是他提升高手的生產力更多」
▶ 58:07「中國的 AI lab 每多用一顆 NVIDIA 的 GPU 他就是少用一顆國內的 GPU」
▶ 1:00:07「長遠來看,中國是鎖不住的,完全鎖不住他們」
▶ 1:02:20「哪怕只是拖慢個一年其實都是非常有意義的」
名詞與人物
- Claude Opus 4.7
- Anthropic 最新一代模型,哈利推測與 4.6 同為 5 兆參數底座,會更字面地執行指令。
- Mythos
- Anthropic 的更大模型,哈利估約 10 兆參數以上,證明模型已能造成重大資安威脅。
- GDPval
- 以白領工作實際專案評比模型的基準測試,用 Elo 分數排名,哈利認為最接近衡量 Digital AGI。
- 晶片禁令
- 美國從 2022 年起管制對中國出售先進晶片、設備與人才,GPU 只能賣削弱版。
- 黃仁勳
- NVIDIA 執行長,在 Dwarkesh 的訪談中為持續賣 GPU 到中國辯護。
- Dario Amodei
- Anthropic 執行長,哈利舉為主張一顆 GPU 都不賣的代表。
- Dwarkesh
- 訪問黃仁勳的 podcast 主持人;哈利說自己原本的想法接近他。
- ecosystem lock-in
- 黃仁勳的第一個論點:持續賣 GPU,中國就持續依賴 NVIDIA 生態系。
- 華為昇騰
- 華為的國產 AI 晶片;哈利說單顆與整套系統的能源效率都輸 NVIDIA。
- CANN
- 華為對標 CUDA 的軟體層,把 CUDA 程式轉到華為硬體上跑。
- Epoch AI
- 獨立 AI 研究機構,估中國全部 AI 公司的算力只占全球 5%。
- Gavin Baker
- 矽谷投資人,哈利參考他的貼文說明中美 AI 硬體路線的分歧。
延伸
- 上週的集數聊過 Anthropic 的 Mythos 與中國多久能做出同等級模型,本集的晶片禁令是接續那個話題。
- GDPval 在 EP118(講 GPT-5.2 的那集)介紹過。