← 回到天際線 思考機器第 60 層 / 102

EP 4942026-03-232:25:58

Jensen Huang 談 NVIDIA 的賭注與人性

Jensen Huang

Jensen Huang 談 NVIDIA 從 CUDA 賭注到 AI 工廠的十年布局,也聊他怎麼面對巨大壓力與死亡。

Jensen Huang: NVIDIA - The $4 Trillion Company & the AI Revolution | Lex Fridman Podcast #494在 YouTube 看 ↗

重點5 條

  1. 極致協同設計:NVIDIA 現在把 GPU、CPU、記憶體、網路、散熱到整座資料中心當一個系統一起設計,因為單一顆 GPU 已經裝不下現在的問題規模。Jensen Huang 的 60 位直屬主管沒有一對一會議,遇到問題全員一起討論。
  2. CUDA 是賭上公司的決定:為了讓開發者用 CUDA,NVIDIA 把它硬塞進消費級顯卡 GeForce,毛利被吃掉一半,公司市值一度從近 80 億美元掉到 15 億美元。他認為裝機量才是架構的一切,技術好壞是其次。
  3. 四種 scaling law:預訓練吃資料、後訓練靠大量合成資料、推理本質是「思考」而非「閱讀」所以運算量不會變小、agent 則會自己生出更多 subagent 去做事,四者會不斷循環放大。
  4. 供應鏈是提前十年的說服工程:他要說服台積電、SK 海力士等夥伴,把原本只用在超級電腦的 HBM 記憶體提前好幾年投資成資料中心主流規格,靠的是關係與攤開推理過程,不是合約。
  5. 壓力、死亡與人性:他談到怎麼把問題拆解、講給別人聽來分攤巨大壓力,也談到不做接班人計畫、隨時把知識傳給團隊,以及為什麼他認為晶片不會緊張,人性才是真正稀缺的東西。

時間軸24 段

01 00:17
極致協同設計

NVIDIA 把 GPU、CPU、記憶體、網路、散熱到整座資料中心當一個系統設計,因為單一顆 GPU 已經裝不下現在的問題規模;Jensen Huang 的 60 位直屬主管沒有一對一會議,遇到問題全員一起討論。

02 09:06
押注 CUDA

為了推廣 CUDA,NVIDIA 把它硬塞進消費級顯卡 GeForce,毛利被吃掉一半,公司市值一度從近 80 億美元掉到 15 億美元,靠的信念是「裝機量才是架構的一切」。

03 16:48
決策心法

Jensen Huang 先用推理說服自己相信某個未來會發生,再花很長時間鋪墊,讓管理層、董事會、員工在他正式宣布前就已經有共識,而不是空降新方向。

04 22:42
四種 Scaling Law

預訓練靠資料量、後訓練靠大量合成資料、推理本質是「思考」而非「閱讀」因此運算量不會變小、agent 則會自己生更多 subagent 去做事,四者會形成一個持續放大的循環。

05 32:15
機櫃與資安

新一代 Vera Rubin 機櫃是為了讓 agent 存取工具與檔案系統而設計,這個架構藍圖兩年前就畫好了;資安則用「存取敏感資訊、執行程式碼、對外通訊」三權限一次只給兩種的原則設計。

06 37:53
電力與效能

運算擴張的瓶頸不只是電力總量,更重要的是把每瓦能處理的 token 數持續提高,過去十年靠極致協同設計把運算力放大了一百萬倍,遠超摩爾定律預期的一百倍。

07 39:16
供應鏈說服工程

Jensen Huang 多年前就要說服台積電、SK 海力士等夥伴,把原本只用在超級電腦的 HBM 記憶體、甚至手機用的低功耗記憶體,提前投資成資料中心的主流規格,靠的是關係與攤開推理,不是合約。

08 47:24
電網優雅降載

電網平常只用到六成尖峰容量,卻要為極端天氣預留全部餘裕;他主張資料中心該接受「電力吃緊時自動降速」,把閒置電力讓出來,而不是要求電網保證百分之百不斷電。

09 52:48
第一性原理

談到 Elon Musk 四個月蓋好 Colossus 超級電腦的做法,Jensen Huang 歸納出「質疑一切是否必要」的系統思考,以及自己 30 年來用的「光速思維」:先算出物理極限,再從零重新設計。

10 59:30
Pod 的規模

一整個 Vera Rubin pod 包含 40 個機櫃、超過 1100 顆 Rubin GPU、約 1.2 千兆顆電晶體,他強調複雜度要「必要時才複雜,能簡單就簡單」。

11 1:01:41
中國科技業

全球一半 AI 研究者是中國人、各省市互相競爭催生大量新創、家人朋友同校情誼濃厚讓知識流通快,加上國家從貧窮起家使多數領導人是工程師出身,共同造就創新速度最快的國家。

12 1:05:43
開源三理由

開源模型能讓 NVIDIA 更早看懂 AI 架構怎麼演化、幫助沒有能力自建模型的產業與國家加入 AI 浪潮,也因為未來 AI 會需要生物、化學等非語言型態的專業模型。

13 1:09:42
台積電的信任

他認為台積電真正的優勢不只是技術,而是能同時服務幾百家客戶隨時變動的訂單、還維持高良率與準時交貨;2013 年張忠謀曾邀他接任台積電執行長,他因放不下 NVIDIA 而婉拒。

14 1:15:08
CUDA 護城河

就算有人做出技術更好的替代品也無妨,因為 CUDA 真正的優勢是裝機量與開發者對「NVIDIA 會一直維護下去」的信任,這是四萬多名員工、數百萬開發者多年累積出來的。

15 1:19:11
AI 工廠

他對「一個運算單位」的想像,已經從一顆晶片、一台電腦、一個叢集,變成一整座 AI 工廠;也簡短提到把運算搬到太空解決散熱與能源問題的可能性。

16 1:24:41
十兆美元估值

運算正從「檢索式」(找出已寫好的檔案)轉向「生成式」(即時產生內容),需要遠比過去多的運算量;加上電腦從「倉庫」變成能直接賺錢的「工廠」,他相信這會讓 NVIDIA 規模遠超現在。

17 1:33:05
OpenClaw 爆紅

他形容 OpenClaw 是史上成長最快的應用,也半開玩笑說自己現在的 AI 助理會不斷回報進度、追著問下一步要做什麼,而不是使用者主動去問它。

18 1:35:10
壓力與韌性

面對整個國家經濟都繫在自己身上的壓力,他把問題拆到最小、把擔心的事講給別人聽分攤壓力;也提到創業路上多次心理低谷,靠「選擇性遺忘」與對自己嚴格繼續往前走。

19 1:48:32
GeForce 與 DLSS 5

GeForce 至今仍是 NVIDIA 最重要的行銷手法,很多人從小玩遊戲就認識這個品牌;針對玩家質疑 DLSS 5「讓畫面像 AI slop」的爭議,他解釋這技術以美術原本設定的幾何與材質為準,不會憑空改變畫面內容。他心目中最具影響力的遊戲是 Doom,最愛的則是可以無限模組化重玩的 Skyrim。

20 1:55:10
AGI 定義之爭

若把 AGI 定義成「能自己創業並做到十億美元營收的 AI」,他認為現在已經達成,因為現在的 agent 已經能自己做出短命但能賺到錢的網路服務;但他也承認多數這類新創最終還是會失敗。

21 1:58:29
工作與工具

他用放射科醫師為例:電腦視覺在 2019、2020 年就已超越人類,但放射科醫師人數反而增加,因為醫院能看更多病人;程式設計的定義正在變成「寫規格」,懂得跟 AI 溝通規格的人會更值錢。

22 2:11:02
晶片會緊張嗎

他不認為晶片會有真正的主觀感受,例如緊張、恐懼、失去至親的痛,這些是人性獨有的部分;他也說自己認為「智能其實是一種商品」,人與人真正的差異在性格與韌性,不在智能高低。

23 2:17:36
死亡與接班

他坦言自己不想死,但接受這是「只有自己在經歷、別人經歷過的事」;他不做接班人計畫,理由是與其規劃誰接班,不如把知識隨時傳給團隊,理想的結局是工作到最後一刻且沒有痛苦。

24 2:20:48
對人類的樂觀

他相信人類的善意與慷慨會一直被證實是對的,也認為治好疾病、大幅減少污染、甚至短距離的「光速旅行」都是合理的期待;結尾他提到想把自己一生的資訊上傳,未來送到機器人身上延續下去。