EP 4942026-03-232:25:58
Jensen Huang 談 NVIDIA 的賭注與人性
Jensen Huang
Jensen Huang 談 NVIDIA 從 CUDA 賭注到 AI 工廠的十年布局,也聊他怎麼面對巨大壓力與死亡。
Jensen Huang: NVIDIA - The $4 Trillion Company & the AI Revolution | Lex Fridman Podcast #494在 YouTube 看 ↗
重點5 條
- 極致協同設計:NVIDIA 現在把 GPU、CPU、記憶體、網路、散熱到整座資料中心當一個系統一起設計,因為單一顆 GPU 已經裝不下現在的問題規模。Jensen Huang 的 60 位直屬主管沒有一對一會議,遇到問題全員一起討論。
- CUDA 是賭上公司的決定:為了讓開發者用 CUDA,NVIDIA 把它硬塞進消費級顯卡 GeForce,毛利被吃掉一半,公司市值一度從近 80 億美元掉到 15 億美元。他認為裝機量才是架構的一切,技術好壞是其次。
- 四種 scaling law:預訓練吃資料、後訓練靠大量合成資料、推理本質是「思考」而非「閱讀」所以運算量不會變小、agent 則會自己生出更多 subagent 去做事,四者會不斷循環放大。
- 供應鏈是提前十年的說服工程:他要說服台積電、SK 海力士等夥伴,把原本只用在超級電腦的 HBM 記憶體提前好幾年投資成資料中心主流規格,靠的是關係與攤開推理過程,不是合約。
- 壓力、死亡與人性:他談到怎麼把問題拆解、講給別人聽來分攤巨大壓力,也談到不做接班人計畫、隨時把知識傳給團隊,以及為什麼他認為晶片不會緊張,人性才是真正稀缺的東西。
時間軸24 段
NVIDIA 把 GPU、CPU、記憶體、網路、散熱到整座資料中心當一個系統設計,因為單一顆 GPU 已經裝不下現在的問題規模;Jensen Huang 的 60 位直屬主管沒有一對一會議,遇到問題全員一起討論。
為了推廣 CUDA,NVIDIA 把它硬塞進消費級顯卡 GeForce,毛利被吃掉一半,公司市值一度從近 80 億美元掉到 15 億美元,靠的信念是「裝機量才是架構的一切」。
Jensen Huang 先用推理說服自己相信某個未來會發生,再花很長時間鋪墊,讓管理層、董事會、員工在他正式宣布前就已經有共識,而不是空降新方向。
預訓練靠資料量、後訓練靠大量合成資料、推理本質是「思考」而非「閱讀」因此運算量不會變小、agent 則會自己生更多 subagent 去做事,四者會形成一個持續放大的循環。
新一代 Vera Rubin 機櫃是為了讓 agent 存取工具與檔案系統而設計,這個架構藍圖兩年前就畫好了;資安則用「存取敏感資訊、執行程式碼、對外通訊」三權限一次只給兩種的原則設計。
運算擴張的瓶頸不只是電力總量,更重要的是把每瓦能處理的 token 數持續提高,過去十年靠極致協同設計把運算力放大了一百萬倍,遠超摩爾定律預期的一百倍。
Jensen Huang 多年前就要說服台積電、SK 海力士等夥伴,把原本只用在超級電腦的 HBM 記憶體、甚至手機用的低功耗記憶體,提前投資成資料中心的主流規格,靠的是關係與攤開推理,不是合約。
電網平常只用到六成尖峰容量,卻要為極端天氣預留全部餘裕;他主張資料中心該接受「電力吃緊時自動降速」,把閒置電力讓出來,而不是要求電網保證百分之百不斷電。
談到 Elon Musk 四個月蓋好 Colossus 超級電腦的做法,Jensen Huang 歸納出「質疑一切是否必要」的系統思考,以及自己 30 年來用的「光速思維」:先算出物理極限,再從零重新設計。
一整個 Vera Rubin pod 包含 40 個機櫃、超過 1100 顆 Rubin GPU、約 1.2 千兆顆電晶體,他強調複雜度要「必要時才複雜,能簡單就簡單」。
全球一半 AI 研究者是中國人、各省市互相競爭催生大量新創、家人朋友同校情誼濃厚讓知識流通快,加上國家從貧窮起家使多數領導人是工程師出身,共同造就創新速度最快的國家。
開源模型能讓 NVIDIA 更早看懂 AI 架構怎麼演化、幫助沒有能力自建模型的產業與國家加入 AI 浪潮,也因為未來 AI 會需要生物、化學等非語言型態的專業模型。
他認為台積電真正的優勢不只是技術,而是能同時服務幾百家客戶隨時變動的訂單、還維持高良率與準時交貨;2013 年張忠謀曾邀他接任台積電執行長,他因放不下 NVIDIA 而婉拒。
就算有人做出技術更好的替代品也無妨,因為 CUDA 真正的優勢是裝機量與開發者對「NVIDIA 會一直維護下去」的信任,這是四萬多名員工、數百萬開發者多年累積出來的。
他對「一個運算單位」的想像,已經從一顆晶片、一台電腦、一個叢集,變成一整座 AI 工廠;也簡短提到把運算搬到太空解決散熱與能源問題的可能性。
運算正從「檢索式」(找出已寫好的檔案)轉向「生成式」(即時產生內容),需要遠比過去多的運算量;加上電腦從「倉庫」變成能直接賺錢的「工廠」,他相信這會讓 NVIDIA 規模遠超現在。
他形容 OpenClaw 是史上成長最快的應用,也半開玩笑說自己現在的 AI 助理會不斷回報進度、追著問下一步要做什麼,而不是使用者主動去問它。
面對整個國家經濟都繫在自己身上的壓力,他把問題拆到最小、把擔心的事講給別人聽分攤壓力;也提到創業路上多次心理低谷,靠「選擇性遺忘」與對自己嚴格繼續往前走。
GeForce 至今仍是 NVIDIA 最重要的行銷手法,很多人從小玩遊戲就認識這個品牌;針對玩家質疑 DLSS 5「讓畫面像 AI slop」的爭議,他解釋這技術以美術原本設定的幾何與材質為準,不會憑空改變畫面內容。他心目中最具影響力的遊戲是 Doom,最愛的則是可以無限模組化重玩的 Skyrim。
若把 AGI 定義成「能自己創業並做到十億美元營收的 AI」,他認為現在已經達成,因為現在的 agent 已經能自己做出短命但能賺到錢的網路服務;但他也承認多數這類新創最終還是會失敗。
他用放射科醫師為例:電腦視覺在 2019、2020 年就已超越人類,但放射科醫師人數反而增加,因為醫院能看更多病人;程式設計的定義正在變成「寫規格」,懂得跟 AI 溝通規格的人會更值錢。
他不認為晶片會有真正的主觀感受,例如緊張、恐懼、失去至親的痛,這些是人性獨有的部分;他也說自己認為「智能其實是一種商品」,人與人真正的差異在性格與韌性,不在智能高低。
他坦言自己不想死,但接受這是「只有自己在經歷、別人經歷過的事」;他不做接班人計畫,理由是與其規劃誰接班,不如把知識隨時傳給團隊,理想的結局是工作到最後一刻且沒有痛苦。
他相信人類的善意與慷慨會一直被證實是對的,也認為治好疾病、大幅減少污染、甚至短距離的「光速旅行」都是合理的期待;結尾他提到想把自己一生的資訊上傳,未來送到機器人身上延續下去。