EP 4752025-07-232:28:14 ROUND 2
Hassabis 談模擬世界與智能邊界
Demis Hassabis
Google DeepMind 的 Demis Hassabis 談 AlphaFold 到 Veo 背後的直覺,也談 AGI 何時會到、風險在哪裡。
Demis Hassabis: Future of AI, Simulating Reality, Physics and Video Games | Lex Fridman Podcast #475在 YouTube 看 ↗
重點6 條
- 能被演化塑造的東西,才學得會建模:Hassabis 從 Nobel 演講的猜想切入,主張只要是被演化這類「存活機制」篩選過的系統,就存在能被學會的結構,AlphaFold、AlphaGo 都是證據;他也把 P versus NP 重新框成「宇宙是不是一個資訊系統」的物理問題。
- Veo 3 讓他重新想「理解」是什麼:這個影片生成模型只靠看影片就抓到液體、材質、光線的物理直覺,推翻了他原本認為要有身體去互動才學得會物理常識的假設;下一步是把生成影片變成能走進去的互動世界模型。
- 研究品味比技術能力更難學:他認為分辨好問題、好假設的「品味」,是現有系統最欠缺的能力;好的研究即使實驗失敗,只要問題問對了、把假設空間切成兩半,一樣算有收穫,這也是他判斷 AGI(估計五年內五成機會)的重點——要能力全面一致,還要出現像 Move 37 那樣的創見時刻。
- Gemini 從落後到反超,靠的是研究文化:一年前 Gemini 1.5 還在落後,他形容自己即使帶著一家巨型公司,還是想辦法用新創公司的決斷力運作,持續對抗拖慢速度的官僚;產品設計上,他堅持要替一年後的模型能力設計介面,而不是替今天。
- 這波衝擊會是工業革命的十倍大、十倍快:程式與數學因為容易產生可驗證的合成資料,反而最早被 AI 大幅提升,頂尖工程師會更強,但價值會從容易生成的工作轉往架構設計這類更高階的判斷;他呼籲經濟學家與政治學家現在就要開始想像類似全民基本供給的制度。
- 談風險,他不給 P(doom) 數字,但也不假裝沒事:他認為比起 AI 本身失控,更該擔心的是壞人拿這技術做壞事;比起各國走向 AI 版曼哈頓計畫的軍備競賽,他更希望看到像 CERN 那樣的跨國合作。
時間軸26 段
Nobel 演講的猜想:只要是被演化篩選過的系統,就存在能被學會的結構,AlphaFold、AlphaGo 都是證據。
他把 P versus NP 重新框成「宇宙是不是一個資訊系統」的問題,也聊到哪些系統(混沌、突現現象)可能還學不來。
Veo 只靠看影片就抓到液體、材質、光線的物理直覺,讓他重新質疑「一定要有身體互動才懂物理」的舊理論。
網友調侃 Google 什麼時候把 Veo 做成能玩的世界,他認同這是下一步:從生成影片延伸到能互動、走進去的世界模型。
真正的開放世界要讓玩家每個選擇都實質改變模擬結果,不是幻覺式分支;也談到遊戲產業當年怎麼帶動圖形晶片與運算進步。
用大型語言模型提案、演化演算法篩選,是「模型加搜尋」的代表;關鍵是能不能演化出資料裡原本沒有的全新能力。
分辨好問題、好假設的「品味」是現有系統最欠缺的能力;好的研究即使實驗失敗,問題問對了一樣算有收穫。
AlphaFold 解決了蛋白質靜態結構,他的長期夢想是先模擬一顆完整的酵母菌細胞,多數實驗先在虛擬世界搜尋答案。
他認為生命與非生命之間其實是連續光譜,不是明確界線,樂觀看待用搜尋原始化學湯的方式理解生命如何出現。
估計未來五年內有五成機會出現 AGI,判準是能力要「全面一致」,不能像現在的系統有些領域強、有些地方有破綻。
除了用大量認知任務測一致性,他更在意有沒有出現像愛因斯坦提出相對論那樣的創見時刻,才是真正的突破訊號。
Alpha Evolve 這類系統擅長持續的小幅改良,但能不能自己提出像 Transformer 架構那樣的躍進,他認為還是未知數。
預訓練、後訓練、推論時間三個維度都還有成長空間;押注的是研究深度而不只是規模,資料量也不是他擔心的瓶頸。
訓練與推論都需要龐大算力,他把解決能源問題(核融合、更有效率的太陽能)跟資源不再零和之後少了衝突動機連在一起講。
Gemini 從 1.5 版落後到 2.5 版反超,靠的是整合研究文化、持續對抗大公司裡自然長出來的官僚;也談到 AI 已悄悄進到完全不懂這件事的一般人生活裡。
做產品要預判模型一年後的能力,而不是只服務今天;也期待聊天框之外更自然、甚至由 AI 生成個人化介面的互動方式。
新版號背後是約六個月一輪的「hero run」,打包最新架構與訓練點子重新訓練,再蒸餾出 Pro、Flash、Flashlight。
不把 AGI 競賽看成「贏」,而是幾個領先團隊共同承擔安全把關的責任;也因此努力跟其他實驗室的領導者維持合作關係。
面對高薪挖角,他認為真正相信 AGI 使命的人留在前沿是為了影響技術怎麼走;也提到資源不再稀缺後「錢」本身都得重新想過。
程式與數學因為容易產生可驗證的合成資料,反而最早被 AI 大幅提升;價值會從容易生成的工作轉往架構設計這類更高階判斷。
談到以馮紐曼為原型的小說《瘋子》,他認為馮紐曼早就預見電腦與學習系統的走向;也主張理性之外還需要人文向度來引導這麼強大的技術。
希望各國別把 AGI 競賽演成軍備競賽,更期待看到類似 CERN 那種跨國合作研究的模式,也提到東西方人員交流有助避免對立。
拒絕給出精確的末日機率,只承認風險「不算低」;被問到更擔心人還是 AI 本身,他傾向擔心人——是壞人拿技術做壞事。
提到李世乭對戰 AlphaGo 那步震驚棋壇的一手,延伸討論等 AI 越來越強之後,人類還剩下什麼獨特之處。
跟 Roger Penrose 討論意識是不是量子現象,他傾向認為意識可能只是古典計算的產物,也談同理一個不同運算基底的 AI 有多難。
相信人腦近乎無限的可塑性,以及人類從狩獵採集適應到現代生活的驚人彈性,是他對未來保持樂觀的理由。