← 回到天際線 思考機器第 18 層 / 102

EP 2992022-07-012:10:39

Hassabis 談棋局、蛋白質與意識邊界

Demis Hassabis

DeepMind 的 Demis Hassabis 談 AlphaFold 解開蛋白質摺疊,也聊意識、外星人與 AI 該不該只是工具。

Demis Hassabis: DeepMind - AI, Superintelligence & the Future of Humanity | Lex Fridman Podcast #299在 YouTube 看 ↗

重點6 條

  1. 通用性比單一測試更重要:他認為圖靈測試當初只是一場思想實驗,不夠嚴謹;更好的做法是讓 AI 在成千上萬種任務上都測到人類水準,DeepMind 當時展示的通用智能體 Gato 就是這個方向的嘗試。
  2. 遊戲是他一路走來的三重身分:小時候下棋、少年時寫遊戲 AI(《Theme Park》賣了數百萬套)、創立 DeepMind 後又把遊戲當成訓練與驗證 AI 演算法最有效率的場域,AlphaGo 到 MuZero 一路拿掉人類知識,最後連遊戲規則都讓系統自己學。
  3. AlphaFold 解開了 50 年沒人破的難題:蛋白質摺疊問題 1972 年就被諾貝爾得主點名,過去一個蛋白質結構要花一個博士生整個博士生涯才能做出來,AlphaFold 用超過 30 種元件拼起來的系統幾秒鐘就能預測,開源後一年就有超過 50 萬名生物學家用過。
  4. 研究野心從核融合到虛擬細胞:電漿控制、材料科學的電子行為模擬、還有打造一顆完整虛擬細胞的長期夢想,都是他覺得 AI 能加速的科學難題;MuJoCo 跟 AlphaFold 選擇開源,理由是下游應用太多,自己根本想不完。
  5. 意識與智能可以脫鉤,AI 暫時只該是工具:他認為狗可能有意識但不特別聰明,AlphaGo 很聰明但大概沒有一絲意識;面對已經有人相信語言模型有情感這件事,他主張在還搞不懂之前,AI 應該先當工具,而且最終不該屬於任何一個人或公司。
  6. 他覺得人類很可能是宇宙裡孤獨的存在:如果宇宙裡真的到處都是文明,證據應該早就滿天都是;面對自己可能握有超級智能的份量,他說靠維持謙卑跟找一群夠有道德感的人共事來提醒自己。

時間軸25 段

01 00:51
圖靈測試退場

他認為圖靈測試當初只是一場思想實驗,不夠嚴謹;更好的做法是讓 AI 在成千上萬種任務上都測到人類水準,DeepMind 當時的通用智能體 Gato 就是這個方向的嘗試。

02 08:14
少年愛上寫程式

4 歲開始下棋,8 歲用比賽獎金買了第一台電腦 ZX Spectrum,從書店買程式書自學,從此迷上寫程式跟做遊戲。

03 14:09
遊戲曾是 AI 試驗場

12 歲寫出第一個 AI 程式(黑白棋),16、17 歲設計出賣了數百萬套的《Theme Park》;他認為 90 年代遊戲業才是 AI 與運算最前沿的地方,DeepMind 創立時也把遊戲當成訓練與驗證 AI 演算法最有效率的場域。

04 19:03
打破棋局不可能論

西洋棋、圍棋都曾被斷言 AI 做不到;他形容深藍贏了 Kasparov 卻連圈叉遊戲都不會,AlphaGo 的意義在於「通用」與「自己學」,而不只是贏。

05 22:53
主教騎士創意張力

從遊戲設計師角度分析,主教與騎士能力迥異卻等值,這種不對稱平衡是西洋棋歷久不衰的秘密;他也把 AI 創造力分成內插、外插與真正發明三個層次,Move 37 就是外插的代表。

06 30:10
資訊是宇宙的根本

他不太相信我們活在別人丟棄的模擬裡,但認為用資訊而不是物質或能量去理解物理,可能才是更根本的方式。

07 32:21
跟彭羅斯辯意識

他站在「圖靈的擁護者」這邊,認為經典運算就足以解釋大腦運作,目前主流神經科學也沒找到腦中有量子效應的證據。

08 37:18
蛋白質摺疊難題

從 Anfinsen 1972 年諾貝爾演講的猜想講起,胺基酸序列怎麼摺成立體結構決定了蛋白質的功能;過去做出一個蛋白質結構要花一個博士生整個博士生涯。

09 44:59
AlphaFold 怎麼解

訓練資料只有 15 萬個已知結構的蛋白質,靠自我蒸餾等技巧擴充;AlphaFold 2 改成端對端直接輸出 3D 結構,比先算距離矩陣再優化的舊做法更準。

10 48:28
AlphaGo 到 MuZero

AlphaGo 先靠人類棋譜起步,AlphaGo Zero 拿掉人類知識,AlphaZero 能玩任何雙人賽局,MuZero 連規則都不用先給、自己學。

11 51:05
解出智能靠什麼

回顧 2010 年創立 DeepMind 時 AI 還冷門到沒人要提,靠深度學習、強化學習,加上共同創辦人 Shane 跟著指導教授 Marcus Hutter 研究的通用智能理論,三條線交會才有信心走下去。

12 58:08
打造新貝爾實驗室

DeepMind 從神經科學跟機器學習的交會起家,後來加入哲學家、倫理學家跟物理學家,他形容目標是打造一個新時代、黃金時期的貝爾實驗室。

13 1:03:24
為何開源兩大系統

物理模擬引擎 MuJoCo 是買下來就是為了開源;AlphaFold 則是因為下游應用太多自己想不完,開源一年內就有超過 50 萬名生物學家用過。

14 1:07:28
AI 能拿諾貝爾獎嗎

他認為現在的系統還是工具,就像伽利略的望遠鏡;除非有一天 AI 能像提出相對論那樣自己想出全新的猜想,而不只是從資料裡內插,才算真正夠格。

15 1:13:09
用 AI 控制電漿核融合

跟瑞士 EPFL 合作,用強化學習取代傳統手工控制器控制電漿形狀,論文發表在《Nature》,創下維持特定電漿形狀最久的紀錄。

16 1:17:21
模擬電子解材料難題

嘗試學出更準確的密度泛函,逼近薛丁格方程式描述電子雲的行為;資料來源是閒置雲端算力跑出來的分子動力學模擬。

17 1:23:20
生命起源與知識樹

他把人類已知的一切比喻成一棵樹,覺得 AI 能加速探索這棵樹,也很想搞懂生命怎麼從一鍋化學湯裡冒出來。

18 1:28:43
外星人在哪裡

他認為人類很可能是宇宙裡孤獨的存在,如果真的到處都是文明,應該早就滿天都是戴森球一類的證據;多細胞生命的演化可能才是最難跨過的一關。

19 1:36:41
人類智能怎麼開始的

主持人提出幾個假說:用火煮食、部落合作,還有人類學家 Richard Wrangham 的說法——早期人類或許是聯合推翻獨裁的「阿爾法雄性」才學會合作;Hassabis 認為這些都是合理的候選答案,特別認同部落合作與語言的角色;大腦很耗能,演化上要划算,通常得一路跳到人類等級的智能才夠格。

20 1:39:32
意識智能可脫鉤

他認為意識與智能可以分開存在:狗可能有意識但不特別聰明,AlphaGo 很聰明卻大概沒有一絲意識;他主張現階段有選擇的話,AI 該先當工具就好。

21 1:42:58
LaMDA 與擬人化

談到有工程師相信語言模型有情感的事件,他認為現在的系統連一絲意識的影子都沒有,人類容易把能力投射成人格,這種事只會愈來愈常見。

22 1:53:13
面對權力保持謙卑

被問到會不會擔心自己就是被權力腐化的那個人,他說靠維持謙卑、跨領域學習跟找一群夠有道德感的人共事來提醒自己;也認為 AI 最終該屬於全人類,不是任何一個人或公司。

23 1:57:42
給年輕人的建議

鼓勵年輕時盡量嘗試不同領域找到真正的熱情,同時搞懂自己什麼時候最能發揮、怎麼處理壓力;他自己是夜貓子,晚上 10 點後才是真正深度思考、寫論文的「第二個工作天」。

24 2:05:53
理解宇宙

他認為活著的目的就是理解宇宙,這呼應古希臘人把求知當成一種美德的想法。

25 2:07:53
如果能問 AGI 一個問題

被問到如果能對 AGI 只問一個問題,他說會問「現實真正的本質是什麼」,也想像 AGI 得先重新教一遍物理,才有辦法真的解釋清楚。