Judea Pearl 談因果革命與反事實推理

回顧被 Descartes 解析幾何迷住的少年時代，以及在以色列跟著從德國逃難來的老師學數學、扎實的工程與物理背景。

談宇宙在底層是不是隨機的、量子力學只解釋微觀現象；他認為自由意志是幻覺，AI 研究者終將把它解出來，變成一台看起來擁有自由意志的機器。

說明機率是主體對世界不確定性的度量，相關之所以出現背後一定有因果在支撐；再用兩枚硬幣加一個鈴的例子說明，以第三個變數為條件就能憑空造出相關，並挖苦統計學家碰到辛普森悖論只會說「早知道」。

Lex 舉自己做的自駕車嗜睡研究，Pearl 指出沒辦法控制變數時只能從相關去推論因果，這個問題已經很老；他還拿但以理拒吃國王御膳、改吃素的實驗，說這個研究問題有兩千年歷史。

Lex 把深度神經網路形容成條件機率估計器，Pearl 同意；要建因果網路，得先問哪個變數聽誰的，這種假設來自理論而非資料本身。

說明因果知識的建立要先問清楚「研究問題是什麼」，再去收資料、量化參數；流行病學與經濟學的做法就是把少數幾個關鍵變數的因果圖畫出來，再用資料補上細節。

他先說由果推因（頭痛好了是不是阿斯匹靈的功勞）比由因推果難；要回答「吃這個藥會怎樣」，得先把問題寫成數學，do 運算子就是為這個設計的，把「介入去改變一個變數」跟「單純觀察它」分開。

用血壓與死亡率的例子說明，就算沒辦法真的動手術改變一個人的血壓，可以在模型裡只動這個變數來模擬介入；但能不能從觀察資料算出來，要看因果圖夠不夠清楚，箭頭畫得越多越難。他也批評經濟學家為了算得出來，放進現實裡不成立的「辨識性假設」。

區分介入與反事實：光說「吃阿斯匹靈會讓頭痛消失」還不是解釋，要能回答「如果沒吃阿斯匹靈頭痛會不會好」才算，這種反事實推理正是責任與悔恨的根源。

追問「學習」這個詞本身，指出要先確認給機器所有知識後它能不能做出推理，再談嬰兒怎麼靠著在遊戲中操弄玩具，搭配父母引導跟同儕經驗學會因果模型。

從二十個變數要跳到兩千萬個變數，他認為答案是靠隱喻——把陌生問題對應到熟悉的架構，例如古希臘人把大地想成龜殼，厄拉托斯特尼就靠這個隱喻量出地球半徑；西洋棋大師的判斷力也是同一種「存起來的答案」。

他稱過去三十年因果推論的進展是一場「因果革命」，可以把不同母群體、不同醫院的研究結果通用地推到一個沒被研究過的新族群身上。

澄清因果不只是時間先後的問題，而是結構加時間先後；用行刑隊的例子問「如果某個槍手拒絕開槍，囚犯還會不會死」，這種反事實問題人類一眼就能回答，機器卻需要一套演算法。

假設一台機器看了兩百場行刑的紀錄，它只看得到「開槍、沒開槍、死、沒死」這幾個事實，卻推不出「誰聽誰的」，也就答不出「如果某個槍手拒絕開槍會怎樣」；隨機出現的雜訊（例如槍手剛好生病）才能提供介入實驗的線索。

他認為機器智慧的終點是能處理反事實、遺憾、同理心、責任與自由意志；自由意志的圖靈測試還不存在，但機器之間如果能像人一樣用獎懲溝通、彼此究責，球隊表現可能因此變好。

主張因果推論是打造有道德機器的必要條件，因為機器要能同理、理解什麼對人是好的，等於要先在心裡建一個「你」的模型；他已經有自己的模型，把對方對應上去就好。他說自由意志就是手上有一份自己的藍圖，照鏡子時知道調整哪裡就會有不同表現；意識則是擁有一份自己軟體的藍圖。

坦言自己擔心 AI 是人類正在創造的新物種，它可能超越人類、還能自我繁衍，而人類唯一遇過類似的事只有演化本身；他直言自己的想像力有限，不知道該怎麼談這件事。

回顧自己在以色列服的 NAHAL 兵役——結合農業勞動與軍事訓練，以及戰後以色列人口從六十萬暴增到一百八十萬、卻沒有人挨餓、高等教育預算也沒被砍過的「奇蹟」。

Lex 問宗教對社會好不好，他把問題轉成要不要給機器人宗教信仰——他認為機器人會靠隱喻推理，只要有訓練者，就會把宇宙的一切都對應到那個訓練者身上，那就是神。至於這個隱喻對人類好不好，他說不確定，覺得大致有幫助，前提是記得那只是隱喻。

談兒子 Daniel Pearl 在巴基斯坦遭蓋達組織相關派系綁架、最後在鏡頭前被處決的經過；他說沒去留意那些藉口，只記得一開始要的是美國答應過的飛機，覺得那些要求都是編出來的，但也說自己其實不清楚。他接著說，我們並不理解有多少人從小就被教育去仇恨。

他說人只要被灌輸得夠久夠深，都可能變成 ISIS、納粹；也擔心受過西方教育的人在經濟危機之類的情境下會變得殘暴，說希望自己不會。Lex 提到他在 Daniel 死後七年於《華爾街日報》發表〈Daniel Pearl and the Normalization of Evil〉，他說那篇的訊息是社會不再把恐怖主義當成禁忌，而是當成被接受的談判籌碼。

被問到心裡是憤怒、悲傷還是希望，他說在巴基斯坦人裡也看到美好的人，但也看到邪惡在他身處的這個國家散播，民粹口號連最優秀的知識分子都能打動。接著在父親節回憶 Daniel：他有自己沒有的平衡感、沒那麼情緒化，看得到每個人的美好；一次在柏克萊遇到街友討錢，他往後退了兩英尺，Daniel 卻抱了對方、給了錢。

建議年輕研究者放心提問、用自己的方式去解決問題，不要等教授把事情想對才動手；他說自己寫《為什麼之書》就是想讓常識重新普及，鼓動學生反抗權威。

談到自己的學術遺產，他說墓誌銘已經刻好——反事實的基本定律，一個把反事實寫成模型手術的簡單方程式；只要後人懂了這條，他所有的知識都能靠數學推導出來，可以安心離開。