EP 442019-10-112:24:31
從預測到理解：Watson 之後的追問
David Ferrucci
打造 Watson 打敗 Jeopardy 冠軍的他，細談智慧離不開解釋與說服，以及現在想蓋的「框架型」AI。
David Ferrucci: IBM Watson, Jeopardy & Deep Conversations with AI | Lex Fridman Podcast #44在 YouTube 看 ↗
重點6 條
- 智慧要拆成兩層看：Ferrucci 認為智慧至少包含兩層，一層是能不能準確預測（用越少資料、越快做到越厲害），另一層是能不能把自己怎麼得出答案解釋給別人聽，讓對方也跟著理解、認同；他認為後面這層，人類自己也常常做不到。
- 理解是社會性的，意義是相對的：他主張「說服」本身就是理解的核心——數學證明也要等到夠多數學家接受了才算成立；「意義」也不是作品裡固定不變的東西，同一幅畫、同一段文字，經驗不同的人會讀出不同意思。
- 「框架」是這集反覆出現的核心概念：他把人類共享的知識分成兩層，一層是具體的事實與經驗，另一層是用來詮釋這些事實的「框架」（例如社會互動裡誰有什麼目標、誰有多少影響力）；他認為框架的種類其實有限，機器如果能學到框架，就能用人類聽得懂的方式解釋自己的答案。
- 打造 Watson 是純工程，不是在研究人腦：他刻意不找想模仿人類認知的人加入 Jeopardy 專案，只求方法有效；團隊對每個問題平行搜尋出上千個候選答案，交給上百種各自獨立研究的評分器打分，再用機器學習把所有分數整合成單一排名，讓各元件可以分頭研究、不必弄懂彼此在做什麼。
- 人類答題其實跟 Watson 沒有想像中不同：他後來聽 Ken Jennings 談自己怎麼答題才發現，頂尖選手同樣是快速抓關鍵字、憑直覺篩選，不是深思熟慮的過程；這讓他重新想過，Watson 跟人類智慧的距離沒有一開始以為的那麼遠。
- 下一步：能不能讓機器證明「我們真的互相理解」：他現在在 Elemental Cognition 想做的測驗比圖靈測試更嚴格——不是騙過人類評審，而是機器要能跟人持續對話、彼此追問，直到雙方確認想法站得住腳；他也提到父親一次被醫院用純統計數字判定「腦死」的經歷，讓他更堅信有些個案需要邏輯推理，不能只看統計。
時間軸29 段
Lex 問生物智慧與電腦智慧有沒有本質差異，Ferrucci 認為從能實現的能力來看，兩者未必有根本不同，差別更多在於實作方式。
他把智慧拆成兩層：一是能不能準確預測（用越少資料、越快做到越厲害）；二是能不能把推論過程解釋給別人聽，讓對方也理解、認同。
他認為連數學證明也要等數學家社群被說服才算成立；理解最終是社會性的，你得讓夠多人覺得你的推理合理、能跟上、能重做。
從推薦演算法談到「情感操縱」：機器只是照使用者過去點擊的特徵投其所好，不涉及對內容意義的判斷；他也談到「意義」是相對的，同一件作品，經驗不同的人會讀出不同意思。
他提出「框架」（framework）：人類靠一套共享的詮釋架構（有哪些人、各有什麼目標、資源稀缺、誰有多少影響力）才能互相理解；他認為框架的種類有限，是可以被機器學到的。
用「東西放手就會掉到地上」為例，說明人不必能解釋原理，看夠多例子就會學到這種規律；機器要做到同樣的事，得同時具備從資料歸納模式，以及把模式連回抽象框架的能力。
一套系統可能在某些事上做得比人好，卻沒辦法把自己的框架解釋給人聽；他把這種狀態形容成一種「外星智慧」——強，但無法溝通，而他自己感興趣的是能跟人溝通的那種。
Lex 舉 Tesla Autopilot 的接手時刻為例，他同意那正是人機互動的時刻，電腦會從人的修正裡學習；他自己舉的是女兒讀電力課文卻答不出「為什麼」的例子，說明光是答對不等於理解框架。
他解釋 Jeopardy 是「事實型問題」的節目，但題目常用委婉、雙關的方式出題，選手得先看懂問題在問什麼，再判斷自己知不知道答案，整個過程要在極短時間內完成。
IBM 內部因為快到 Deep Blue 打敗西洋棋世界冠軍十週年，想找下一個能吸引大眾目光的挑戰；高層從 2004 年起四處找人接手做一套能打 Jeopardy 的系統，被問到的人都怕賭上 IBM 和自己的名聲而拒絕，直到 2006 年底他說可以做，才拍板動工。
他們過去做的問答系統只處理少數幾種答案類型；Jeopardy 的類型上萬、長尾很長，只顧最常見的幾種根本不夠，得另想辦法。
團隊被要求做一台不連網路、自己裝得下所有知識的機器；光靠網頁搜尋，正確答案落在前十到二十筆結果裡的機率大約六成五，離比賽需要的準確率還差一大截。
Watson 用了兩三千顆共享記憶體、彼此互連的處理器核心，把整理過的知識預先分析、索引後全部放進記憶體，不用讀硬碟。
拆成問題分析、平行搜尋出上千段候選段落、從段落裡挑出上千個候選答案，再交給上百種各自獨立研究的評分器一一打分。
團隊分頭做各自的元件研究，不必弄懂彼此在做什麼，最後統一用機器學習把所有分數加權整合成單一排名，這種分工方式是專案能推進的關鍵。
回頭看整個 Jeopardy 專案，他最自豪的不是打贏比賽，而是團隊忠於科學方法、不怕失敗的態度；他也擔心外界看不出這是成功，因為勝負只看一場比賽。
他後來跟 Ken Jennings 聊過才發現，頂尖人類選手答題時同樣是快速抓關鍵字、憑直覺篩選，不是深思熟慮的過程，跟 Watson 的做法未必差那麼遠。
他現在的公司想做的不是問答系統，而是能跟人類共享理解、可以對話討論的機器；他認為這比單純問答難得多，因為要能持續互動、追問，確認雙方真的理解一致。
他認為幽默有一部分可以被形式化（例如雙關語的結構），但人對機器產生情感連結，更多是因為人會把情緒反應投射到會做出類似表情、語氣的東西上，不代表機器真的「懂」。
他認為機器在很多方面會成為比人更好的預測者，真正難的是跟人溝通、更深地理解人；他把只會模仿情緒反應與語氣、講得頭頭是道卻經不起追問的系統稱作「超級鸚鵡」。
他認為 AlphaZero 讓機器自我對弈生出訓練資料的做法很了不起，但也點出隨之而來的難題：當系統的決策沒辦法解釋，該不該讓它去做醫療診斷、判刑這類需要負責的決定。
醫院曾用純統計數字判斷他父親腦死，他堅持要更具體的個案證據，大約一天後，父親已經坐起來了；他從中得到的教訓是，模型不夠可靠時，不該用統計平均取代個案的邏輯推理。
他認為下一個值得追求的挑戰，是機器能不能透過持續對話，讓人確信彼此真的有共享的理解，而不只是模仿得像。
談到 Watson 有沒有「意識」，他認為這個問題本身要先問清楚「意識到什麼」，人跟人的差別在於各自意識到的東西不同。
Lex 認為人會死這件事塑造了動機；他則認為求生目標寫進程式很簡單，例如叫機器人「保護自己的電源」，知道有多簡單就不會因此覺得它有智慧，把求生當成智慧的標記是人的偏見。
被問到什麼時候會有通用人工智慧，他說很難預測，勉強估大概二十年左右，不會到幾百年；快慢要看社會願意投入多少資源與誘因，而且連要做的是什麼都還說不清楚。
他認為人類的身體本身就在持續產生情緒、感受這類「輸入」，如果想做出真正跟人相容的智慧，身體的角色可能是必要的一部分。
他不特別擔心 AI 本身，而是擔心「槓桿」被濫用——機器能大規模、精準地放大操縱人的能力，就像社群媒體上已經在發生的事。
被問到如果真的做出能對話的 AGI，會想問它什麼，他說自己不用只選一個問題，而是想像能就任何主題持續討論、彼此驗證、一起找到答案。