康納曼談快思慢想與 AI 的極限

Lex 提起康納曼寫過的童年經歷：一名黨衛軍士兵抱起他、給他看一個男孩的照片，顯然沒發現他是猶太人。康納曼說回頭看，最大的意外是種族滅絕政策，而且有足夠多的人願意參與；艾希曼審判讓他看清：在德國能發生，在哪裡都能發生。

他不想稱之為邪惡，而是人性裡內團體與外團體的區分：對自己人忠誠、有感情，願意把外人去人性化，不再當人看。去人性化加上對別人擁有不受約束的權力，不會帶出人性慷慨的一面；而周圍所有人都在做，讓這件事變得「可以」。被問到戰爭是否也帶出人性美好的一面，他說戰爭確實帶出士兵之間的忠誠與情誼，一同冒險的友誼有一種特別的激動。

系統一負責不假思索的直覺與技能（像是西洋棋高手一眼看出好棋），系統二負責需要專注、消耗心力的推理；以棋手為例，好棋是系統一自動挑出來的，系統二負責驗證，他甚至認為系統一做它的事，比系統二做它的事高明得多。

他認為深度學習擅長模式匹配與預測，本質上更接近系統一，但缺乏推理與因果；AI 發展最讓他驚訝的是速度，從西洋棋到圍棋、從 AlphaGo 到 AlphaZero 都快得令人錯愕。他也引用 Gary Marcus 的觀察，指出小孩只要兩三個例子就能學會，現有模型卻需要大量資料。

Lex 轉述剛訪問過的 Yann LeCun：不必大改架構，神經網路也不會碰到極限，而且前面只看得見一兩座山頭。康納曼說自己站在多數人那邊，認為神經網路會碰到能力上限，也提到曾聽 LeCun 對 Demis Hassabis 說他們的成果沒什麼了不起。之後被問到打造人的心智有多難，他認為 LeCun「不知道還有幾座山」是很好的答案，Ray Kurzweil 的說法則讓他覺得很離譜；真正在做研究的人，像 Demis 與 LeCun，都相當務實。

翻譯系統輸出再流暢，也不代表它知道自己在說什麼；要讓文字有意義，AI 得跟世界有接觸。被問到機器需不需要身體，他說需要感知，身體有幫助，但不確定是必要的：全身癱瘓的人，大腦也能學到很多。

Lex 談到自己研究怎麼預測行人會不會過馬路。康納曼對此相當樂觀，因為所有車輛的資訊都匯進同一套龐大的系統，任何一台車學到的都會成為整個系統的知識；對話中也提到，目前的系統把行人當成不能撞到的東西，沒有當成會互相博弈的行動者。

康納曼提到自己過馬路遇到車子接近時會直視駕駛示意；Lex 則從自己研究行人的影片裡觀察到，人踏出去之後反而會撇開視線——康納曼解讀這是「我已經決定了」的博弈訊號。這讓他意外：他原以為避開行人只要會預測，不必有一套人的心智模型。

他認為只要機器強大到能真正幫上忙，人類多半很快就會變得多餘；以西洋棋為例，連卡斯帕洛夫當年說的「人機合作能打敗所有人」都已不成立，現在連 Stockfish 也不需要人類。

Lex 認為大家拿自己開車的經驗低估自駕車的難度；康納曼說自己的研究對理解情境的結構沒有貢獻，但指出圍棋雖然極複雜、限制卻很多，真實世界的限制少得多、意外多得多；早年大家以為推理難、感知容易，結果視覺才難，證明定理反而簡單。他同意大眾至今仍用自己做起來的難度衡量問題，也認為這要很久才改得過來；他還提到已有模型比法官更會預測假釋違規，但因為無法解釋自己的判斷，人還是不信任它。

康納曼指出人以為自己能說出信念的理由，但多數時候那些理由跟你為什麼相信沒什麼關係，只是需要解釋時浮現的故事；針對 Lex「AI 或許不需要真的解釋自己，只要說個有說服力的故事」的說法，他表示認同，並補充：解釋的目的是讓人接受，而要穩穩被接受，就得帶有一些真實的成分。

他提出「經驗自我」與「記憶自我」的區分——前者活在當下，後者事後把經歷編成故事；我們做決定、做每一件事，都受記憶支配，而不是受實際發生的事支配。故事裡只有事件，時間不重要，但時間是人生的貨幣，這造成許多矛盾。他用「度假完會失憶又銷毀照片，你還會去嗎」的思想實驗說明這件事。

Lex 問社群媒體會不會放大記憶自我、讓人為了拍照分享而活；康納曼說自己太老、沒看過 Instagram，不好評論，但指出裝置已經取代了一些功能：人不必記電話、不必知道事實，隨時可以查，知道東西變得沒那麼重要。他也提到共享一直都在，過去大家讀同樣的書、同一份報紙，只有三個電視台時也看同樣的節目。

面對「該不該活在經驗自我裡」的提問，他點出強調當下、不評分不打分數的態度和佛教有相通之處；但他也坦言自己後來放棄快樂研究，正是因為發現人真正想要的是回憶與好故事，而不是純粹的經驗。

Lex 談到 Viktor Frankl 認為在集中營裡找到人生目的能讓人撐過苦難，問他有沒有共鳴，他說沒有。他看得出使命感能撐住人，但不確定對存活有多關鍵；他自己沒有那種感覺，相當確定自己在集中營會放棄而死。他認為撐得過的是某種性格的人，活下來之後才講出這類故事，聽起來像是因為做了什麼才活下來，但我們其實無從得知。

他認為實驗室能回答很多問題，但研究者必須驗證結論能不能類推到真實世界；好的心理學家與普通研究者的差別，就在於實驗抓不抓得到真正重要、真實存在的東西。

Lex 唸了康納曼寫 Amos Tversky 合作的一段：十二、三年的合作是「人際與智識上的幸福」，常常一個人說了什麼，另一個人比說話的人自己理解得更深。問到怎麼找到這種合作，康納曼說要靠運氣，也要有那種性格，他認為自己擅長合作；真正的合作是人與人之間的事，要喜歡對方、喜歡互相激發想法。

他提出自己對複現危機的解釋：受試者間設計的實驗效果常被研究者嚴重高估，因為研究者自己活在「兩種情境都經歷過」的世界裡；他也指出幾乎所有心理學假設的方向都對，只是效果比想像中弱得多。

他認為線上招募受試者的平台讓大規模實驗變得便宜又容易，足以改變心理學做研究的方式；傳統研究常常只用三、四十人，但面對效果較弱的現象，可能需要兩三百人才夠。

談到職涯中最激烈的一場爭論，是與德國心理學家 Gerd Gigerenzer 之間長達三十年的學術衝突；他直言不想細談內容，只說這場爭論永遠不會有結論。

他認為人一旦對某個立場有所投入，幾乎不會改變心意，連科學家也不例外；真正能讓大眾改變想法的，往往不是證據本身，而是他們信任的領袖或意見領袖先改變了說法。

Lex 提到圖靈測試常被批評太簡單；康納曼說現有 AI 只在特定領域輕鬆勝過人，AlphaZero 比 AlphaGo 通用，但仍非常狹窄，離通用智慧還很遠。真正讓他驚豔的會是機智、幽默，甚至講出全新而非套路化的比喻。

他坦言對超人類智慧的可能性感到著迷也害怕，但認為現在對三十年後會長成什麼樣子的預測都只是空談；被問到人生的意義時，他說不存在一個人類能理解的答案。