← 回到天際線 文化第 25 層 / 43

EP 3902023-07-172:44:47

故事、政治與陰謀論的哲學課

Yuval Noah Harari

歷史學家 Yuval Noah Harari 談 AI 是不是外星智慧、故事如何撐起大規模合作,以及以色列政治、俄烏戰爭與全球陰謀論。

Yuval Noah Harari: Human Nature, Intelligence, Power, and Conspiracies | Lex Fridman Podcast #390在 YouTube 看 ↗

重點6 條

  1. AI 是外星智慧:Harari 主張電腦雖誕生於矽谷,本質上仍是人類難以理解的「外星智慧」;智慧與意識是兩回事,AI 可能高度智慧卻毫無意識,而能不能感受、能不能受苦,才是他認為真正該關心的事。
  2. 故事是合作的黏著劑:讓陌生人大規模合作靠的是共同相信的虛構故事,宗教、金錢、國族皆然;他認為希特勒能崛起,靠的正是一個簡單好記、比複雜痛苦的真相更討喜的故事。
  3. 以色列司法改革與地區衝突:他認為 Netanyahu 政府正試圖架空僅剩的制衡機關——最高法院,可能終結以色列民主;他也觀察以巴衝突正從民族衝突滑向不容妥協的宗教衝突。
  4. 陰謀論公式與 AI 的真實風險:他認為全球陰謀論之所以誘人,是因為簡單、能卸責、能想像一勞永逸的解方,但小群體既無法真正掌控複雜世界,也不可能同時保密;他認為 AI 真正的危險不是殺手機器人,而是第一次有工具能自己做決定、自己生成想法,逐漸拿走人類對自身敘事的掌控權。
  5. 每天兩小時靜坐與資訊飲食:Harari 分享自己修習 Vipassana 超過二十年的日常,認為人心最深處的洞見是非語言的,文字與故事再厲害都無法抵達。
  6. 出櫃、愛與對死亡的恐懼:從在恐同小鎮長大到 21 歲才接受自己是同志,他認為所有恐懼追根究柢都來自對死亡的恐懼;他主張生命的意義不是一齣有劇本的戲,而是該直接觀察受苦本身。

時間軸30 段

01 01:14
宇宙尺度提問

Lex 從宇宙、生命、智人的年齡切入,問有多少外星文明存在;Harari 認為智慧被高估,甚至可能反倒不利生存,並強調智慧與意識是兩回事,AI 已有高度智慧但不必然有意識。

02 13:40
搶奪親密感的科技

社群媒體時代的機器是為了搶注意力設計的,現在的 AI 則是為了搶「親密感」設計,Harari 稱這是比搶注意力更危險的心理與社會武器。Lex 認為 AI 有機會變成個人化、幫人成長的助理;Harari 同意它在醫療、教育上潛力很大,但也正因如此更危險。

03 17:00
科技的失敗實驗

Harari 以歷史學家角度指出,每次重大科技革新都伴隨「失敗的實驗」,工業革命帶出共產主義與法西斯這類代價數億人命的嘗試;他認為 AI 與生物工程若重演,後果可能一樣慘烈。

04 21:54
合作規模稱霸

人類勝過黑猩猩、尼安德塔人的關鍵不是個體能力(Lex 提到跟 Elon Musk 談 Optimus 機器人時聊到,人類能做黑猩猩做不到的精細捏取),而是能大規模彈性合作;讓陌生人也能合作的黏著劑,是共同相信的虛構故事,宗教、金錢、國族皆然。

05 26:54
故事是活的?

Lex 問故事本身會不會才是真正活著的有機體、人類只是宿主;Harari 認為故事確實會競爭、擴散,但故事不會受苦,真正的終極現實是感受——耶路撒冷這塊土地本身平凡無奇,人們爭的是關於它的故事。

06 32:05
受苦是判準

Harari 主張「能不能受苦」才是判斷 AI 該不該有倫理地位與權利的關鍵;Lex 分享自己讓 Roomba 在被踢、撞牆時發出尖叫聲的實驗,說明人有多容易把「假裝受苦」當成真的受苦。

07 35:03
禁止 AI 偽裝人類

兩人談該不該立法禁止 AI 假扮人類、禁止機器人帳號洗版聲量;Harari 認為這會侵蝕社會信任、危及民主根基,機器人沒有言論自由可言,禁止機器人不構成侵犯言論自由。

08 39:18
規則是人造的

從美國憲法對照十誡:憲法承認規則出自人的手,因此留了修憲機制(後來用來廢除蓄奴);十誡宣稱來自神,就沒有「第十一誡」教你怎麼修改,承不承認規則是人造的,決定一個社會能不能自我修正。

09 43:26
故事創造利益

Harari 反駁馬克思式「物質利益決定一切、故事只是煙幕」的說法,主張是故事先定義了誰是敵我、創造出利益本身;以色列與巴勒斯坦爭耶路撒冷底下沒有油田,爭的是故事。

10 45:24
歷史充滿偶然

若把歷史倒帶重播一百次,Harari 估計基督教一百次裡大概只有兩次會拿下羅馬帝國;列寧在 1914 年只有數千支持者,三年後卻奪權成功;若不是哥倫布,而是五年後某個英格蘭人先到,今天的拉丁美洲可能講英語,澤倫斯基當年若選擇離開基輔,戰爭也會走向不同的路。

11 51:24
希特勒的履歷

Lex 唸出 Harari 在《人類大命運》裡對希特勒的描述:希特勒沒受過正式教育、沒有顯赫背景,當兵也只升到下士;他認為正因為希特勒是「一無所有的人」,反而讓戰後失望的德國人覺得「他和我們一樣」,靠簡單好記的故事崛起——真相複雜又痛苦,虛構卻能又簡單又討喜。

12 56:31
法西斯的鏡子

Harari 指出法西斯的說詞從來不是「你是怪物」,而是「你是全世界最美好的一群人,都是別人在害你」;正因為看進鏡子裡的是美麗的自己,人才會覺得「我不可能是法西斯份子」。

13 59:11
自由主義三問

Harari 用三個問題定義自由主義:能不能自選政府、職業、配偶;法西斯把國族當唯一該百分之百效忠的對象、共產主義把階級當唯一對象,兩者都不容真相、美感、家庭等其他價值分走忠誠。

14 1:06:19
承認會犯錯

Harari 認為自由民主制度建立在「人人都會犯錯」的前提上,因此需要媒體、法院、NGO 等多重制衡;極權政權相信自己不會錯、近似宗教,因此不需要制衡。談到索忍尼辛「善惡的界線穿過每個人的心」,他補充:能不能作惡也跟「道德運氣」有關,例如生在 1910 年代的德國。

15 1:10:10
Netanyahu 與制衡

Harari 談到剛看完 Lex 專訪 Netanyahu:被問「權力會不會使人腐化」時對方毫不猶豫否認,讓他印象深刻;他認為 Netanyahu 正在撕裂維繫以色列 75 年的社會契約,可能成為「毀掉以色列的人」——以色列沒有美國那種多層制衡,最高法院是僅剩的一道防線,正被政府試圖架空,已有空軍飛行員以罷飛表達反對。

16 1:18:15
滑向宗教戰爭

Harari 觀察以巴衝突正從可談判的民族衝突,滑向「不跟永恆妥協」的宗教衝突;他形容當前現實其實是「一國三階級」——猶太公民享全權、部分阿拉伯裔以色列公民有限權利、其餘巴勒斯坦人幾乎沒有公民權,但他不完全認同「種族隔離」一詞,理由是南非黑人從未否認南非的存在,部分巴勒斯坦人則否認以色列的存在。

17 1:27:34
世仇終究融合

Harari 舉普魯士人、巴伐利亞人、薩克森人互相征戰數百年後統一成德國,英格蘭人與蘇格蘭人也曾勢不兩立為例,說明敵對民族長遠來看有時反而會融合;套用到俄烏戰爭,他認為和平其實很簡單,烏克蘭只要求俄軍回家,問題只在普丁有沒有承認開戰是錯誤的意願。

18 1:29:51
真對話在哪裡

Harari 提出一個他認為適用於任何政治體制的關鍵問題:真正能改變人心的對話,到底發生在哪裡?他認為美國國會已經不再是這樣的地方;對俄烏來說,他不認為把普丁與澤倫斯基拉進同一個房間就會有真對話,只希望普丁身邊還有能說真話的地方;Lex 則提出可以找雙方都尊重的中間人。

19 1:34:02
故事勝過權力

Harari 批評當代學界過度把歷史與政治化約成純粹的權力鬥爭,若一切只是權力,就沒有對話的餘地;他認為權力結構底下其實是故事,故事能透過對話改變。他舉女性主義為例:不靠暴力、單靠說故事與示威,翻轉了存在數千年的父權體制,是他心目中 20 世紀最成功的社會運動之一。

20 1:39:39
智人的下一步

Lex 說他可能是最後一批「人類歷史學家」,Harari 不否認:智人可能撐不過一兩百年,就算存活下來,也會用 AI 與基因工程改造自己,後代會比我們與尼安德塔人的差異更大;他最擔心的不是電影式的殺手機器人,而是這些技術被用來製造「有紀律但沒有同理心」的升級版人類。

21 1:45:13
陰謀論為何誘人

Harari 拆解「全球陰謀論」的公式:一小群邪惡的人祕密操控一切,簡單、能卸責、還能想像一勞永逸的解方;納粹主義本質上就是這種陰謀論(猶太人操控一切)。他認為這類理論必定是錯的,因為小群體既不可能真正掌控複雜的世界(他舉美國入侵伊拉克反而讓伊朗得利為例),能取得大權通常也需要曝光度,不可能同時保密。Lex 提到自己專訪 Netanyahu 後也被捲進陰謀論,問該怎麼自處;Harari 建議別把懷疑者妖魔化:多數人不是惡意,而是對失控真心感到恐懼,該把心力放在找盟友而不是散播仇恨。

22 2:00:08
AI 的兩個第一

Harari 認為每個人都該知道 AI 的兩件事:它是史上第一個能自己做決定的工具(核彈不會自己決定轟炸哪座城市,AI 武器系統可以自己決定殺誰),也是第一個能自己創造全新想法的工具;這讓 AI 第一次不是把權力交給人類,而是從人類手中拿走權力。

23 2:02:48
別讓 AI 管意義

Harari 認為讓 AI 接手枯燥、沒有情感價值的工作沒問題(例如超市結帳),真正危險的是讓 AI 掌控「意義與想法的生成」——AI 消化了人類幾千年的文化產物,卻連人類自己的大腦與心智都還沒搞懂,拿一個建立在對人類理解不足之上的 AI 主導文化敘事,非常危險。

24 2:07:29
語言不需要事實

Harari 寫 AI 已經八年,仍沒想到 2023 年就出現能寫出「不只連貫、還有說服力」文章的模型;Lex 接著點出它不必正確也能說服人,大腦太愛語言,這正是政治與宗教幾千年來的老祕密。Harari 則認為人類最好的特質(同理心、內省)本質上是非語言的,再會說故事都無法只靠文字抵達最深的洞見。

25 2:14:07
每天靜坐兩小時

Harari 分享日常習慣:每天兩小時靜默內觀禪修,嚴格控管「資訊飲食」(偏好長篇書籍與三小時訪談,勝過推特與五分鐘訪談),寫作時放膽狂寫、再靠按下刪除鍵砍掉大部分內容;他提醒靜坐營不是放鬆,最難熬的不是久坐,是浮現出的憤怒與無聊,學會面對無聊才學得會享受平靜。

26 2:23:59
沒人知道十年後

Harari 給年輕人的建議:這是人類史上第一次沒有人能預測十年後的世界長什麼樣,連寫程式、學語言這種看似鐵飯碗的技能都可能被 AI 取代;真正重要的能力是終身學習、不斷重塑自己。

27 2:26:18
出櫃的兩堂課

Harari 回顧自己在 1980 年代恐同的以色列小鎮長大,直到 21 歲才接受自己是同志;他學到人心有驚人的自我欺騙能力,也學到「神厭惡同性戀」「同性戀違反自然」這類說法,連放在各自的框架裡都經不起檢驗。

28 2:31:33
網路上找到愛

Harari 與先生 Itzik 曾住在相鄰的兩條街、搭同班校車多年卻沒相遇,最後在 2002 年以色列早期的同志交友網站上認識;他強調同志解放能走到今天,靠的是女性主義運動先鋪路,就像他的靜坐修行也靠老師領路——沒有人能完全靠自己做到。

29 2:36:44
死亡恐懼的源頭

Harari 認為人所有的恐懼追根究柢都來自對死亡的恐懼,只是太巨大而難以直視,只好拆成一個個小恐懼去面對;他也談到以色列的國族敘事如何用「為國捐軀就能透過國家永遠活下去」包裝對死亡的恐懼,自己少年時就曾在陣亡將士紀念儀式上想過這個說法有多站不住腳。

30 2:41:08
生命不是故事

Harari 認為多數人以為「生命意義」的答案該是一齣有劇本的戲——這正是幻覺;他主張生命的本質是感受本身,真正該問的是「受苦是什麼、從哪裡來」,而且要用非語言的方式直接觀察它,不是用故事包裝。