跨集主題

258AI 與科技島 · ⚓AI 會不會失控世界島 · ⚓戰爭與地緣

虛構、演算法與回頭的戰爭

Yuval Noah Harari2024-01-11106:09專家講研究在 YouTube 看 ↗

Yuval Noah Harari: An Urgent Warning They Hope You Ignore. More War Is Coming!

Harari 從虛構故事談起，談 AI 接手決策、金融複雜到無人能懂、生物強化與不平等，再談秩序鬆動後戰爭回頭，最後落在資訊節食。

重點摘要

  • 人類靠虛構故事合作Harari 說錢、公司、宗教、國家都是虛構，這是人類能大規模合作的原因，也是我們容易跟現實脫節的原因。他認為多數戰爭打的是故事，不是土地或糧食。
  • AI 是第一個能自己決定的技術印刷機和收音機只能放大人的想法，AI 卻會自己決定推什麼內容、自己寫新內容。他擔心金融、司法、貸款、約會都交給演算法，最後掌權的人只剩象徵性的角色。
  • 人類是可以被駭的動物他主張不要一開始就假定有自由意志，否則等於放棄探究自己。相信自己無法被操縱的人，反而最容易被操縱。
  • AI 會仿造親密感他區分智能與意識，說電腦在不少窄領域已比人聰明，卻沒有感受，等到它能模仿意識，人在親密關係上會變得很脆弱。
  • 生物強化與永生都有陷阱他說這些技術多半先屬於少數菁英，把經濟不平等變成生物不平等，還可能其實是降級。永生大概只會變成沒有期限的生命，一場意外照樣會死。
  • 戰爭回來，要靠秩序和少一點興奮他說自由秩序被拆掉卻沒有替代方案，軍費上升形成惡性循環。個人層面，他每天冥想兩小時，也主張少吸收資訊，多留時間消化。

時間軸

02:22使命與虛構Harari 說他的工作是釐清公共討論，並說明人腦不斷生產故事，擋在人和現實之間。
06:00戰爭與 AI 找真相他認為多數戰爭源自不同的故事，不是搶土地或糧食；也不認為 AI 一定比人更會找出真相。
08:53物種的終點他說智人可能不是毀滅，而是靠生物工程、AI 和腦機介面把自己改成完全不同的東西，例如賽伯格。
12:22腦機介面的疑問他說還在等 Neuralink 的證據，我們連大腦怎麼產生心智都沒有成形的理論；真連成腦際網路，沒人知道會怎樣。
15:12AI 不同於印刷機他說 AI 發展比預期快，世界沒準備好；它是第一個能自己決定、自己創造新點子的技術，這是它和以往技術最大的差別。
19:12工業革命的失敗實驗他回顧帝國主義、共產主義、納粹都是適應工業化的失敗嘗試；他給人類當時的表現 C 減，若 21 世紀重來一次就完了。
22:26語言與金錢他說語言是文明的萬能鑰匙，金錢靠故事運作，因此 AI 可能偽造聲音，甚至創造新的貨幣。
26:10金融複雜到沒人懂他舉上一次大型金融危機當前例，擔心 AI 造出沒人看得懂的金融工具；他也指出防 AI 造病毒的監管不少，卻沒看到有人設法讓金融維持在人看得懂的程度。
33:30AI 安全與傀儡領袖他說 AI 會變、會反應，不像核電廠有有限的出錯方式；首相凌晨被演算法叫醒、大約只剩半小時決定的例子，說明人類領袖可能淪為傀儡。
38:22自由意志與駭客動物他說不能預設人有自由意志，否則就不再探究自己；人是可被破解與操縱的動物。
43:10演算法接手決定貸款、量刑、大學與工作申請、約會 app，他說決定權已逐步轉給演算法，連銀行都答不出為什麼被拒。
45:48親密感、智能與意識他說 AI 被設計成模仿親密，而親密是最強的說服工具；智能是解題，意識是感受，電腦有前者沒後者。
52:47權力不等於快樂他說人類比石器時代強大數千倍，卻沒有快樂數千倍；人往往先學會操縱，之後才理解後果，生態危機就是例子，人的內在可能重演。
55:43永生其實是不死他認為多數追求永生的人活不到那天，最多得到沒有期限的生命，意外仍會死，因此焦慮前所未有。他也問，永生能做什麼，現在為什麼不做。
1:00:03基因強化與軍備競賽他說強化技術多半先給少數菁英，把經濟不平等變成生物不平等，還可能其實是降級；AI 軍備競賽幾乎難免，生物工程慢一點的社會反而有利。
1:06:30工作消失與基本收入他說許多工作甚至多數工作會消失、新工作會出現，難的是反覆重訓；基本收入要先問是全球還是國家的，否則瓜地馬拉的人怎麼辦。
1:12:02教孩子什麼技能他說這是史上第一次，沒人知道 20 年後的就業市場，唯一確定的是 30 年後世界會更動盪。
1:14:25戰爭的新時代他說十年前還是人類最和平的時代，現在進入新的戰爭時代；自由秩序被從內外攻擊，卻沒有人提出替代方案。
1:17:24軍費、川普與堡壘他說不重建秩序就會有更多更慘的戰爭，軍費升高是惡性循環，並認為川普若再當選，很可能給剩下的全球秩序致命一擊；他認為愛國與全球合作不衝突，所謂友善堡壘不會友善。
1:22:22資訊節食與冥想他說自己現在相對快樂，把資訊當食物來節制，每天冥想兩小時，每年做 30 到 60 天無手機、無電郵、連書都不碰的長期靜修。
1:25:18不睡的 AI 與參與度他說人是週期性的有機體，AI 不睡，政治人物也被 24 小時新聞追著跑；以參與度為指標的平台，會把憤怒看得比喜悅和睡眠更值錢。
1:29:06TikTok 與無聊Steven 談演算法讓人上癮，Harari 說演算法才十年，接下來更強；他主張世界需要更多無聊，把「興奮」和「快樂」分開，並說沒有平靜就沒有和平。
1:36:46哪個年代、做哪件事他說自己會選 1976 年出生，不羨慕 2020 年代長大的人；仍有能動性，建議選一件事、跟別人合作去做。
1:40:03歷史與最後一問他說歷史是研究變遷，讓人分清什麼是自然、什麼是人造；如果能訂一條全球法律，他選少吸收資訊、多花時間消化。

值得記的話

  • AI is different. It can potentially take power away from us.

    AI 不一樣，它有可能把權力從我們手上拿走。Harari 拿來對比印刷機與收音機

    18:21

  • We are now hackable animals.

    我們現在是可以被駭的動物。Harari 說的是人不再是神祕的靈魂

    42:23

  • We are now in a new era of wars

    我們進入了戰爭的新時代

    1:14:40

  • I don't think humanity will survive unless we have more boredom.

    Harari 說人類需要更多無聊才活得下去

    1:30:58

  • History is the study of change, of how things change.

    歷史是研究變遷的學問

    1:40:18

名詞與人物

fictions
Harari 對錢、公司、宗教、國家這類靠共同相信才成立的東西的統稱。
hackable animals
他的說法：人的決定被文化與生物因素左右，因此能被政黨、企業、AI 預測與操縱。
inter-brain net
他假想的情境：若大腦能和電腦直連，就可能像網路一樣把許多大腦連起來。
intelligence vs consciousness
智能是解決問題的能力，意識是感受痛、愛、悲傷的能力；電腦有前者，沒有後者。
CDO
Harari 舉的上一次金融危機例子，說是複雜到只有少數人懂、沒被有效監管的金融工具。
a-mortality
他的用語，指沒有明確期限、但意外仍會致死的生命，他認為這比永生更接近未來。
liberal order
他說的戰後全球秩序，靠人類有共同需求這個想法來規範國與國的關係。
information diet
Harari 的日常做法：把資訊當食物來節制，包含每天冥想與每年的長期靜修。

延伸

  • Steven 在 1:39:32 提到 Harari 正在寫新書，預計明年公布。
  • 他在 1:40:03 把歷史定義成研究變遷，可以接回開頭 02:22 他對自己使命的說法。

出現在這些跨集主題

Yuval Noah Harari 的其他集

同港的其他集 · AI 與科技島 ⚓ AI 會不會失控港

在群島圖上看這個港口的全部 14 集 →

也停靠 · 世界島 ⚓ 戰爭與地緣港

在群島圖上看這個港口的全部 13 集 →