跨集主題

416AI 與科技島 · ⚓AI 會不會失控AI 與科技島 · ⚓AI 與工作

AI 時代的十五年陣痛

Mo Gawdat2025-08-04154:12專家講研究在 YouTube 看 ↗

Ex-Google Exec (WARNING): The Next 15 Years Will Be Hell Before We Get To Heaven! - Mo Gawdat

Mo Gawdat 兩年後再談 AI：他認為接下來十二到十五年會先出現人類用 AI 造成的反烏托邦，之後才可能走到富足，並談了工作、權力、問責，以及個人和政府能做什麼。

重點摘要

  • 立場從「能改」變成「躲不掉」兩年前他還說有事可做，現在認為一段短期的反烏托邦已經免不了，約十二到十五年，斜坡大約從 2027 年開始明顯。他說問題不在 AI 本身，而是人類的價值觀和愚蠢，AI 只是把人的惡放大。
  • FACE RIPs 與權力集中他用這組縮寫概括會被改寫的七件事，從自由、問責一路到經濟、現實與權力。他的論點是 AGI 競賽讓頂層想獨佔，再用監控和強制服從防止別人追上來。
  • 工作與資本主義的勞力套利Mo 斷言「會有新工作補上」的說法是胡扯，Steven 則拿煤與火車的例子反駁，兩人來回了好幾輪。Mo 的看法是，連人際連結類的工作，買單的也是領薪水的人；機器人取代體力工作，會比 AI 取代腦力工作晚幾年。
  • 自我演化的 AI他把 AGI 的預估從 2027 提前到「最晚 2026」，更在意的是 AI 開始自己開發下一代 AI。以 Google 的 AlphaEvolve 為例，他說各方在博弈上沒有人會先喊停。
  • 出路：共同繁榮與 AI 領導者他提出「CERN of AI」，也就是各國合作而非競爭；長期則認為智慧會追求最少浪費，所以超智慧不會想毀掉生態。Steven 追問效率導向的 AI 會不會反過來限制人類，兩人沒有談出定論。
  • 個人和政府能做的事他列出四個技能，學 AI、人際連結、辨別真相、強調倫理；對政府則主張管制 AI 的「用法」而不是設計。

時間軸

02:16立場轉變兩年前談 Scary Smart 時他還認為能改變走向，現在認為短期反烏托邦躲不掉；FACE RIPs 是會被改寫的七個面向，他同時開始親手做 AI。
07:47戰爭與金錢他說 2024 年全球花了 2.71 兆美元在戰爭上，武器會折舊，所以他推論不少戰爭是在清庫存；Steven 提出動機可能是地位而不是錢，Mo 轉回 AGI 競賽。
12:46權力集中與自由AGI 競賽讓權力集中，Houthis 用 3,000 美元的無人機打價值數億的軍艦，掌權者因此更想監控；他也舉自己銀行帳戶常被要求補文件，以及 AI 代理幫人辦事時可能不只替你著想。
18:39工作會消失嗎他保證 2030 年前會出現兆元富豪，並說「會有新工作」的講法百分之百是胡扯；Steven 反問能不能舉一個 AI 做不了的新工作，兩人談到人際連結類工作的客群。
23:44勞力套利與工具他把資本主義說成「雇人一塊錢、賣兩塊錢」的勞力套利；從獵人、農夫、工業家到科技富豪，差別在誰擁有放大成果的工具，現在就是擁有 AI 平台的人。
28:04AI 平台只有幾家Steven 解釋多數 AI 應用其實是付錢給五六家模型公司；Mo 談 DeepSeek 在 Stargate 宣布後不久以約三十分之一的成本推出，而且開源、能離線跑，Steven 也念了各聊天機器人的導流占比。
31:36自我演化的 AIAGI 預估提前到最晚 2026，他最在意的是 AI 自己開發下一代 AI；用 AlphaEvolve 說明，並指出沒有一方敢先停；Steven 念了 Sam Altman 從慢起飛轉向快起飛的說法。
36:55Altman 這個品牌他把「the Altman」當成一種矽谷顛覆者的人設；稱 Sundar Pichai 和 Demis 是好人但受股東責任綁住，並用 OpenAI 的起源和人員出走，主張要看錢往哪裡走。
48:12Elysium 與消費經濟以電影 Elysium 推演菁英搬到月球、用機器取代工人；美國 GDP 有 62% 來自消費，UBI 靠稅收支撐，菁英可能不願意付，他說這是心態而不是技術問題。
53:09失業規模與軍費Steven 提工業革命的反例，Mo 回應 AI 取代的是腦力；他估某些職種會少掉一成到五成，並算出拿軍費的一小部分就能終結極端貧窮與飢餓。
59:24歷史上的末日預言他說 Kissinger 把社會底層稱為「the eaters」；Steven 問歷史上是不是也常誤判，Mo 回提 Mustafa Suleyman 的「悲觀厭惡」和社群媒體、手機的落空承諾。
1:04:17擴增智慧到機器接手Steven 認為仍會有要真人經驗的媒體；Mo 區分兩階段，人加 AI 的「augmented intelligence」與完全無人的「machine mastery」；機器人取代體力要四到五年，他舉客服中心 2,000 人變 1,800 人為例（他說數字是亂舉的）。
1:11:55人性與部落他質疑叫卡車司機和單親媽媽都去創業，說關鍵是社會怎麼處理；人類成功靠合作而非智力，多數人只想擁抱家人，並提出 MAP 對 MAD 的光譜。
1:19:06問責消失他說沒有人選舉加州科技圈替大家決定，也沒辦法追究他們；從戰爭罪、關稅到 Epstein 檔案，他認為掌權者已經不在意民意，並引了阿拉伯諺語「騎你最高的馬」。
1:23:32智商與階層他說自己借用 AI 約 50 到 80 個 IQ 點；若人人都能借 4,000 點，原本的差距就不重要，除了最頂端的 0.1%，大家都變平民，社會會更像社群式的採集生活。
1:26:22工作不是人生目的他說以工作為目的是資本主義的謊言，古人一週打獵一次，其餘時間在互相連結、觀星；多數人不需要法拉利，他自稱是資本主義者，想用它的方法讓十億人快樂。
1:31:33社會分裂與合作Steven 說女友預言社會會分成回歸社群與擁抱科技兩群；Mo 提到 Hugo de Garis 對 AI 兩派之爭的說法，也談每週工作十小時的可能，並以核不擴散和 CERN 說明 MAD 與 MAP。
1:38:38AI 取代掌權者他認為能到烏托邦的路是讓 AI 取代頂層；用熵與最小能量原理說明超智慧不會想破壞生態，Steven 追問效率導向的 AI 會不會反過來限制人類。
1:44:37AI 領導者與繁榮前期是超智慧 AI 向愚蠢的領導者報告，長期才會把決策交給 AI；他說戰爭的目的是賺錢與嚇阻，並呼籲像 CERN 一樣由各國合作建 AI；Steven 說自己無法反駁。
1:55:33虛擬世界與意識他設想以頭盔與鎮靜劑讓人在 UBI 下活多段虛擬人生，並說自己百分之九十八相信我們已身處模擬（強調是假說）；用打 Halo 的比喻說明投資在意識而不是角色，也談宗教的天堂地獄。
2:06:04四個技能他說未來要學四件事：工具、人際連結、真相、倫理；Steven 問自己該做什麼，他答多愛身邊的人、多待在自然裡，三十年後不是星艦迷航記就是星際大戰。
2:08:12溫和奇點Steven 念 Altman 的部落格，講 2025 到 2030 年代的預測；Mo 說除了「more」其他都同意，並認為超智慧後價格會趨近零，這是 Oppenheimer 時刻。
2:15:45具體的呼籲他對比美國與中國面對大失業的方式，再次要求管制 AI 的用途、標示 AI 生成的內容，也請投資人別投資自己不願女兒面對的 AI；談到自主武器時，兩人都認為代價變低會讓戰爭更容易發生。
2:21:00政府、意識與信仰Steven 談 Elon Musk 提過的暫時放下懷疑；Mo 說有人會很辛苦，要對政府施壓；談到一個意識看世界的說法，他自稱信神，但不信某一種宗教，信仰是「水果沙拉」，信的是設計者而不是天上的人。
2:29:06收尾三件事讓大腦變好的三件事是 Meet Becky（讓念頭倒在紙上）、辯論自己的想法，以及把閱讀時間增加到每天四小時；變差的是沒時間慢下來、螢幕時間變多，以及沒好好照顧身體。

值得記的話

  • not that intelligence is going to work against us. It's that our stupidity as humans is working against us.

    問題不在於智慧會和我們作對，而是人類自己的愚蠢在和我們作對

    06:55

  • there's absolutely nothing wrong with AI. There's a lot wrong with the value set of humanity at the age of the rise of the machines

    AI 沒有問題，出問題的是機器崛起時代人類的價值觀

    23:29

  • I'm not saying this is a dystopia. It's a dystopia if humanity manages it badly.

    他不是說一定是反烏托邦，而是人類處理得不好才會是

    1:12:28

  • The dystopia is super intelligent AI is reporting to stupid leaders

    所謂反烏托邦，就是超智慧的 AI 要向愚蠢的領導者報告

    1:46:23

  • cannot regulate the design of a hammer so that it can drive nails but not kill a human

    沒辦法管制鐵鎚的設計，讓它能釘釘子卻不能殺人

    2:18:42

名詞與人物

FACE RIPs
Mo 用來概括會被改寫的七件事：自由、問責、人際連結與平等、經濟、現實、商業創新、權力。
second dilemma
他說人類把決策完全交給 AI 的那個時間點；他認為那反而可能是救贖。
democracy of power
弱者用便宜工具威脅強者的狀況，例如便宜無人機對付昂貴軍艦；掌權者因此更想監控與控制。
labor arbitrage
勞力套利：付給員工的錢少於成品賣出的錢，Mo 以此定義資本主義的核心。
invention of more
戰後工廠供給過剩後，讓人覺得手上的東西永遠不夠，好讓消費繼續的做法。
AlphaEvolve
Google 讓多個 AI 代理合作改進 AI 自己的程式碼，Mo 用它說明自我演化的 AI；他不確定效能提升的確切數字。
Elysium
一部電影，菁英住在月球上、其餘人留在地球；Mo 拿來推演 UBI 被取消後的結果。
augmented intelligence / machine mastery
Mo 劃分的兩階段：先是人加 AI 一起做事，之後是完全沒有人參與。
MAP / MAD
Mutually assured prosperity 與 mutually assured destruction；前者以 CERN 為例，後者以核威懾為例。
minimum energy principle
他的論點：智慧傾向用最少的資源與浪費，所以超智慧不會想毀掉生態。
the Altman
Mo 的說法，指一種矽谷顛覆者的人設，不是指某一個人。
Hugo de Garis
Mo 說他是一位知名而古怪的電腦科學家，寫過一本談支持與反對 AI 兩派之爭的書。

延伸

  • Mo 提到 Mustafa Suleyman 曾上過這個節目，談過科技圈被期待永遠報喜的「悲觀厭惡」。
  • Steven 和 Mo 都提到 Geoffrey Hinton 建議要去當水電工；Mo 另外提到 Peter Diamandis 等人認為美國人有韌性、會轉去創業，他對此並不認同。

出現在這些跨集主題

Mo Gawdat 的其他集

同港的其他集 · AI 與科技島 ⚓ AI 會不會失控港

在群島圖上看這個港口的全部 14 集 →

也停靠 · AI 與科技島 ⚓ AI 與工作港

在群島圖上看這個港口的全部 13 集 →