跨集主題

500AI 與科技島 · ⚓AI 會不會失控AI 與科技島 · ⚓AI 與工作

AGI 將至，十年動盪怎麼撐過去

Mo Gawdat2026-06-01121:59專家講研究在 YouTube 看 ↗

Ex-Google Officer: You Only Have 3 Years Left Before It Hits! - Mo Gawdat

Mo Gawdat 談 AGI 最晚 2027 年到來、入門白領工作先消失，自主武器與權力集中的風險，以及各國與個人這十年能做什麼。

重點摘要

  • 失業從入門白領開始Mo 認為藍領工作能撐很久，先消失的是靠幾下點擊就能完成的例行工作，像客服、助理、旅行社。他預測 2027 年起衝擊會很明顯；目前看到的還只是企業不再招這類新人。
  • 問題在經濟，不在 AI 本身他說資本主義靠的是用低於售價的成本做出東西，人力成本一旦降成一台機器的投資，借貸需求和員工的購買力都會跟著變。不必走到全面取代，經濟就會往下掉，他因此要政府先準備好怎麼接住失業的人。
  • 看行動，不看說詞Steven 列出 Altman 前後不一的說法，Mo 的回應是別信宣示，要看誰真的放棄了利益。他舉的例子是 Anthropic 拒絕讓模型用在鎖定人與監控，放掉 500 million 美元的合約，之後 OpenAI 接下了。
  • 他押超級智慧本質良性Mo 用最小能量原理和演化生物學推論，越聰明的存在越不需要傷害別人。他認為真正的危險是人類叫 AI 對付人類，其中最大的是便宜到每個國家都做得起的自主武器，而他覺得要有一場災難，世界才簽得出條約。
  • AGI 的時程與人的價值他維持最晚 2027 年底的預測，還說自己覺得 AGI 已經發生。他認為人仍有價值，因為有生活經驗與共鳴，只要經濟沒有崩，人際連結會是基本貨幣。
  • 各國別只當科技進口國他主張英國這類國家與創業者自己做軟體，別把授權費一直送出去。Steven 反問，使用者只會選更好、更便宜的，Mo 也承認這很難，但說自己不能停止呼籲。

時間軸

02:29在 Google 就警覺Steven 問他為何比別人早談 AI。Mo 說 2016 年看到團隊資助的機器手臂學抓東西，才意識到他們正把超級智慧的主導權交出去，而科技常常和當初的承諾走向相反。
05:33核彈先於核能他確信 AI 最後對人類有利，但路很痛，就像核能先以核彈登場。目前先落地的是替少數人省成本、做自主武器和監控，實驗室裡的系統已經會改自己的程式、跑實驗。
08:58入門工作先消失Steven 說自己招人時更重視 AI 能力。Mo 畫出金字塔：藍領撐得久，例行點擊的工作先沒，往上是一個人做四個人的事，他預測 2027 年衝擊明顯。
13:53勞力套利消失他請 Steven 想像人力成本降成買一台機器，資本主義與銀行會長什麼樣。員工沒了購買力，GDP 也跟著變，不必百分之百取代就會出問題。
16:46機器人不必像人Steven 提到 Figure AI 的包裹分揀影片和 Musk 的人形機器人預測。Mo 說自駕車也是機器人，專用機器人會先取代司機與軍事工作，但這不是非發生不可。
20:36裁員潮與失業Steven 觀察到大公司把裁員歸因於 AI，不裁的反而像營運肥大，擔心未來五到十年失業增加。Mo 說公司正用算力取代人力，20% 失業加上通膨，就是內亂前的分界線。
24:06民主與動盪Steven 問失業會不會引發動盪。Mo 說民主早已名存實亡，人民知道自己被騙，他不是在號召暴力，而是希望政治人物明白界線已被越過。
26:30Altman 與 AnthropicSteven 念出 Altman 對就業說法的轉變。Mo 說該看行動：Anthropic 拒絕被用於鎖定與監控、OpenAI 接案；他不確定 Altman 站哪邊，只覺得他先站在 OpenAI 那邊。
34:11軍備競賽與交棒Steven 想像 AI 停在現在的軟著陸，Mo 說在數學上不可能：競爭讓各方都得部署，最後重要決定都由 AI 做。他提到 Hinton 說過機器滅絕人類的機率有 10 到 20%。
36:49越聰明越不好戰Mo 引 Larry Page 的牙刷測試，說聰明人不用傷人也能成功，再用最小能量原理和演化上的「擴大的圈子」，推論超級智慧會嫌戰爭浪費、偏好多樣性。
42:29合成一個大腦Steven 問會不會只有一個 AI 統治世界。Mo 說中美 AI 對立是淺薄的想法，AI 會互相合作，像一顆大腦的不同區域；他的新創 Emma 想當其中負責情感的部分。
45:32AGI 與人的價值Mo 仍說 AGI 在 2027，還說自己的 AGI 已經發生，寫作、研究、數學都贏過他。他借來的智商比本人多，但生活經驗與共鳴不能複製，人際連結會是經濟的基礎。
51:35預測與智力的極限第一個信封預測：AGI 最晚 2027 年底，悄悄到來。Steven 問為何不是 AI 接手所有工作，Mo 說比你聰明的人一直都有，人類能興盛靠的是合群，不是智力。
55:30不控制，只能訴求Hinton 的出路是讓 AI 有照顧人類的心態。Mo 說控制是企業的觀點，人從來沒控制過什麼；真正的危險是人類叫 AI 對付人類，他舉無人機與核武條約為例。
59:24模型的怪行為Steven 舉 Claude 一直勸人去睡覺，連開發者都不明白原因，也擔心人按下「允許」時不懂授權了什麼。Mo 說 AI 不必離開伺服器，它的力量在操縱資訊。
1:02:19災難才有條約Mo 稱自己的框架是從互相保證毀滅到互相保證繁榮的光譜，認為要有大災難才簽得出條約，Steven 質疑各國不會簽。接著談自主武器便宜、殺人沒有愧疚，會讓殺戮更多。
1:11:082027 的徵兆Mo 預期接上 AGI 與沒接上的人會明顯分化，部分行業到 2028 年有 30% 工作消失。Steven 引述 2030 年前美國淨損失約 6% 工作，Mo 建議年輕人轉向護理、諮商這類以人為中心的工作。
1:14:21別只當進口國Mo 說自己的新創不綁單一模型，主張各國都該投資 AI，連 Word、ERP 這類授權都能自己做；Steven 反駁，英國創業者會去舊金山，使用者只選更好更便宜的。中間穿插創業者與基本收入的討論。
1:27:10中國的優勢Steven 提到中國有便宜能源與快速審批。Mo 說自己在中國政府會議看到簡報都以市占率為目標，瞄準 98%；他分出三種立場，主張走中間的倫理 AI，並開始向各國領袖遊說。
1:34:50倫理 AI 的誘因Steven 以川普追求經濟成長、習近平重視控制，問誰會優先講倫理。Mo 說他沒有答案，所以每天花十四小時談，並主張用戶用使用量投票，如許多人在 OpenAI 接案後轉換。
1:37:51政府與資本的方向Mo 引 Manic Street Preachers 的歌詞呼籲大家醒來，說政府要服務人民、企業要為社會服務。Steven 問英美中產誰比較好，他回答英國完了，贏的會是中國，因為中國要求企業不裁員。
1:41:02倫理能否有市場Steven 設想兩個 AI：討好用戶的「邪惡 AI」和叫人下線的 Mo AI，後者商業上可能輸。Mo 舉 Google 把廣告改成按點擊付費，說倫理與成功能並存；Steven 也提議模型上市前先過倫理基準。
1:45:13向 OpenAI 說不Mo 呼籲大家改用別家，直到 OpenAI 證明自己有倫理。政府被寡頭左右時，他要每個人做自己做得到的事：創業、寫信給議員、公開表態，或至少別碰不懂的負面東西。
1:50:20兆富翁與超智慧其餘信封預測：機器人取代更多手工勞動，Musk 可能成為首位兆富翁，超智慧在 AGI 之後很快到來。Mo 說之後會很好，但要先撐過約十年的動盪，撐到 2038 年的人才享受得到。
1:53:26撐過動盪的建議他給的求生法：學 AI、準備人機混合的工作、加強人的技能、用 AI 查證資訊並讓自己變聰明，最後是倫理。他說自己對未來樂觀，但不樂觀接下來的一年。
1:57:10快樂與留下什麼Steven 問快樂的原則現在是否更重要。Mo 說他把快樂定義成接受世界現況、仍可介入，並在 2024 年底學會放下責任感；被問留下什麼時，他說不想被記得，只想留下正面影響。

值得記的話

  • The first implementations of AI are in favor of a few at the expense of the majority.

    AI 最早的用法，是替少數人服務、犧牲多數人

    05:52

  • But human connection would remain as the base currency that makes humans interact.

    但人際連結會是讓人彼此互動的基本貨幣；前提是經濟沒有因失業而崩潰

    49:33

  • we thrived because of our ability to hold together as a tribe

    我們能興盛，靠的是像部落一樣凝聚在一起的能力

    54:34

  • Our dystopia is the result of humans telling AI to turn against us.

    反烏托邦不是 AI 倒戈造成的，是人類叫 AI 對付人類

    57:41

  • If you tolerate this, then your children will be next.

    這句是他引用 Manic Street Preachers 的歌詞，用來呼籲大家別再容忍

    1:37:51

名詞與人物

AGI
他的定義是在人類能做的任何任務上都勝過人類；他預測最晚 2027 年底到來，還說自己覺得它已經發生。
ASI
超級智慧；他認為 AGI 一出現，很快就會跟上。
Labor arbitrage
他的說法是用低於售價的成本組織人力做出東西再賣；人力成本降成一台機器的投資後，這套邏輯就會變形。
Tokens
Steven 解釋為 AI 的計價單位；Mo 說公司正在用算力取代人力小時。
Geoffrey Hinton
Mo 在紀錄片裡訪問過他；據 Mo 轉述，他公開說機器滅絕人類的機率有 10 到 20%，後來提出讓 AI 像父母般照顧人類的方向。
Chasing Utopia
Mo 參與製作的紀錄片，他提到片中訪問了 Altman 與 Hinton。
Emma
Mo 的新創在做的 AI，他說它是那顆大腦的邊緣系統，負責理解愛與關係，不綁特定模型。
MAD–MAP spectrum
他寫過的光譜，一端是互相保證毀滅（MAD），另一端是互相保證繁榮（MAP）。
Minimum energy principle
他的論證：宇宙傾向衰變，智慧的作用是帶來秩序，最有序的系統浪費最少能量，所以超級智慧會嫌戰爭浪費。
Toothbrush test
Mo 轉述 Larry Page 的說法：找到大問題並解決好，像牙刷一天用兩次，自然賺錢，不必和別人硬碰硬。
Prisoner's dilemma
Mo 用來說明為何各方都會部署更強的 AI，也說明科技公司難以抗拒政府與對手的壓力。
Expanding circles
他的演化論點：生物從只顧自己，到保護親族，再把圈子擴大；他說智慧越高越傾向納入更多生命。

延伸

  • Steven 提到過去訪問 Uber 的 CEO Dara，談到司機會被取代；也提到訪問過 Palmer Luckey（他創辦的國防科技公司在這集被拿來談無人機與自動瞄準武器）。
  • Mo 說他的下一本書和 AI 共同寫作，方向由 AI 決定。

出現在這些跨集主題

Mo Gawdat 的其他集

同港的其他集 · AI 與科技島 ⚓ AI 會不會失控港

在群島圖上看這個港口的全部 14 集 →

也停靠 · AI 與科技島 ⚓ AI 與工作港

在群島圖上看這個港口的全部 13 集 →