跨集主題

392AI 與科技島 · ⚓AI 與工作

AI agent 與工作的未來

AI AGENTS DEBATE2025-05-12152:10專家講研究在 YouTube 看 ↗

AI AGENTS DEBATE: These Jobs Won't Exist In 24 Months!

Steven 找來 Replit 創辦人、演化生物學家和一位創業家，辯論 AI agent 會取代哪些工作、拉開多大的差距，以及學校和個人現在該準備什麼。

重點摘要

  • 能力邊界誰說了算創辦人認為 AI 能做的事受限於訓練資料，所以大致可預期；生物學家說這已是複雜系統，互相連接之後會長出沒人預料到的能力。兩邊從頭吵到尾。
  • 例行工作最先消失創辦人說純文字進、文字出的工作風險最高，例如資料輸入與品質檢測。創業家擔心的是速度，他認為職涯會縮成十個月到三十六個月一輪。
  • 差距會拉大創辦人和創業家都認為會出現「善用 agent 的人」與其他人之間的巨大落差；生物學家則擔心失業的人被當成多餘的人，市場不會自己把這件事修好。
  • 教育要換方向三人都主張培養通才。生物學家要孩子學會邊做邊修正，創業家要孩子成為「高 agency 的通才」，創辦人看好 AI 一對一家教。
  • 風險清單各不相同生物學家列了五項，把深偽詐騙和失去共同事實放在比「惡意 AI」更前面；後半段另談自主武器與圍堵到底做不做得到。
  • 都覺得停不下來結尾沒有共識，只有共同判斷：這件事擋不住，差別在於要不要刻意設計。

時間軸

02:08試用 agent 的震撼Steven 用 agent 做出能收款的網站，再叫另一個 agent 訂了一瓶水。創辦人說自己年輕時為網咖寫管理軟體，想讓有點子的人不必先有電腦與技能。
07:08什麼是 AI agent對話式 AI 是一問一答，agent 則有工具可用，自己決定何時做完。創辦人說現在能連跑 30 秒到 30 分鐘，並引一篇論文，說可執行時間每七個月翻倍。
09:08好處無限，壞處十倍生物學家說這是機器第一次從「複雜」跨進「複雜系統」，潛在好處很大，傷害可能多十倍。人類沒有任何警示故事可以參照。
12:53馬與馬車創業家用 1900 年紐約街上全是馬、十三年後全是車的照片，問大家：我們是不是那時候的馬。
15:51能力邊界之爭創辦人認為模型只會做訓練資料裡有的事。生物學家反駁：技術人習慣的是「複雜」，現在面對的是會演化的新東西，能力邊界說不準。
20:33機會平等也更不平等創業家說機會第一次人人可得，但差距會從十倍工程師變成千倍。他把 AI 比成馬拉松，多數人鞋帶綁在一起，少數人騎上了車。
24:34開源、濫用與集體行動創辦人看到的濫用比預期少，認為市場力量會讓 AI 偏安全。生物學家回說這是集體行動問題，單一公司克制了，技術照樣會被別人做出來。
32:10日常好處與社群媒體前例創業家舉身邊人用 AI 的好處。生物學家說臉書當初看起來也只有好處，傷害是後來才冒出來的。
34:50AGI、奇點與準備創辦人說他不會為「世界末日式」的 AGI 準備，只準備比較可能的世界。生物學家說完全無法預測的事無從準備，只能升級自己的技能。
42:01哪些工作先消失創辦人說例行的、純文字進出的工作兩年內就會被取代，醫療因為法規會慢一些。Steven 另外引了一組自動化風險的統計。
46:53這次不同：智力被取代工業革命取代的是肌肉，這次是智力。創業家認為接下來比的是 agency。生物學家則說意識與能動性是否出現，這個環境已經在促成。
53:08失業浪潮與護城河生物學家擔心大量失業會讓精英覺得這些人是多餘的。後面轉到護城河：創辦人說點子與資源不再是門檻，分發才是；也有人說真實性會變成最硬的通貨。
1:00:41自我修正要付出的代價創辦人相信民主和市場會自我修正。生物學家回說修正手段也包括戰爭與種族屠殺。接著談監管與 UBI，創辦人認為人類要有用處才快樂，不會滿足於領錢。
1:07:05高薪職業與公司縮編席上有人以麻醉科為例，說高薪專業最先被動搖。Steven 提到 Klarna 以 AI 取代客服。創辦人說他們公司 65 人，人資用 Replit 三天就做出想要的軟體，花約 20 到 30 美元，所以人資目前只要兩人。
1:11:39富足、意義與超新奇Steven 擔心富足會帶來意義危機，也談到出生率下降與孤獨。生物學家說這些在 AI 之前就有，根源是變化速度超過人的適應力，他稱為 hypernovelty。
1:19:06學校該教什麼創業家說學校把孩子當 LLM 來訓練。生物學家主張通用工具箱與健康習慣。創辦人說唯一證實有效的是一對一家教，AI 能把它帶給每個孩子。
1:23:35動手回饋與高 agency 通才生物學家教孩子做原型、像衝浪一樣在回饋裡導航。創業家說他要養的是高 agency 通才，並分清「創造」與「消費」。
1:31:56擋不住，那失業怎麼辦生物學家說這件事無法避免，只是可惜太晚準備。創辦人主張先讓大眾懂這些系統；創業家主張終身學習，教育要以工具而非技能為主。
1:40:55變化速度與 Amish生物學家說人類演化出的環境與成年後的環境不該差這麼多，Amish 看出持續變化有危險這點是對的。創辦人談科技也能讓人過得更貼近祖先的生活。
1:49:55五項威脅與深偽生物學家的五項威脅裡，惡意 AI 他最不擔心。Steven 與創業家都說自己每週要處理偽造影片詐騙，生物學家認為這代表信用被偷走。
1:54:59真相與防詐生物學家說 AI 暫時讓人更看得穿演算法操弄，但這取決於有沒有人保護這個能力。創辦人相信平台會有動機反制，他把它比作防毒軟體。
1:59:39AI 的好處與小團隊生物學家看到教育與治理的可能。創業家提醒醫療與教育的突破，也說五到十人的小團隊現在有近乎無限的槓桿。Steven 展示了一個十五分鐘做出的小應用。
2:10:27自主武器與監控有人說最擔心自主武器，另一人談到伊朗用臉部辨識偵測頭巾。生物學家補充，無法追查的犯罪成本下降，經濟上的護城河可能以暴力回來。
2:15:10圍堵做得到嗎Steven 說他問 Mustafa Suleyman 能否圍堵，再問一次，對方的回答都是「We must」。創辦人不認為可行，並說 Nick Bostrom 的構想得靠全面監控才行。
2:17:37虛擬世界與費米悖論有人擔心人們沉進 AI 模擬的世界不再出門，並以此解釋費米悖論：文明可能停在無限享樂的機器裡。生物學家的版本更單純：科技強到足以毀滅自己。
2:21:10各自的結語創辦人說現在人人都能當創業家。生物學家把這一刻比成要穿越適應谷。創業家叫大家記得祖先會多想換到今天。Steven 說他選擇樂觀，但知道過渡會很不穩。

值得記的話

  • there is no body of myth that will warn us properly of this tool

    沒有任何一套神話可以好好警告我們這種工具

    12:05

  • does this make me a horse in 1900?

    這會不會讓我成了 1900 年的那匹馬？

    13:59

  • I'm not building tools for agents, and agents are a tool.

    我不是為 agent 做工具，agent 本身就是工具

    40:30

  • instead of using the blueprint as the metaphor in your mind, navigate

    別再拿藍圖當比喻，改用導航

    1:28:32

  • We have squandered a long period of productivity and peace

    我們浪費了一段長長的、有生產力又和平的時期

    1:32:14

名詞與人物

AI agent
有工具可用（瀏覽器、程式環境、信用卡），能自己決定何時做完一件事的 AI，不只是一問一答。
Operator
開場示範用的線上 agent，Steven 叫它去 CVS 訂水。
complex adaptive system
生物學家的核心概念：複雜且會適應的系統，行為無法像一般複雜機器那樣預測。
hypernovelty
生物學家的用語：環境變化的速度超過人類的適應力。他和妻子合寫的書 A Hunter-Gatherer's Guide to the 21st Century 也用這個詞。
collective action problem
一家公司克制自己沒有用，技術仍會被別人做出來；生物學家用它反駁市場自己會處理濫用。
commoditize your complement
創辦人解釋 Meta 為什麼開源 Llama：自己要用 AI 當零件，就讓它變便宜。
intelligence explosion
AGI 一旦能改寫自己，下一版會更聰明，再接著下一版；創辦人用這個來說明為何難以預測。
high agency
創業家的詞：有能力把事情做成、指揮 agent 和創業的人，被他視為接下來最吃香的特質。
moat
護城河，企業防止別人複製自己的優勢；討論焦點是 AI 之後它還剩什麼，創辦人認為分發會取代點子。
UBI
全民基本收入；有人拿它說明會有人失業到需要靠發錢維生，創辦人不認同人類會滿足於此。
Mustafa Suleyman
Steven 2023 年訪問過的來賓，本集被引用的是他談圍堵 AI 的「We must」。
Nick Bostrom
創辦人提到的 AI 哲學家，想圍堵 AI 的方案需要全面監控。

延伸

  • Klarna 執行長曾上過這個節目；本集 Steven 引他用 AI 取代客服的說法，創辦人隨即說自己公司也用客服 AI，招人放慢。
  • 生物學家說他和妻子的書用 hypernovelty 描述變化快過人的適應力，這個概念貫穿他後半段對教育、意義與 Amish 的看法。

出現在這些跨集主題

同港的其他集 · AI 與科技島 ⚓ AI 與工作港

在群島圖上看這個港口的全部 13 集 →