AI 帝國的神話與代價

Karen Hao2026-03-26129:12專家講研究在 YouTube 看 ↗

AI Whistleblower: We Are Being Gaslit By AI Companies, They’re Hiding The Truth! - Karen Hao

Karen Hao 用「帝國」的框架看 OpenAI 與其他 AI 公司：AGI 怎麼被一再改定義、董事會為何開除 Altman、末日預言如何替自己募資，再談裁員、資料標註工和資料中心的代價。

重點摘要

AGI 沒有終點線Hao 說沒有人能定義人類智慧，所以 AGI 可以看場合改口。Altman 對國會講的是治癒癌症，對消費者講的是最棒的數位助理，跟 Microsoft 的合約裡則是創造 $100 billion 營收的系統。
帝國的四個特徵搶資料與創作者的智慧財產、剝削大量勞力、壟斷知識生產，再加上「我們是好帝國，不然壞帝國會先做出來」的說法。她舉 Timnit Gebru 被 Google 開除，說明不利的研究怎麼被壓下去。
開除 Altman 的來龍去脈Hao 說 Sutskever 和 Murati 先向獨立董事反映，Altman 讓團隊互相對立、說法前後不一。董事會決定快動手，事前沒跟利害關係人溝通，Microsoft 只在行動前接到一通電話，幾天後 Altman 就回任。
末日預言也是話術她認為「可能毀滅人類」與「能治好癌症」是同一個神話的兩面，用來證明只有這幾家公司能掌控技術。她也說，這些領導人講久了可能自己也信了。
就業衝擊是真的，但原因不只是模型她認為裁員有一部分是主管決定的，不全是模型已經能取代人。被裁掉的人轉去做資料標註，等於訓練取代自己職位的模型，職涯階梯也少了好幾階。
要拆的是帝國，不是技術她用火箭與腳踏車比喻，主張多做 AlphaFold 這類小而專的系統。她舉資料中心抗議、創作者提告、80% 美國人支持管制，說明民眾有能施壓的地方。

時間軸

02:51工程師轉做記者Hao 讀 MIT 機械工程，進新創後看到董事會因不賺錢開除執行長，轉去 MIT Technology Review 專跑 AI；書訪談超過 250 人，其中超過 90 位是 OpenAI 現任或前任員工與主管。

07:03AI 的起點與 AGI從 1956 年達特茅斯講起，指出人類智慧沒有科學共識，AGI 因此能被一再重新定義，Altman 對不同對象講不同版本。

09:55Altman 與馬斯克她說 2015 年 Altman 部落格的措辭跟馬斯克當時講的一模一樣，是為了拉他共同創辦 OpenAI；後來 Altman 說服 Brockman 與 Sutskever，改由自己當執行長，馬斯克離開。

15:25對 Altman 兩極的評價受訪者不是說他是這個世代的賈伯斯，就是說他操弄人；Amodei 和 Sutskever 都曾覺得被他利用去做自己不認同的事。

20:41大腦是統計引擎嗎Sutskever 把大腦視為統計模型，所以相信模型夠大就會超越人；Hao 強調這只是假說，不是科學共識，也質疑為什麼要造取代人的 AI。

25:54帝國的特徵搶資料與土地、剝削勞力、壟斷知識；以氣候科學家被石油公司出資作比，談 Gebru 被開除，以及 OpenAI 向批評者發傳票。

30:54好帝國與壞帝國帝國都說自己是好的、對手是壞的；OpenAI 早期把 Google 當壞帝國，現在多半是中國。末日與烏托邦是同一套說法的兩面。

33:16OpenAI 與媒體Altman 的推文暗指她的書；她 2019 年駐點寫側寫後關係轉壞，她為書寄出 40 頁待回應問題，沒有得到任何回覆；也談科技記者拿「採訪機會」被牽著走。

41:55董事會開除 AltmanSutskever 找上獨立董事 Toner，Murati 也加入，指 ChatGPT 之後公司極度混亂；創投基金登記在 Altman 名下一事讓董事會更警覺，事前只通知 Microsoft，幾天後他回任。

53:23創辦人為何都離開Steven 問共同創辦人帶頭質疑執行長代表什麼；Hao 說多數人與 Altman 衝突後離開，自己開公司，xAI、Anthropic、Safe Superintelligence、Thinking Machines Lab 都是這樣來的。

57:29召喚惡魔的神話她認為「可能毀滅世界」是說服人交出權力的話術，以 Dune 的彌賽亞神話比喻，領導人既造神話，也漸漸被神話吞進去；談認知失調。

1:03:49領導人好壞不是重點募資與警告災難難以並存；她說換掉執行長也不能解決問題，真正的問題是少數人替數十億人做決定的治理結構。

1:06:51中美競賽與智慧的類比Steven 扮演反方，提出不加速就會輸給中國；Hao 反駁模型的能力不均（jagged frontier），公司是挑賺得到錢的領域練，不是全面變聰明。

1:14:56預言、放射科與自駕車她指出預言的人都從神話獲利，放射科被預言消失卻沒有；自駕車靠大量標註與機率，她不認為十年內全面上路。

1:21:21裁員與 Klarna她說就業已受衝擊，原因包括主管決定要換成 AI；Steven 念出 Klarna 執行長的回覆，人數從 7,400 降到 3,300，仍強調要有真人服務。

1:25:08職涯階梯斷掉Steven 提到 Anthropic 報告顯示初階工作減少；Hao 說新工作不是更高階就是更糟，被裁的人轉去資料標註。

1:28:52Steven 的用人想法他說會留的是深度專業、精通 AI agent 的人，和擅長現場人際的人；但以成長的速度看，連這些也會被擠壓。

1:32:43AI 會讓人更像人嗎Steven 說社群使用量在 2022 年見頂、年輕人轉向私密社群與實體活動；他打電話給 Klarna 執行長，對方說員工從約六千人降到不到三千，營收翻倍。

1:40:47資料標註的處境Hao 回應：這只適用於能決定自己怎麼用時間的老闆；被裁的高學歷者轉去做標註，被第三方公司壓低價格、隨時等派案，生活被機械化。

1:46:25轉型速度與貧富分化兩人談轉換速度由誰決定：Hao 說是公司之間的賽跑；她認為有的人更富、更有閒，另一些人工作更差、處境更糟。

1:49:32資料中心的代價Abilene 的 Stargate 用電超過 1 gigawatt；Meta 在 Louisiana 的設施更大；Memphis 的 Colossus 用 35 台甲烷燃氣渦輪，周邊居民事前不知情。

1:54:33火箭與腳踏車她把大模型比喻成火箭，主張多做 AlphaFold 這類資料少、耗能低的腳踏車；反駁「馬已經出欄」，指出公司對資料的需求反而增加。

1:58:27拆帝國與草根行動她提出要拆帝國、找替代方案；80% 美國人支持管制，各地有反資料中心抗議，也有家長與創作者提告，標準是公司要與勞工、用戶公平交換價值。

2:02:11一般人能做什麼想想自己是資料提供者、身邊的資料中心、學校與公司的 AI 採用政策；OpenAI 內部知道營收目標要一切順利才達得成，所以不要讓它順利。

2:04:46兩難與社會討論Steven 說自己既愛 AI 也擔心副作用；Hao 說這個張力不必存在，技術的好處可以用別的方式保留，各地的討論場子都坐滿人。

2:07:04收尾節目慣例的最後一題，Hao 說會勸別人享受生活、放輕鬆，但自己停不下來；Steven 稱讚她帶動了對話。

值得記的話

Why is it that we are building a technology that is ultimately designed to replace and automate people away?
為什麼要打造一個設計目的就是取代人的技術？
24:35
So if most of the climate scientists in the world were bankrolled by fossil fuel companies, do you think we would get an accurate picture of the climate crisis?
她拿氣候科學類比 AI 研究多半由業界出資
27:09
We should understand this as an act of speech to persuade other people into believing that they should cede more power, more resources to these individuals.
她說領導人的末日預言是話術，目的是讓人交出權力與資源
59:26
The goal is that these companies need to stop being empires.
目標是讓這些公司不再當帝國
1:59:49
let's not make it go flawlessly if we don't agree with what they are doing.
她對觀眾說，不認同就別讓它一路順利
2:03:52

名詞與人物

Empire of AI: Hao 的書，副標是 Dreams and Nightmares in Sam Altman's OpenAI，以 OpenAI 第一個十年為主線。
AGI: artificial general intelligence；Hao 的重點是它沒有一致的定義，公司看對象換說法。
Ilya Sutskever: OpenAI 共同創辦人與前首席科學家，Hao 說他是開除 Altman 的關鍵人物，後來創辦 Safe Superintelligence。
Dario Amodei: 前 OpenAI 主管，Anthropic 執行長；2017 年說過災難機率介於 10% 到 25%。
Helen Toner: OpenAI 當年的獨立董事，Sutskever 最先找上的對象。
Mira Murati: 前 OpenAI 高階主管，離開後創辦 Thinking Machines Lab。
Timnit Gebru: 前 Google AI 倫理團隊共同主管，Hao 以她的研究被壓下、本人被開除為例。
data annotation: 資料標註，用人工標記範例教模型怎麼回應；Hao 說這是 ChatGPT 能對話的前提，也是被裁員工的落腳處。
jagged frontier: 模型能力參差：有些項目很強，有些很弱，因為公司只針對賺錢的領域下功夫。
Stargate: 川普第二任期初宣布的 $500 billion AI 運算基礎建設計畫，OpenAI 在 Abilene 有大型據點。
Colossus: 馬斯克在 Memphis 為訓練 Grok 蓋的超級電腦，Steven 說有 100,000 顆 GPU。
Klarna: 瑞典金融科技公司，節目中以員工數下降的實例，討論 AI 與裁員的關係。

延伸

Hao 提到有一篇 New York Magazine 的報導，寫被裁的高學歷者轉去做資料標註，說明為何她認為職涯階梯被抽掉。
Steven 在中段提到，他之後會邀請 Boston Dynamics 等公司把機器人帶到節目現場。

同港的其他集 · AI 與科技島 ⚓ 科技與平台港

在群島圖上看這個港口的全部 11 集 →