跨集主題

342AI 與科技島 · ⚓AI 會不會失控工作島 · ⚓帶人與管理

從創業守則到 AI 風險

Eric Schmidt2024-11-14109:36專家講研究在 YouTube 看 ↗

Ex Google CEO: AI Can Create Deadly Viruses! If We See This, We Must Turn Off AI! - Eric Schmidt

前 Google CEO 先談創辦人、公司文化與大公司怎麼創新，再談 AI 帶來的假訊息、網路攻擊與戰爭，最後說他最怕的反而是 AI 普及得不夠快。

重點摘要

  • 創業先找比你聰明的人Schmidt 說做出厲害的產品，需要一位真正厲害的人，而他自己不是那種人，是跟他們合作。他用 diva 與 knave 區分兩種人，招人時也主張新創優先挑聰明、動作快的，而不是資歷深的。
  • 內部創新要分出去做他說大公司會變保守，新創常因此贏過在位者。他的看法是新點子要有明確的負責人，最好放在另一棟樓，同一棟樓裡很難讓人同時當收割者與開路者。
  • 別盯競爭，盯使用者他說研究對手是浪費時間，該做的是用新方法解題、讓客戶驚喜。Google 用 OKR 逐季打分，並把「focus on the user」當成口頭禪。
  • 演算法放大注意力，也放大傷害他說 TikTok 這類產品是在把注意力最大化，容易讓人掉進只看到同溫層的兔子洞。他對孩子仍然樂觀，但承認讓電腦從小當孩子的好朋友，是沒人做過的實驗。
  • 五年內的風險是網攻、生物與戰爭他預期模型再轉兩三圈會強上 50 倍或 100 倍，並點名 day zero 網路攻擊、有人做出很壞的病毒、假訊息與無人機戰爭。他的對策是政府與業界一起設護欄，必要時拔插頭。
  • 工作會變多，最怕的是用得太慢他認為危險又重複的工作會消失，但人口老化需要更高的生產力，所以工作不會變少。他說自己最擔心的，是 AI 沒有快到足以先解決教育與醫療這類大家都要的事。

時間軸

02:09緣起與給年輕人的建議Schmidt 說 Kissinger 十年前聽了 Demis Hassabis 談 AI，驚覺人類在玩火。他也講自己趕上摩爾定律的運氣，並建議 18 歲的人學 Python、做一款遊戲，因為模型也提供 API 可以串接。
07:51批判思考與演算法批判思考就是分辨被行銷與自己看論點，轉述前要先查證。他用 TikTok 說明演算法在最大化注意力，再談孩子與社群媒體，結論仍是樂觀。
15:45好收入與壞收入Steven 問他若是 TikTok 的 CEO 會怎麼做。他說在 Google 把品質改善的空間一半拿去再改產品、一半換成收入，並提到壞話會把好話擠出去（Gresham's law）。
18:49好公司的原則要做出出色的產品得靠一位出色的人。他以 Steve Jobs 為 diva 的例子，另一類 knave 只顧自己；對 Steven 提到的 founder mode，他說不確定同意，但傑出的創辦人確實很重要。
21:59Larry 與 Sergey 的起點兩人在 Stanford 相識，寫出 PageRank，早期自己組電腦，用軟木板隔開 CPU 結果著火。Larry 當年對他說現在不需要他，但以後會需要。
25:51規模與 AI 公司他只對能從零擴到無限用戶的點子有興趣。未來的成功公司都會有 app 加上背後的大型 AI 運算；寫程式正從寫規則變成讓 AI 學出答案，核心是預測下一個字。
28:51公司文化文化多半由創辦人定下，他舉 Mayo Clinic 的「顧客需求第一」為例。科技公司通常是工程師文化，他說重來會多請技術人員；Marissa Mayer 不懂介面好壞，就改用 A/B 測試量。
33:12大公司為什麼變慢大公司因為上市與官司變保守，Microsoft 在反壟斷案後錯過網路就是例子。Google Video 輸給 YouTube，他說生成式 AI 的贏家會在未來六到十二個月內分出來。
36:41內部創新要分開新事業要有負責人，Larry 常說沒有 owner 就不會成。他以 Macintosh 團隊住在掛海盜旗的小樓為例，說內部有怨氣但方向對，同一棟樓裡做不到。
40:58創辦人的賭注與專注他假設自己去跟董事會說要讓獲利停兩年、拿一百億美元去賭，很難過關，Zuckerberg 卻做到了：VR 沒做出什麼，但同時重押 AI，還開源 Llama。他說專注常被誤解，舉一家照商學院「簡化產品線」的教條賣掉 Arm 架構的公司，結果從此錯過手機。
45:08想像五年後他教人先寫下五年後的樣子，再問誰來做、跑在什麼硬體上。AI 是橫跨一切的新平台，加密貨幣只是特定市場；他也舉政治人物請 AI 為每位選民寄個人化影片的例子。
48:40Google 為何沒先推 ChatGPT他說當時 Google 在做太多其他事，OpenAI 發現用人類回饋訓練的 RLHF，連自己都沒料到有多好用。他也提到 Anthropic 登記為公益公司，是怕未來有 CEO 逼他們只顧營收。
51:45Jobs 與 Apple他認為 Tim Cook 延續了 Jobs 的使用者導向與封閉文化。Jobs 想當 BMW 而不是 Chevrolet，他們常為開放與封閉爭吵；他也認為 Siri 應該被 AI 取代。
55:43招人與快速失敗新創要先看聰明與速度，要能快速丟掉舊點子。Google 的 70-20-10 是核心業務、相鄰業務與新點子的配比，他說 Google X 做的第一個產品就是 Google Brain，十幾人的團隊十年間多賺了上百億美元。
58:45TGIF、裁員與員工言論全員大會 TGIF 在公司變大後被人現場洩漏給記者而收場。他任內只裁過銷售部門 200 人，反對定期淘汰最後 5%；也說工作場合只談業務，立場去酒吧講。
1:04:04競爭、OKR 與商業計畫別研究對手，要問自己做得到什麼。Larry 的 OKR 達到 70% 就算好，他的教法是想五年後的世界，再定一年內的硬目標，核心是把使用者做對。
1:06:35兩位創辦人的過人之處他說兩人就是智商比別人高。他講了 Sergey 穿著排球裝跑進辦公室，把他和 Larry 寫滿白板的清單全部否決，另提五件事，結果完全正確。
1:07:56NotebookLM 與創作者他把自己的文字丟進 NotebookLM，生成兩位不存在的人的對談，現場聽眾沒人聽出是 AI。Steven 擔心製作成本趨近零，他則說網路只會讓名人更集中，用 AI 會讓人更有名。
1:12:18為什麼是人類存亡問題Steven 念出書中的存亡一句。他舉自駕車沒有覆寫開關的例子，也談 2015 年前後演算法改成個人化推送與青少年憂鬱，並說 AGI 不會某天忽然降臨，而是各領域的浪潮。
1:18:09五年內的風險模型再轉兩三圈會強上 50 倍或 100 倍。風險有 day zero 網攻、很壞的病毒、假訊息與無人機戰爭；他也講未釋出的 raw model，以及難以測出模型自己學會了什麼。
1:23:43擴散、中國與武器他以參訪鈽工廠為喻，說若強大模型只在少數幾處，政府還能做嚇阻；一旦容易複製、落到恐怖份子手上，擴散問題就沒解。他目前認為中國會相對負責，但 AI 路線會與西方不同。
1:27:49工作還在嗎這個問題問了兩百年，他認為工作會變多不會變少，因為人口老化需要更高的生產力。保全這類危險或重複的工作會消失，工匠則缺人；他覺得 Neuralink 很推測，人不會察覺世界被技術接管，因為它們帶來更多愉悅。
1:32:07人還是在乎人他用機器人 F1 與馬拉松說明人們看的是人的成就。對 UBI 與富足論他是批評者，並說 IQ 1000 的 AI 缺人類價值，他仍會找人談道德判斷。
1:35:28拔插頭與最大擔心他說要消滅全人類比想像中難。遞迴自我改進、模型出得比檢查快、agent 自創語言，都是該拔插頭的點。最擔心的是 AI 沒快到能先解決教育與醫療。
1:41:21進辦公室還是遠端Steven 主張大家在同一個空間工作。Schmidt 也要人進辦公室，說二十幾歲在茶水間學到的東西影響了升遷，但承認資料顯示在家工作的生產力略高。
1:43:58給年輕人的建議他說要一再押注自己、對機會說 yes，也承認 Google 在社群上失手，Orkut 沒做成。最後 Steven 肯定他的新書，Schmidt 說 Kissinger 在臨終前最後一週寫完最後一章。

值得記的話

  • if you're not using AI at every aspect of your business, you're not going to make it.

    他說不在業務每個面向用 AI，就活不下去

    27:26

  • Focus on getting the user right, and everything else will follow.

    把使用者做對，其他自然跟上

    1:06:18

  • A $5,000 drone can kill a $5 million tank.

    一架 5,000 美元的無人機能打掉一輛 500 萬美元的戰車

    1:20:40

  • you will not notice how much of your world has been co-opted by these technologies because they will produce greater delight

    你不會察覺世界被這些技術接管，因為它們帶來更多愉悅

    1:31:33

  • Life can be understood as a series of opportunities that are put before you and they're time limited.

    人生是一連串擺在眼前、有時效的機會

    1:44:16

名詞與人物

Genesis
Schmidt 的新書，談 AI 出現後社會會怎麼變；他說 Kissinger 在臨終前最後一週寫完最後一章。
Henry Kissinger
十年前聽了 Demis Hassabis 談 AI，驚覺人類在玩火，之後與 Schmidt 一起思考 AI 時代的人。
diva / knave
Schmidt 的人物分類：diva 強勢但把事做成（如 Steve Jobs），knave 只為自己的利益。
70-20-10
Google 的資源配比：70% 核心業務、20% 相鄰業務、10% 新點子。
RLHF
讓人類在最後做 A/B 評比、系統再從中學習的訓練法，他稱之為 OpenAI 的關鍵突破。
raw model
訓練完、尚未被告知不准回答某些事的模型，他說內部先測它會什麼，再壓掉危險的部分。
emergent behavior
事前沒預期、模型自己學會的能力，他舉看網站圖就產生程式碼為例。
day zero attack
利用未知漏洞的攻擊，他說未釋出的模型在這方面可能不輸人類。
agents
他的定義是帶記憶、可以串在一起的大型語言模型，預期今明兩年大量出現。
recursive self-improvement
系統不斷變聰明、學更多的過程，他說不知道它在學什麼時就該拔插頭。
NotebookLM
他最喜歡的產品，把文字生成成兩位不存在的人的 podcast 式對談。
trust and safety
在模型釋出前請人測試、壓制有害回答的團隊與社群。

延伸

  • 他說一年前英國辦了第一場 trust and safety 會議，下一場在法國，時間是二月初。
  • 講到戰時動員時，他提到 Freedom's Forge 這本書，說美國工業最後做到一天造出兩三架飛機。
  • 談注意力時，他引用 1971 年 Herb Simon 的話：未來稀缺的會是注意力。

出現在這些跨集主題

同港的其他集 · AI 與科技島 ⚓ AI 會不會失控港

在群島圖上看這個港口的全部 14 集 →

也停靠 · 工作島 ⚓ 帶人與管理港

在群島圖上看這個港口的全部 19 集 →