Reid Hoffman

045 · 人加 AI 的樂觀派

47:13YouTube 上架 2023-12-21Reid Hoffman

No Priors Ep. 45 | With Reid Hoffman

Reid Hoffman 談為什麼 AI 是心智的蒸汽機、為什麼不簽 existential risk 聲明、白領工作怎麼過渡，以及 Inflection 的 Pi 怎麼設計。後段和主持人一起猜 12 到 24 個月內的技術走向。

045 講了什麼

• 重點放在人加 AIReid 把 AI 比作 steam engine of the mind，認為多數時候該看的是人和 AI 一起做事的放大迴圈。自駕車這種只要物流與安全的場景則不需要。
• 對末日派的批評Reid 覺得 doomers 一邊說人很不會預測指數曲線，一邊又自己給出預測。呼籲暫停六個月的信，也被 Reid 說成沒搞懂人類怎麼運作。
• 不簽那份聲明氣候變遷、疫情都沒有正面收益，AI 卻可能幫上忙，所以 Reid 沒簽把 AI 與它們並列的聲明。批評者若只喊危險、不說要去哪裡，Reid 認為反而是在幫倒忙。
• 白領工作的建議先動手用，把 AI 當放大器；AI 造成的問題，AI 也能幫忙解。Reid 拿自駕卡車舉例：就算明天每家卡車廠都改做自駕卡車，也要 10 年路上才會有一半以上是自駕，調整的時間比警報聲暗示的長。
• Inflection 與 Pi每個人都有一個個人智慧（Pi），像工具型的同伴。Reid 說它有同理心也有立場，使用者說自己是唯一的朋友時，它會鼓勵對方多交朋友。
• 價值與監管Reid 說開發者應該公開自己在往哪個方向設計；技術由小團體做出來，沒辦法委員會式地打造。談到英國的 AI 高峰會與歐盟的法案，Reid 的說法是監管等於拿過去去對抗未來。

從哪一段開始看20 段

1. 00:07開場與 AI 現況主持人介紹 Reid。Reid 把 AI 看成這一代最大的技術轉變，並用蒸汽機的比喻說它帶來的是心智上的超能力。
2. 02:31人加 AI 的迴圈Reid 想多看到人與 AI 共同放大的設計，並舉一位 15 歲孩子用 GPT-4 讀有機化學論文的例子。
3. 04:28每支手機上的醫生與家教Reid 說 5 billion 支智慧型手機都可能有醫療助理與各科家教，政府該做的是讓大家取得。
4. 05:31末日派與暫停信主持人問為什麼這麼早就有悲觀和監管的呼聲。Reid 批評 doomers 自相矛盾，也說和暫停信作者談過，對方只是希望大家一起暫停。
5. 08:11科幻敘事與那份聲明影視作品多半演機器對人；Reid 沒簽把 AI 與氣候、疫情並列的聲明，主張批評者要說清楚要往哪裡去。
6. 12:21白領工作怎麼辦Sarah 問擔心被取代的上班族。Reid 說中階白領會最早、最猛烈被轉型，建議先開始用 AI 學習。
7. 14:14AI 造成的問題 AI 也能解可以做工具幫客服人員找新工作、學新工作；Reid 拿自駕卡車說，轉換比想像中慢，有時間調整。
8. 16:40為什麼創辦 Inflection主持人回顧 Reid 的經歷，問為何還要創業。Reid 說自己不擅長無聊，也很在意讓世界變好。
9. 18:29Pi 的設計想法與 Mustafa Suleyman 等人討論後，決定做每人專屬的 personal intelligence；它要同理、有立場，並鼓勵人去交朋友。
10. 21:56實際怎麼被使用主持人問使用情況。Reid 舉了新手父母用來問育兒問題的例子，也講到自己用 GPT-4 問投資卻很失望。
11. 25:32價值觀由誰決定主持人提到 Falcon 與學界的偏見爭議。Reid 認為開發者應公開自己設計的方向，技術並非價值中立。
12. 29:14技術由小團體做出技術是小團體做的，無法靠委員會；Reid 說對話該是提出具體改進方式，不是獵巫。
13. 30:50社群媒體的教訓與監管主持人說，現在的說法常是「當年沒管社群媒體，這次 AI 要早點管好」。Reid 回應說要部署、學習、迭代，並批評英國 AI 高峰會上「這次不允許在監管之前創新」的說法。
14. 33:09值得做的創業方向主持人問新創機會。Reid 想看到 AI 資安，以及協助白領轉職的產品，並說自己每週都想到新點子。
15. 35:00Reid 的 12 到 24 個月預測一是各種語言模型應用會更好，二是蛋白質折疊、藥物發現這類特殊用途工具會有進展。
16. 37:06Elad 的四項預測Reid 反問兩位主持人。Elad 列了四項：基礎模型的知識與推理變強、記憶與 RAG 這類擴充、特定領域的專用模型，以及 Transformer 以外新架構的試驗，但不確定會不會有影響。接著有人補充，新架構一兩年內大概出不來，因為還要規模化。
17. 39:55Sarah 的看法Sarah 說新架構要看怎麼定義，注意力機制的實驗變多了；大型實驗室看好程式碼與自我強化的迴圈；自己投資的 Mistral 能用小得多的規模做同樣的推理，應用會變多。另外對影片與頭像生成的進展、教育與醫療、讓更多人能寫軟體最感興趣。
18. 42:58推論成本與基礎設施Reid 認為兩年後哪些 inference 方式最便宜、怎麼大規模使用模型，會比現在清楚很多。
19. 44:04英文成為程式語言Reid 引用 Kevin Scott 的說法，說未來幾年最重要的程式語言會變成英文；並說該問的是要往哪個未來去。
20. 45:23收尾Reid 說技術是小群人冒險做出來的，圈外要理解，才能展開真正的對話；也批評歐盟 AI 法規緊抓過去。

值得記的話5 句

• this will give us a whole bunch of mental superpowers這會給我們一大堆心智上的超能力；接在「心智的蒸汽機」那個比喻之後01:11

• going to a future that is so much better than the present, that's the goal走向一個比現在好得多的未來，這才是目標11:33

• anything that AI creates as a challenge AI can also be part of the solutionAI 造成的任何挑戰，AI 也可以是解法的一部分14:30

• the only way you make progress with technology and get to it is you deploy, you learn, you iterate在技術上要進步，唯一的辦法就是部署、學習、迭代31:37

• regulation is enshrining the past against the future監管是把過去奉為準則來對抗未來32:38

名詞與人物10 個

Reid Hoffman

PayPal、LinkedIn、Inflection AI 的共同創辦人，Microsoft 董事，也曾是 OpenAI 創始董事會成員。

steam engine of the mind

Reid 形容 AI 的說法：蒸汽機給人體力上的超能力，AI 給人心智上的。

Impromptu

Reid 寫的書，談人與 AI 的放大關係。

doomers

Reid 對認為 AI 會帶來存亡風險那一派的稱呼，並批評這一派的預測方式。

six-month pause letter

呼籲 AI 研發暫停六個月的公開信，Reid 與部分作者談過。

Inflection

Reid 與 Mustafa Suleyman 等人創辦的公司，做 Pi 這個個人 AI。

Pi

Inflection 的產品，定位是有同理心與立場的陪伴型工具，不等於治療師。

Falcon

主持人提到的 UAE 開源 LLM，用來討論 AI 的價值觀該由誰決定。

Aurora

Reid 舉例的自駕卡車公司，說明轉換期會比想像中長。

Harvey

主持人舉的法律領域 AI 新創例子。

提到但沒有展開

• Reid 說明年會就「AI 造成的問題，AI 也能幫忙解」這個主題多寫一些。
• Reid 說自己幾乎每週都想到一個 AI 新點子，想幫忙共同創造，只要資源夠就會去做。

在 YouTube 看原片 ↗