Andrej Karpathy

080 · Karpathy 談自駕、人形機器人與 AI 教育

44:16YouTube 上架 2024-09-05Andrej Karpathy

No Priors Ep. 80 | With Andrej Karpathy from OpenAI and Tesla

Andrej Karpathy 從自駕車與人形機器人談到 Transformer、合成資料與小模型，最後說明為什麼轉做 AI 教育，以及對下一代該學什麼的看法。

080 講了什麼

• 自駕是 AGI 的縮影Andrej 認為自駕車已經有點像達到 AGI，但從 demo 到產品花了約十年，真正鋪到全世界還沒發生。Andrej 預期 AGI 也會是同樣的走法。
• Tesla 是軟體問題，Waymo 是硬體問題Andrej 看好 Tesla，理由是軟體問題比較好解，而且 Tesla 已經大規模部署車隊。昂貴感測器用在訓練階段，部署到車上的是純視覺的精簡版本。
• 車與機器人高度共通Andrej 說從 Tesla 到 Optimus 的遷移很多，早期的 Optimus 還以為自己是車。Andrej 認為人形機器人應該先從自家工廠的物料搬運開始，再做 B2B，最後才輪到 B2C。
• 瓶頸從架構移到資料Andrej 說 Transformer 這五年幾乎沒變，現在的活動集中在資料集與 loss function。合成資料不可避免，但要小心模型靜悄悄地 collapse，失去多樣性。
• 小模型的「認知核心」Andrej 認為現在的模型把容量浪費在記不重要的東西，認知核心可以非常小，大約 10 億參數就夠，甚至可能更少。
• 做 AI 教育Andrej 要做一門學 AI 的課，老師在後端設計教材，AI 在前端用各種語言帶學生走完。Andrej 認為 demo 很近，真正可靠的產品還很遠。

從哪一段開始看20 段

1. 00:02開場與來賓介紹主持人介紹 Andrej：研究者、AI 教育者，早期在 OpenAI、後來帶領 Tesla 的 Autopilot，現在做 AI 教育。
2. 00:33自駕車像 AGIAndrej 花了約五年做自駕，說 Waymo 的 demo 到產品用了十年，真正的全球普及還沒開始，AGI 可能也是這個走法。
3. 02:22Tesla 對 WaymoAndrej 認為 Tesla 是軟體問題、Waymo 是硬體問題，十年後看誰在規模上領先，Andrej 押 Tesla。
4. 03:42感測器用在訓練階段昂貴感測器只在訓練時用，再蒸餾成純視覺的部署版本；Andrej 覺得這個策略沒被充分理解。
5. 04:29端到端一路吃掉整個堆疊神經網路逐步取代 C++ 程式；Andrej 認為中間的預測沒有誤導開發，十年後可能就是影片進、指令出的單一網路。
6. 06:34從車到 OptimusAndrej 說 Tesla 是規模化的機器人公司，早期 Optimus 跑的是車的網路；工具、供應鏈與標註團隊的做法都能搬過去。
7. 08:23人形機器人的第一批應用先自己當客戶、在工廠做物料搬運，再賣給有大倉庫的企業，最後才進家庭。Andrej 還想看 Optimus 接下 Nat Friedman 的落葉挑戰：走在街上一片一片撿葉子，不用吹葉機。
8. 10:28為什麼是人形Andrej 認為單一平台的固定成本高、人形好遠端操作收資料、任務間可互相遷移；下半身與上半身的做法可能不同。
9. 14:39Transformer 與瓶頸轉移Andrej 說 scaling laws 在很大程度上是 Transformer 的性質，現在的瓶頸是 loss function 與資料集，不是架構。
10. 17:27網路資料與合成資料網路資料只是最近鄰，真正想要的是腦中的內心獨白；合成資料要靠注入 entropy 維持多樣性，Persona 資料集是一例。
11. 20:17模型與人腦的比較Andrej 說 Transformer 在記憶序列等面向比人腦有效率，只是還缺少對的輸入與資料。
12. 22:07人類增強與外皮層主持人與 Andrej 談把 AI 當成大腦外的一層，也談到工具讓人失去原有能力的例子，例如導航。
13. 25:13閉源、開源與擁有權現在是幾家閉源平台加上落後一點的開源。Andrej 套用加密貨幣圈的說法，問「not your weights, not your brain」；可能的走法是平常用閉源、開源當備案。主持人說那開源就得持續進步，Andrej 完全同意。
14. 27:02最小的有用模型現有模型浪費容量在不重要的記憶上；Andrej 認為認知核心可以很小，蒸餾效果出奇地好。
15. 29:03模型會像公司一樣分工Andrej 想像多個專門的模型平行運作，遇到難題自動升級給更強的模型，像一個生態系或一家公司。
16. 30:34為什麼做教育Andrej 自稱「team human」，想做讓人更強的事。在 Stanford 教過 231n 之後，想的是怎麼讓一位好老師觸及 80 億人：老師在後端設計課程，AI 當前端，用各種語言帶學生走。
17. 34:45先做語言，個人化還遠翻譯成多種語言是低垂的果實，依學生背景調整則比較難；Andrej 說 demo 近、產品遠。
18. 36:17師承與文化主持人問師承是否重要；Andrej 不希望師承變成把關門檻，並說社群裡推崇什麼文化的影響可能比教育資源更大。
19. 38:54學習不是娛樂主持人提到 Andrej 說過學習應該是難的。Andrej 說 AGI 之前，人學習是為了工作；AGI 之後，教育會更像娛樂。學習像大腦的健身房，費力但也有樂趣，Andrej 希望那時人人都常去「練腦」。
20. 41:12課程對象與下一代該學什麼第一門課是大學程度，給有技術背景、想真正弄懂的人，不限年齡，預計明年初推出；Andrej 建議孩子學數學、物理、CS，並說這類科目最好占八成。

值得記的話5 句

• Tesla actually does use a lot of expensive sensors they just do it at training timeTesla 其實用了很多昂貴的感測器，只是用在訓練階段03:42

• what you want is the inner thought monologue of your brain你真正想要的，是大腦裡的內心獨白17:42

• these models are silently collapsed這些模型是靜悄悄地 collapse 了18:43

• not your weights not your brain套用加密貨幣圈「not your keys, not your tokens」：權重不是你的，大腦就不是你的25:59

• the demo is near but the product is fardemo 近在眼前，產品還很遠36:02

名詞與人物12 個

Andrej Karpathy

OpenAI 早期成員，帶領過 Tesla 的 Autopilot，現在做 AI 教育。

Waymo

Andrej 以它說明 demo 到產品用了約十年，並認為它的問題在硬體。

Optimus

Tesla 的人形機器人，早期版本跑的是車用的電腦、相機與網路。

Unitree G1

Unitree 的人形機器人，主持人說約 30 grand、自己有一台；Andrej 說大概也會買。

scaling laws

Andrej 說這在很大程度上是 Transformer 的性質，LSTM 時代沒有乾淨的版本。

合成資料

用模型產生訓練資料；Andrej 認為是必經之路，但要維持多樣性。

model collapse

Andrej 所說的「silently collapsed」：單一輸出看不出來，整體分布卻失去多樣性。

Persona 資料集

一個包含 10 億種虛構人物背景的資料集，用來在合成資料時注入 entropy。

認知核心

Andrej 的說法：只負責思考、需要時再去查資料的小模型。

蒸餾

由大模型或大量算力監督小模型，Andrej 說效果出奇地好。

exocortex

Andrej 把雲端的 AI 看成大腦的下一層，在新皮質之外。

Eureka

Andrej 的教育新公司，第一門課教 AI。

提到但沒有展開

• Andrej 說 Transformer 的重要改動只有 RoPE 這種位置編碼，其餘是小幅調整；Transformer 是把殘差連結、layer normalization、attention 等四五個已有的東西組在一起。
• Andrej 在斯洛伐克、加拿大都待過。在多倫多大學時，身邊沒人談創業，大家問的是去哪裡實習、畢業後進哪家公司；Andrej 認為這種文化可能是最主要的變數。

在 YouTube 看原片 ↗