這週沒有大新聞，哈利從 Lex Fridman 訪問馬斯克的前兩小時挑出新消息，往外談人形機器人的手、馬斯克的五步驟做事法，以及 xAI 超級電腦引出的 AI 耗電爭議。
重點
Neuralink 與 AI 安全。馬斯克證實第二位病人已經植入晶片，手術很順利。他的看法是人類敲鍵盤的間隔對電腦等於無限久，所以要拉高人腦和電腦的頻寬；哈利補充現在的 AI 和 N1 都還很初期。
Optimus 要靠真實世界的資料。馬斯克說 Optimus 和 Tesla 的車會是最大的 AI 訓練資料來源。哈利另外介紹 NVIDIA 的三步驟，把少量真人示範放大成大量模擬資料。
手改成前臂驅動。馬斯克說手是人形機器人最複雜的部位，Tesla 受人類前臂肌肉啟發，把執行器改放前臂，手的自由度從 11 變成 22。哈利認為 Optimus 有很高機率排進前三。
馬斯克的 Algorithm。哈利從《馬斯克傳》摘出五步驟，強調順序不能亂：先質疑、刪到過頭，最後才自動化。
xAI 的超級電腦。Memphis 的集群規劃 10 萬個 H100，馬斯克說 Grok 3 會是最聰明的模型。哈利覺得 OpenAI 與 Anthropic 不會坐以待斃，Grok 3 出來時未必最強，但一定會是一線等級。
AI 耗電沒有媒體說的那麼糟。哈利拿 IEA 的數據出來，提出軟硬體進步與產出變多兩點反駁；但他不同意黃仁勳「把資料中心蓋去沙漠」的說法。
時間軸 點時碼從那一段開始
- 這週沒有大新聞哈利說這週沒有非聊不可的大科技新聞，喜歡的節目又都在談美國政治，剛好 Lex Fridman 放出 8 小時的 Neuralink 訪談，他只看了馬斯克那前兩小時。
- 黃仁勳兩場訪談SIGGRAPH 上有黃仁勳和 WIRED 記者、和祖克柏的兩場對談。哈利說大多聽過，只有 AI 能源那段是新觀點；和祖克柏那場值得看的是兩人的交情。
- 唯二的創辦人 CEO哈利逐家數 Magnificent 7，說還是創辦人兼 CEO 的只剩黃仁勳和祖克柏；Tesla 他認為嚴格來說馬斯克不算創辦人，實質上是。
- 這集的取捨哈利說訪談裡多數內容之前都介紹過，這集只挑以前沒講過、或他有新看法、能接到近期新聞的部分；Lex 幾乎問遍馬斯克的專案，沒問到 SpaceX。
- Neuralink 第二位病人馬斯克證實第二位病人已經植入晶片，手術很順利。他的說法是人類敲鍵盤的間隔，對電腦來說等於無限長，所以要拉高人腦與電腦的頻寬。
- 會思考的石頭哈利說現在的 AI 和 N1 都還很初期，但頻寬會越來越大；他接著感嘆電腦是會思考的石頭，AI 只是一堆數字，人類卻在討論它會不會毀滅人類。
- Optimus 與真實世界資料馬斯克說 Optimus 和 Tesla 的車會是最大的 AI 訓練資料來源。哈利說馬斯克每次都提到網路資料快被用完，而真實世界的資料沒有上限，Tesla 的車在路上跑就在收。
- FSD 與 Scaling Law哈利看好 Tesla 的 FSD：端到端神經網路遵守 Scaling Law，車子已有幾百萬台在路上，他期待 10 月的 Robotaxi 發表。
- NVIDIA 的機器人資料哈利轉述 NVIDIA 機器人部門負責人談的三步驟：真人戴 Apple Vision Pro 遠端操控示範，再用 Robocasa 換場景、MimicGen 換動作，刪掉失敗的。
- Optimus 的手馬斯克講到手是人形機器人最複雜的部位，工程心力可能有一半花在這裡。Tesla 受前臂肌肉啟發，把執行器改放前臂，手的自由度從 11 變 22。
- 其他家的機器人手哈利比較 Agility 的 Digit、Boston Dynamics 的新機器人和 Figure，說他們的手要嘛不是五指，要嘛執行器還在手掌裡，Optimus 有很高機率排前三。
- 自己造零件的理由哈利把改放前臂和自製執行器，解讀成馬斯克第一性原理的體現：從人怎麼做出發，市面上買不到的零件就自己做。
- 馬斯克的 Algorithm哈利從《馬斯克傳》摘出五步驟：質疑每個要求、刪除、簡化最佳化、加快週期、自動化。他舉通膨一定要 2% 當例子，說自己記不清這個數字的由來。
- 刪到過頭再加回來哈利強調要刻意過度刪除，馬斯克說沒有加回 10% 就是刪得不夠。他認為 SpaceX 發的三代 Raptor 照片就是刪減的成果。
- 順序與自動化放最後簡化要等質疑與刪除做完才能開始，自動化一定放最後。哈利說馬斯克就碰過自動化完才發現整個流程不該存在。
- xAI 的超級電腦哈利說 xAI 在 Memphis 的訓練集群上週開始運行，規劃 10 萬個 H100，馬斯克稱是人類最大，哈利無法驗證；目前在跑的外界預測約 3 萬 2 千個。
- Grok 2 與 Grok 3明年夏天計畫再建 30 萬個 B200 的集群。馬斯克說 Grok 3 會是最聰明的模型，哈利認為 OpenAI 與 Anthropic 不會坐以待斃，Grok 3 不一定第一但會是一線等級。
- Memphis 居民抗議哈利查到的新聞：居民擔心搶民生用電。資料中心耗能 150MW，當地電網只供得出約 8MW，電力公司正在談客製天然氣供電；哈利估計目前大概只跑在 40MW 左右。
- IEA 的 AI 能耗數據哈利整理常被引用的兩項數據：資料中心加 Crypto 加 AI 的耗能 2022 年約占全球 2%，2026 年會翻倍；ChatGPT 一次查詢是 Google 搜尋的 10 倍。
- 軟硬體進步省電哈利認為現在不會還是 10 倍，可能 3、4 倍。Flash Attention 3 比第二代快 1.5 到 2 倍；NVIDIA 官方數據是 B200 比 H100 少耗 25 倍的電。
- 耗能高但產出也高哈利說單次耗能高不能直接下結論：寫程式、出圖省下的時間更多。但門檻降低會讓更多人使用，總耗能怎麼變很難說。
- AI 不在乎去哪上學哈利轉述黃仁勳的說法：模型訓練完只是小檔案，資料中心可以蓋去沙漠。哈利不買單，他說訓練要連續供電好幾個月，再生能源很難穩定。
- 資料中心為何近民生哈利補充，現在資料中心蓋在民生用電旁，是為了更穩定的供電。他承認能源議題不是假議題，xAI 的 150MW 確實值得討論。
值得記的話
▶ 18:21「很明顯的我們在講的這些都是非常未來的情況現在是不太可能發生的」
▶ 19:08「其實電腦說到底它就是一塊會思考的石頭」
▶ 40:07「每一個人都知道要刪除不必要的事情不必要的流程不必要的零組件」
▶ 55:00「雖然說現在應該沒有 10 倍了但就算多了 10 倍還是比較划算嘛」
▶ 58:35「我覺得能源議題它也不是一個假議題啦」
名詞與人物
- Neuralink
- 馬斯克的腦機介面公司，哈利說植入腦內的 N1 目前只能讓病人控制電腦滑鼠。
- Optimus
- Tesla 開發中的通用人形機器人，這集談它的資料來源與手的設計。
- Robocasa
- NVIDIA 內部的生成式模擬框架，用來替換訓練資料中的場景。
- MimicGen
- NVIDIA 的工具，微調機器人的手部動作，並刪掉失敗的例子。
- The Algorithm
- 馬斯克的五步驟做事方法，哈利引自《馬斯克傳》。
- Raptor
- SpaceX 的火箭引擎，哈利拿三代外觀的演變當作刪減的例子。
- xAI 超級電腦
- 位於 Memphis 的 AI 訓練集群，規劃 10 萬個 H100，用來訓練 Grok 3。
- Grok
- xAI 的模型，哈利說目前是 1.5 版，接著是 Grok 2、Grok 3。
- Flash Attention
- 讓 Attention 運算更有效率的方法，哈利說已經出到第三代。
- IEA
- 國際能源署，年初的報告裡有哈利引用的 AI 能耗數據。
- Magnificent 7
- 哈利列出的美股七家巨頭：Apple、Google、Meta、NVIDIA、Tesla、Amazon、Microsoft。
延伸
- 8 小時的 Neuralink 訪談哈利只看了馬斯克的部分，其餘打算下週再看，有有趣的發現會另做一集。
- Figure AI 預告 8 月 6 日發表 Figure 2，哈利從預告片看到執行器仍放在手掌。
- 哈利期待馬斯克 10 月發表的 Robotaxi 最新資訊。