Grok 4.6、Jeff Dean 離職與 Meta 開源

休兩週後的新聞債一次還：Grok 4.6 逼近前沿、SpaceX 解鎖後股價不跌，Jeff Dean 與 Demis 為何離開 Gemini，以及 Meta 發的小模型為什麼值得講。

重點

Grok 4.6 進了前沿。在 AA Intelligence Index 上和 GPT-5.6 Sol 一樣是 61 分，Fable 5 是 62 分。哈利說 Grok 4.6 的成本約為 GPT-5.6 的 70%，Fable 5 的成本至少是它的 4 倍以上。

哈利認為還差一代。Grok 4.6 是 1.5 兆參數，Grok 4.7 換更大的 base model，他猜在 5 兆左右。他不覺得 4.7 能超過 Fable 5，OpenAI 與 Anthropic 手上也都還有沒發表的下一代。

SpaceX 解鎖沒有砸盤。8 月 6 日第一批 lock-up 解鎖 9 億股，股價不跌反升，現在 140 美金，高於 135 美金的上市價。哈利把這解讀成早期投資人與員工選擇續抱。

Jeff Dean 與 Demis 的離開。哈利的看法是 Gemini 的技術路線已經確定，剩下的多是工程與漸進式研究，兩人的時間不如拿去做 RSI（Jeff Dean）與 AI for Science（Demis）。

對 Google 的預判。哈利認為 Gemini 3 系列今年回不到前沿，Gemini 4 年底前可能公布但也追不上，明年的 Gemini 5 才有機會。他沒有賣 Google 股票，也沒有加碼。

Meta 重回開源。Muse Glimmer 是 30B 的小模型，並附上用 DFlash 做的 3B drafter，搭配 speculative decoding 後 tokens per second 會快一倍。哈利很開心，但認為 Meta 追到前沿後多半不會再開源。

時間軸 點時碼從那一段開始

1. 02:45兩週假與越南行節目開台三年來第一次連休兩週，哈利剛從越南富國島回來，只帶回一個感冒，這集鼻音很重。
2. 09:02模型多到失調從七月初到現在六個禮拜，哈利算出十五個重點模型，他只挑會影響成本結構或主力模型的來講。
3. 10:20Grok 4.6 加入前沿原本前沿只有 Fable 5 與 GPT-5.6，SpaceXAI 的 Grok 4.6 在 AA Intelligence Index 拿 61 分，與 GPT-5.6 Sol 打平。
4. 13:01體感與性價比哈利自己沒用過，看工程師討論整理出：比 GPT-5.6 Sol 稍弱一點，明顯輸 Fable 5，但成本便宜很多。
5. 14:39小模型打到這個程度4.6 與 4.5 共用 base model、API 價格相同；參數量只有 1.5 兆，對比另外兩者的傳聞尺寸，這成績不容易。
6. 16:16期待 Grok 4.7馬斯克說已訓練完成、再三四週推出；改用更大的 base model，並加入 SpaceX 的公司資料。
7. 17:53還差一代哈利不同意「已經趕上」的說法：據流出消息，OpenAI 內部有江湖人稱 GPT-6 的 Astra；他也相信 Anthropic 內部有 Mythos 之後的模型。
8. 20:03SpaceX 解鎖後不跌上市前被說成割散戶韭菜，結果 9 億股解鎖後股價仍升，哈利認為說它是 scam 的人該道歉。
9. 24:06Google 高層異動Jeff Dean 離開創辦 Discovery Loop，Demis Hassabis 轉任 Alphabet 的 Chief Scientist，哈利說自己也被嚇到。
10. 27:09為什麼是現在離開哈利的判斷是 Gemini 不需要他們了：LLM agent 的大方向已定，剩下偏工程與漸進式研究。
11. 34:03RSI 與新創Jeff Dean 看上 recursive self-improvement，在 Google 內搶資源比自己開公司難；哈利談為何 RSI 的曙光是真的。
12. 39:38對 Google 的影響Gemini 3 今年回不了前沿，Gemini 5 才有機會；他擔心代價是 world model、Genie 這類長遠研究被擠壓。
13. 43:54祖克柏談 AI 權力分散祖克柏親筆長文主張 AI 權力該分散，並預告開放 Muse Spark 1.2 權重；哈利說這是矽谷的主流風向。
14. 45:37Muse Glimmer30B 的開源小模型，可在 24GB VRAM 的機器上跑；發布當天是同尺寸最強，四天後被 Qwen3.8-27B 超過。
15. 46:57Speculative decoding小模型先猜 token、大模型一次驗證；舉例 16 個猜中前 7 個，tokens per second 增加一倍，只多佔 1.7 GB。
16. 50:21DFlash 的 drafterdrafter 用 diffusion model，從大模型抽 hidden representations 當線索，一次產生 16 個 token。
17. 51:58Meta 回開源與收尾哈利樂見其成，但覺得 Meta 是看風向；最後點到 Gemini 3.7 Flash 與 DeepSeek 的新模型，這集不展開。

值得記的話

• 「Jeff Dean 跟 Demis 覺得 Gemini 不需要他們了」

  ▶ 27:09

• 「他們的聰明才智如果還是花在 Gemini 上面的話這個投資報酬率真的沒有到很高」

  ▶ 30:20

• 「我們現在就真的是看到 RSI 的曙光出現的此刻」

  ▶ 35:57

• 「你不會犧牲模型品質然後你只會多佔用 1.7 GB 的記憶體」

  ▶ 50:04

• 「我覺得他們選擇開源這件事情就是非常好的一個結果」

  ▶ 52:55

名詞與人物

SpaceXAI

馬斯克旗下的 AI 公司，Grok 系列的開發者；哈利提到它收購了 Cursor。

Grok 4.6

這集主角，與 4.5 共用 base model，1.5 兆參數，AA Intelligence Index 61 分。

AA Intelligence Index

Artificial Analysis 的綜合智力基準，哈利稱它算有公信力。

Fable 5

Anthropic 的前沿模型，這集裡 AA Intelligence Index 62 分、最強但最貴。

GPT-5.6 Sol

OpenAI 的前沿模型，哈利自己寫程式用的主力。

lock-up period

閉鎖期，上市後早期投資人與員工一段時間內不能賣股票。

Jeff Dean

Google 的傳奇工程師，離開後創辦 Discovery Loop。

RSI

recursive self-improvement，讓 AI 自己訓練下一代 AI；Discovery Loop 的第一個目標。

Muse Glimmer

Meta 發布的 30B 開源小模型，可跑在 24GB VRAM 的機器上。

Speculative decoding

小模型先猜、大模型一次驗證的推論加速技巧，不降低品質。

DFlash

UCSD 團隊的技術，用 diffusion model 當 drafter。

延伸

• SpaceX IPO 的 scam 爭議，哈利說上一集已經講過。
• 黃仁勳要把 NVIDIA 的 AI Factory 變成可被投資的資產類別，哈利說這集講不完，之後再談。