← 所有節目科技浪

2024 · EP48

腦內晶片進度與 AI 泡沫

2024 年 7 月 15 日 · 59 分鐘

▶ 收聽這一集

原標題:EP48 - Neuralink進度更新、AI投資是否泡沫化?

哈利整理 Neuralink 半年來的人體實驗進度與壓縮難題,再用粗估推算 AI 硬體投資會不會泡沫化,他的結論是不會。

重點

第一位受試者用得很頻繁。Nolan 今年二月植入 N1,這次更新只開放記錄功能,還不能刺激。他玩 Civilization 的 Emperor Mode 和 Speed Chess,有一週用了 70 小時,實驗安排的時間最多不過 20 小時。第二位受試者下週開始,FDA 已核准。

細線使用率只有 15%。目前大概 15% 的細線有在被使用。哈利列了幾種可能,像是大腦隨呼吸會移動 3 毫米左右、細線插不夠深而掉出來、或大腦排斥外來物,但提醒團隊沒有說 15% 就是壞掉造成的。他們的改善方向是插得更深。

哈利認為真正的瓶頸是壓縮。藍牙頻寬大約 1Mbps,而 Neuralink 公開的壓縮挑戰要把 200Mbps 的資料壓縮 200 倍、不能失真、要即時跑在 N1 上。X 上有人算出理論最大值是 3.439 倍。這次更新完全沒提,哈利覺得困惑。

Blindsight 比 Telepathy 難。下一步要做讓盲人看見的 Blindsight。哈利認為它的價值遠大過遠端控制電腦,但要刺激神經元,動物實驗也只看到猴子看到假想的黑點白點。他把腦機應用分成「確定有機會」和「還不確定」兩類。

泡沫論的起點是 600 Billion。Sequoia Capital 合夥人 David Cahn 依 NVIDIA 營收推算,買 GPU 的公司未來至少要靠 AI 賺到 600 billion。哈利拿 OpenAI 一年 3.4 billion 對照,認同現況差距很大,但不認同會泡沫化。

哈利的估算與風險。GPU 預估用五到七年;單看 Devin 這類 AI 軟體工程師,他粗估三年就能累積 540 billion。他最可能錯在回報的時間點,也強調不給投資建議,自己的想法是投資大盤。

時間軸 點時碼從那一段開始

  1. Eminem 新專輯哈利聽完 Eminem 的新專輯 The Death of Slim Shady,覺得像看了一部電影:Slim Shady 綁架 Eminem,最後被 Eminem 殺掉。他形容這是神作,但尺度大,可能冒犯人。
  2. 本週兩個題目這週科技新聞不多,他挑了 Neuralink 最新更新與 AI 是不是開始泡沫化。後者起因於 David Cahn 的文章與 Goldman Sachs 的報告。
  3. Neuralink 為什麼存在快速回顧:馬斯克想提升人腦與電腦的頻寬,達到人與 AI 共生,降低被 AI 統治的風險。哈利說一個人一天與電腦的頻寬小於 1bit per second。
  4. N1 晶片與手術N1 像一個 Apple Watch 接著很多比頭髮還細的線,由 R1 機器人植入,手術約 15 分鐘。晶片有記錄與刺激兩大功能,對應 Blindsight 與讓癱瘓者行動。
  5. 受試者 Nolan今年二月植入第一位四肢癱瘓的病人,沒有明顯副作用。他玩 Civilization 與 Speed Chess,有一週用了 70 小時。
  6. 第一版的不完美第二位受試者下週開始。團隊提到手術留下的泡泡、深度與頭骨厚度對不齊,以及只有約 15% 的細線被使用。
  7. 被略過的壓縮問題藍牙頻寬約 1Mbps,所以資料壓縮是關鍵。壓縮挑戰要求 200 倍、無失真、即時,被認為不可能,哈利推論瓶頸在壓縮而非細線使用率。
  8. 下一步 Blindsight團隊重申要做 Blindsight,連出生就盲的人也有機會看見,甚至看到紅外線與紫外光。哈利覺得它比 Telepathy 有價值,但難度高很多。
  9. 確定與不確定的應用哈利主張把腦機應用分兩類:解決癱瘓、Blindsight、控制機器人是有機會做出來的;上傳記憶、下載知識包則不確定。
  10. 600 Billion 之問David Cahn 的文章依 NVIDIA 營收推算需要 600 billion 的 AI 營收,OpenAI 一年 3.4 billion。Goldman Sachs 和麥肯錫也有報告,All In 與 BG2 的看法各異。
  11. 哈利的立場同意 David Cahn 對現況的描述(H100 一顆 30K 美元還是被搶光),但他的結論是不會泡沫化,並提醒這只是個人淺見。
  12. 兩個關鍵數字與 GPU 壽命文章沒細算 GPU 折舊與 AI 營收成長率。他以 V100 從 2017 年推出、到 2022 年沒人用,估 GPU 有用年限約 4 到 5 年。
  13. Karpathy 的 GPT-2Andrej Karpathy 用 8 個 H100 一天預訓練出 GPT-2,雲端花 672 美元;當年 OpenAI 約花將近 10 萬美元,成本差 150 倍。
  14. 摩爾定律減緩Blackwell 的算力密度比 Hopper 沒提升很多,哈利認為折舊會變慢,GPU 大概可用五到七年。這些 GPU 要在這期間賺回 600 billion 以上。
  15. Product、Prototype、Prospect他把生成式 AI 分三類:ChatGPT、Claude、GitHub Copilot 是 product,Devin、Sora 等多數是 prototype,其餘是未來願景。
  16. Devin 的試算單價抓一年 1 萬美金,全球 2700 萬軟體工程師被取代三分之二,約 1800 萬人,一年 180 billion。花四年採用、再三年共 540 billion。
  17. 其他 prototype 與 Wildcard客服一兩年就會全面採用,另有 RAG、Tesla FSD、機器人、Sora。路透社報導 OpenAI 的 Q* 改名 Strawberry,哈利說可信度可再討論。
  18. 結論與風險AI 價值被低估,且可能在硬體過時前發生。最可能錯在回報延後;他不給投資建議,只說自己會投資大盤。
  19. 聽眾留言回覆感謝留言。有人問字幕檔格式在手機打不開,哈利說是自己改程式造成,之後會調整。

值得記的話

  • 「你要開發 Blindsight 絕對是比 Telepathy 更挑戰非常非常多的一件事情」

    ▶ 25:48
  • 「現在生成式 AI 真的沒有產生多大的經濟價值」

    ▶ 42:03
  • 「AI 的一年真的是其他科技的十年」

    ▶ 52:14
  • 「AI 帶來的價值我覺得是被大家低估的」

    ▶ 53:15
  • 「這個 AI 這個技術就是會大幅提升全人類的生產力」

    ▶ 55:03

名詞與人物

Neuralink
馬斯克的腦機介面公司,這集談它半年來的人體實驗進度。
N1 與 R1
N1 是植入腦中的晶片,連著很多條極細的線;R1 是負責植入的手術機器人。
Nolan
Neuralink 第一位四肢癱瘓受試者,用晶片玩電腦遊戲。
Telepathy
馬斯克所謂的心電感應,靠記錄神經活動直接用思想控制滑鼠與按鈕。
Blindsight
下一個要開發的功能,刺激神經元讓盲人看見。
Compression Challenge
Neuralink 公開的挑戰:把 200Mbps 神經資料無失真、即時壓縮到 1Mbps。
David Cahn
Sequoia Capital 合夥人,寫了標題為 AI 600 Billion Question 的文章,是這波泡沫討論的起點。
Andrej Karpathy
前 OpenAI 工程師,用自己寫的程式一天預訓練出 GPT-2,哈利用它說明算力成本下降。
Devin
能做初階軟體工程師工作的 AI,哈利拿它當營收試算的代表產品。
Strawberry
路透社報導的 OpenAI 計劃,據說是 Q* 的進階版,強調推理與長遠規劃。
Product、Prototype、Prospect
哈利對生成式 AI 的三分法:已有價值、還是原型、未來願景。

延伸

  • Neuralink 的完整介紹與 Blindsight 的運作原理,哈利說在科技浪 EP26。
  • Devin 是什麼,哈利說在科技浪 EP31。
  • 摩爾定律是否停滯,哈利說上一集有聊到。