質疑「AI 運算永遠由數位電腦負責」這個假說，拆解類比與神經形態運算的原理、實例與商業現實，結論是五年內難以翻盤。
重點
先質疑一個沒人質疑的假說。不管看好 GPU、ASIC、TPU 還是 NPU，大家都默認未來的電腦還是馮諾伊曼架構的數位電腦。哈利這集就拿這件事開刀，先講結論：假說還是成立，兩種新電腦不可能完全取代傳統電腦。
類比運算讓物理定律直接算出答案。資料用電壓、電流、電阻這類連續的物理量表示，電流匯聚自然相加，歐姆定律自然相乘，剛好對上 AI 最吃重的矩陣乘法。代價是通用性差、雜訊比數位電腦多。
Mythic 是類比 AI 晶片的代表。用 Flash Memory 的電晶體當權重，類比與數位混合設計，官方說功耗與效率比傳統方案好 10 倍。哈利提醒這是官方說法，也沒查到更細的數字，目前只跑得動 YOLO 這類小型傳統模型。
神經形態運算靠事件觸發省電。模仿大腦的神經元、突觸與 spike，有事件才動，沒事件就不耗電，適合 24 小時監視器這種大多數時間什麼都沒發生的場景。但它不擅長密集矩陣乘法，AI 模型要轉成 SNN 也不容易，還有延遲問題。
兩者現在都近乎可忽略。類比的投資量級跟傳統 AI 硬體差非常多，近年沒有有意義的進展；神經形態連最適合的 always-on 監控，市佔都不到 1%。哈利判斷未來五年幾乎不會進入大家的雷達，五到十年才可能開始吃下部分市佔，十年後他不做預測。
時間軸 點時碼從那一段開始
- 質疑一個假說哈利喜歡停下來質疑沒人質疑的假說，就像伽利略推翻地心說。這集要質疑的題目在 AI 硬體。
- 馮諾伊曼架構的假說各派都建立在同一個前提上：未來仍是有記憶體、有處理器、一步步搬資料執行指令的數位電腦。
- 三種非傳統電腦量子電腦、類比運算、神經形態運算。量子之前講過（EP34 起），而且它不會拿來算 AI，所以這集只談後兩種。
- 現況與先講結論目前兩者可以當作不存在。結論是不太可能完全主宰 AI，三種典範都是各有擅長，不會取代傳統電腦。
- Analog 是什麼數位是離散的 0 與 1，連電壓、溫度、聲音這些連續的量才是 analog。連 MP3 的本質也是離散資料點。
- 讓物理定律去算把問題投射到物理系統，由物理定律生出答案。選了什麼物理量就決定能做什麼運算，所以不通用。
- 沒有記憶體與運算的分離資料直接參與運算。另一個差別是雜訊更多，連續不代表更精準，因為熱、drift 這類干擾很容易動到數值。
- 三類問題與為何想回歸常拿來處理微分方程與控制、最佳化、AI 的矩陣運算。回歸的理由：摩爾定律走到極限，AI 對精度的容忍度又高。
- 用記憶體做類比運算最主流的做法是 Analog in Memory Computing（AIMC），另一條路是用光子。
- AI 的矩陣乘法怎麼回事先複習：輸入變成向量，跟權重矩陣一路相乘，矩陣運算佔了 90% 以上。
- 電阻、電壓、電流對上權重、輸入、輸出乘法靠歐姆定律，加法靠電流匯聚。傳統電腦要幾千幾萬個電晶體，類比只要大概 3、5 個。
- Mythic 的 M107676 個 Tile，每個都有類比與數位部分。矩陣乘法交類比，其餘交數位，中間反覆轉換以免雜訊疊加。成熟製程約 40 奈米，官方說效率好 10 倍，只能跑小型傳統模型。
- Analog 真的要回歸嗎感興趣的人變多，但投資跟傳統 AI 硬體不能比，近年沒有有意義的進展。混合系統的製造、校正、測試與工具鏈都更難。
- 邊緣運算公司的利弊分析流程固定時功耗好看，但模型一換就得整個重新測試開發，加上現有邊緣晶片已經很省電，改善動機不強。
- 缺點能改善嗎雜訊不可能根除，但可以靠更多工程手段壓下來。哈利覺得它會來，只是不知道什麼時候。
- 時程與 Moonshot未來五年高機率不進雷達，五到十年可能從 CNN 開始吃市佔。Moonshot 是宇宙本質是類比的，哈利也提到 Demis Hassabis 常說宇宙的本質是資訊，但他自己說這有點玄。
- 神經形態運算的由來靈感來自大腦：只要大概 20 瓦。基本單位是神經元、突觸與 spike，用 spike 的數量、頻率等組成的 pattern 做運算。
- 24 小時監視器的例子像素變化觸發第一層神經元，往下依序辨識線條、輪廓、移動，最後一層判斷有人經過就加 1。哈利強調這是高度簡化的概念。
- 事件觸發與守衛比喻功耗優勢全來自事件觸發。傳統做法是定時整個網路跑一遍，像守衛每分鐘出去看一次，神經形態則是有敵人才通報。
- 算 AI 的三個硬傷不擅長密集矩陣乘法，用 spike 表示大數字很吃力。模型要轉成 SNN，大部分轉不了，Transformer 的 Attention 尤其難。原生訓練時反向傳播也不好算。
- 延遲問題工作稀疏時省電，但表示數值要發很多次 spike，延遲跟著上升。他提到一篇論文試著把 GPT-2 做成原生 SNN，主要問題就是延遲。
- 商業上同樣不划算連最適合的 always-on 監控應用，市佔也不到 1%。生態系不成熟，算法也還是問題。
- 短中期的走法短期先走混合系統：神經形態負責低功耗事件偵測，有事件再喚醒傳統電腦判斷。五到十年他認為有機會拿到有意義的市佔。
- Moonshot：always-on 的 AI 助理全年無休處理心率、財務、email 的主動式助理最適合它。但現在連 GPT-2 都跑不好，要看未來 ASI 能不能解決轉換問題。
- 總結假說成立：至少五年內兩者沒有 meaningful 的影響，中長期可能吃下部分 AI 運算，但不會完全主宰。十年後不預測。
值得記的話
▶ 19:27「不對，完全相反，這個 analog computer 是更 noisy 的」
▶ 32:46「你只要用大概 3、5 個電晶體然後你控制好你的電壓跟電阻」
▶ 39:29「雖然說理論上面很好聽，但是商業整體上面， analog 還是非常不划算的」
▶ 1:03:13「Neuromorphic Compute 的市佔也還不到 1% 一樣是一個可忽略的存在」
▶ 1:10:45「起點的定義就是我們不知道後面是什麼，他就叫做起點」
名詞與人物
- Von Neumann Architecture
- 有記憶體、有處理器，把資料和程式存在記憶體，一步步搬資料執行指令的電腦。這集質疑的假說就是它會持續主宰。
- Analog Computing
- 類比運算。用電壓、電流、電阻、光的強度等連續物理量代表資料，靠物理定律完成運算。
- Neuromorphic Computing
- 神經形態運算。模仿大腦的神經元、突觸與 spike，以事件驅動的方式運算。
- Analog in Memory Computing（AIMC）
- 用記憶體元件本身做類比運算，目前算 AI 的類比電腦大多是這種做法。
- Mythic
- 專做 Analog AI chip 的美國公司，哈利拿它當類比 AI 晶片的代表。
- M1076
- Mythic 的類比 AI 處理器，76 個 Tile，每個都有類比與數位部分。
- Hybrid 系統
- 類比（或神經形態）只負責擅長的部分，其餘交給數位電腦，兩邊反覆轉換以免雜訊累積。
- spike
- 神經元之間傳遞訊息的脈衝；神經形態運算用 spike 的數量、頻率等表示資料。
- SNN（Spiking Neural Network）
- 以 spike 運作的神經網路，是傳統 AI 模型要跑在神經形態電腦上的轉換形式。
- 事件驅動
- 有事件發生才運算，沒事件就不耗電，是神經形態運算省電的來源。
- Moonshot
- 哈利用來指一項技術發生機率極低、但成真就徹底改變世界的最佳情境。
延伸
- 量子電腦在更早的集數談過，最原始講理論的是 EP34，後面還有幾集談最新發展與應用。
- 開場提到前幾集的來賓劉博士（EP125 的劉峻誠）認為未來 NPU 會主宰 AI 硬體，這集的假說就是擺在那些路線之下的共同前提。