← 所有節目科技浪

術語速查

672 個名詞與人物，都連得回它出現的那一集。同一個詞在好幾集出現時，各集的說法都留著。

672 個

Scaling Law 7 集
EP47參數與訓練資料給得越多模型越強，而且幾乎可以預測，是這集立論的起點。
EP50模型參數與訓練資料量如何調整會影響結果的觀察，哈利強調它是觀察到的現象，不是定律。
EP57丟越多算力，模型表現可預期地越好。
EP65給 AI 模型更多參數、訓練資料與算力就會更強的經驗現象；哈利強調它不是真正的物理定律。
EP115擴展定律：砸越多晶片、參數越多，AI 越聰明。Sega 認為它已經撞牆。
EP117擴展定律，模型更大、資料與算力更多就會更強；本集爭論它是否已死。
EP133擴展定律；哈利談的是預訓練階段，主張合成資料讓它沒有停。
Harness 5 集
EP135模型的運行框架，也就是在什麼產品、用什麼邏輯跑它；哈利說 AI agent 的強度模型與 harness 各佔一半。
EP136模型的駕馭框架；哈利說靠它也能把現有模型做成各種任務的形狀。
EP139模型運行的環境與工具，如 Antigravity、Codex；哈利說 2026 年模型與 Harness 是一起優化的。
EP141包住模型、讓它能當 Agent 運作的軟體；Mac mini 上跑的就是這一層
EP147包住模型的工具與流程，如 Codex、Claude Code、Grok Build；他說模型加 Harness 才是完整的產品。
CUDA 4 集
EP43NVIDIA 讓 AI 程式在自家 GPU 上跑得最有效率的軟體，從 2006 年開始做，哈利說有幾百萬個開發者在用。
EP47NVIDIA 從 2006 年開發的軟硬整合平台，含編譯器與各種函式庫，是 NVIDIA 的軟體護城河。
EP125NVIDIA 的通用軟體層，Albert 認為它是 GPU 在訓練端的護城河，到 Phase 2 與 3 就不存在。
EP151讓非遊戲運算的應用在 NVIDIA GPU 上跑得好的軟體平臺；哈利談的護城河，指的是搬到別家晶片的移植成本。
Digital AGI 4 集
EP118哈利自己的定義：能完成數位世界所有工作、做得跟人類一樣好的 AI。
EP135哈利的用語；他定義的是能完成大部分白領知識工作、但不必完美的 AGI。
EP136哈利用語，指能勝任所有知識工作的 AI，他認為一兩年或兩三年就會出現。
EP147他的定義：能完成現在 60 到 80% 人類數位工作的 AI。
Ilya Sutskever 4 集
EP41OpenAI 共同創辦人、AI 研究員，哈利說他是去年開除奧特曼風波的主導者，這次辭職。
EP65路透社引用他說 Scaling Law 有停滯跡象；哈利說他是最早看到 Scaling Law 苗頭的人之一，新公司叫 SSI。
EP115OpenAI 共同創辦人之一，後來自己開公司；Sega 說他在 2024 年就講過擴展定律逐漸失效。
EP117OpenAI 共同創辦人，上 Dwarkesh Patel 的 podcast 時被認為說了 scaling law 已死，哈利解讀成資料不足。
Mythos 4 集
EP134Anthropic 的更大模型，哈利估約 10 兆參數以上，證明模型已能造成重大資安威脅。
EP136Anthropic 為了大義暫不釋出的模型；哈利說若釋出，不會輸給 GPT-5.5。
EP138Anthropic 的強大模型，因資安能力太強只小規模開放給企業與研究團體。
EP143Anthropic 因安全考量沒有釋出的模型，哈利拿來當作比 Opus 4.8 更高一級的標竿。
Optimus 4 集
EP45Tesla 的人形機器人；Ark 的模型沒把它算進去，但提到長期是 24 Trillion 的市場。
EP51Tesla 開發中的通用人形機器人，這集談它的資料來源與手的設計。
EP60特斯拉的人形機器人；現場出場的是員工遠端操控的版本。
EP123特斯拉研發中的人形機器人。
Starship 4 集
EP44SpaceX 的火箭，哈利說是有史以來最大、最重、推力最強，目標是完全重複利用。
EP61星艦，SpaceX 的火箭，由下方的推進器（Booster）與上方的飛船組成；節目裡一整隻叫星艦，上面那段叫飛船。
EP119SpaceX 打造的超大型火箭，最終目標是載人殖民火星。
EP132SpaceX 的星艦，哈利講它的目標單次發射成本在 1000 萬美元以下。
Test Time Compute 4 集
EP57回答時花更多算力思考，OpenAI 說思考越久結果越好。
EP60讓模型回答時多花時間思考的做法；哈利說 OpenAI 的結果顯示思考越久答案越好。
EP62回答時一步一步思考與反思的做法，哈利說這是推理模型比較嚴格的學術稱呼。
EP147讓模型花更多時間與算力思考以得到更好結果；他說 OpenAI 內部驗證過多次，沒有看到邊際效應明顯遞減。
蒸餾 4 集
EP120用強的大模型調教小模型，讓小模型接近前沿智能但成本低很多，哈利拿來解釋成本為什麼掉 150 倍。
EP133收集別家模型的輸出來訓練自己的模型；哈利說 DeepSeek 收集了 Opus 的輸出。
EP136把大模型的知識壓縮到更小的模型。哈利說這證明大模型有很多參數是浪費的。
EP148用強模型的輸出訓練另一個模型；哈利認為對 K3 只是省時間與算力。
ASIC 3 集
EP47專為某種應用設計的 IC；Sohu 被形容成連演算法都固定的 Algorithm Specific IC。
EP49哈利說想當礦工要買的夠力晶片。
EP125把單一垂直應用做到極簡的晶片，Albert 認為在 AI 上只是暫時方案。
Cerebras 3 集
EP55推出號稱比 GPU 快 20 倍的 AI 推論引擎的公司。
EP125做整片晶圓晶片的公司，Albert 說這種做法風險高，客戶集中。
EP146只做 AI 運算晶片的公司，以整片晶圓當一顆晶片聞名；創辦人暨 CEO 是 Andrew Feldman。
Etched 3 集
EP472022 年在矽谷成立的 AI 晶片新創，名字取自把 Transformer「刻」在晶片上；剛募完 120M，投資人有 Peter Thiel。
EP125哈利提到 all-in Transformer 的 ASIC 玩家。
EP146由哈佛輟學生創辦的 AI 晶片公司，第一代產品是只做推論的整櫃系統。
FSD 3 集
EP45Tesla 的自動駕駛技術（Full Self Driving），這集討論的是 V12 之後的版本。
EP117特斯拉 Full Self Driving，哈利說目前是 supervised，駕駛仍要看著。
EP122特斯拉的自動駕駛系統，哈利說它是完整的 Driver Model 搭配 Reasoning Model 輔助。
Fable 5 3 集
EP142Anthropic 推出的模型，哈利說基本上是 Mythos 加上額外安全防護的版本；推出三四天後被美國政府禁止境外使用，隨後全面收回。
EP147Anthropic 的模型，哈利認為是目前智能最高、也是比較大的模型，兩週前回歸。
EP150Anthropic 的前沿模型，這集裡 AA Intelligence Index 62 分、最強但最貴。
HBM 3 集
EP131High Bandwidth Memory，AI 晶片用的高頻寬記憶體，哈利說目前嚴重短缺。
EP145最貼近 GPU 的高頻寬記憶體，來賓說所有進 GPU 的資料幾乎都經過它
EP146高頻寬記憶體，堆在 GPU 晶片周圍，NVIDIA GPU 把權重與 KV Cache 存在這裡。
KV Cache 3 集
EP122模型回答時暫存之前所有 token 資訊的地方，隨對話變長而變大，會塞爆 GPU 記憶體。
EP138模型理解前後文時產生的中間運算結果，暫存可省下重算；互動模型必須常駐在 HBM。
EP146模型理解前後文時產生的中間資料，每位使用者都要各存一份，是主要的容量壓力。
KV cache 3 集
EP131推論時暫存下來的 Key 和 Value 向量，每產生一個新 token 都要重複使用。
EP145推論每一輪產生 token 時存進記憶體的中間結果，不夠就得重算
EP148算注意力時存在記憶體裡的 Key 與 Value 中間產物，context 越長越大。
LoRA 3 集
EP56低秩適配器，哈利比喻成「知識包」，加在底模上就能學會某個角色或風格。
EP113Low Rank Adaptation，只訓練兩個低維小矩陣的微調方法，產出的 adapter 很小。
EP142在基礎模型上加一個輕量修正矩陣來增強某項能力。哈利認為蘋果已放棄這條路線。
Orion 3 集
EP59Meta 的 AR 眼鏡原型，真的可用，但這一代決定不上市。
EP64哈利說今年太多 Orion：Meta 的智慧眼鏡、Snapdragon 8 Elite 裡的 CPU，以及外界猜的 OpenAI 新模型名稱；Miula 談的是 Meta 那副眼鏡。
EP65The Information 爆料中 OpenAI 內部對下一代 base model 的稱呼，外界以為是 GPT-5。
合成資料 3 集
EP62讓 AI 自己產生訓練資料，在能實際執行驗證的 Coding 上特別好用。
EP115資料不夠時用 AI 產生的訓練資料。Sega 比喻成同一張紙影印十次。
EP117用 AI 產生的訓練資料，哈利認為 Gemini 3 Pro 與 xAI 的預訓練都在用。
太空資料中心 3 集
EP119把 AI 運算放到太空，用太陽能供電；反方認為發射成本、散熱與輻射是主要障礙。
EP129馬斯克的計畫，哈利認為只有它成功，TeraFab 的規模才撐得起來。
EP142很多顆 AI 衛星用雷射連起來，每顆約一個 GB300 NVL72 機櫃的算力。哈利認為這是 SpaceX 估值的關鍵。
51% 攻擊 2 集
EP49掌握超過一半算力、能持續算出更長的鏈，是哈利說唯一能攻破比特幣區塊鏈的方式。
EP126掌握底層超過 51% 算力就能控制區塊鏈出帳；腦哥說比特幣沒發生過，其他鏈有。
Alpamayo 2 集
EP122NVIDIA 的自駕技術平台，包含模型、simulation framework 與資料集；其中新的模型是 Alpamayo 1。
EP130NVIDIA 的開源自駕模型，VLM 優先的做法，與特斯拉 FSD 路線相反。
Andrej Karpathy 2 集
EP48前 OpenAI 工程師，用自己寫的程式一天預訓練出 GPT-2，哈利用它說明算力成本下降。
EP110哈利整理的第一場訪談的受訪者，曾是 OpenAI 早期創辦人之一、Tesla AI Director，現在自辦教技術的學校。
Artificial Analysis Intelligence Index 2 集
EP147第三方評測機構的綜合指數，含 9 個 Benchmark，也公布跑完的成本。
EP148綜合多項 Benchmark 的指數，哈利說一直以來和實際狀況很接近。
Atlas 2 集
EP111OpenAI 發表的 AI 瀏覽器，基於 Chromium，目前只開放 Mac。
EP115OpenAI 發表的瀏覽器，Sega 說發表後 9 個小時內被指出是基於 Chrome。
Batch Size 2 集
EP138一次推論裡同時處理的 request 數量；越大單位成本越低，但延遲越高。
EP146系統同時能服務的使用者數量，這集用來比較 NVIDIA 機櫃與 Cerebras。
Chinchilla 2 集
EP50Google 研究者提出的 Scaling Law，主張訓練資料量要跟參數量等比例增加。
EP65Google DeepMind 的 Scaling Law 論文，主張訓練資料量要跟模型參數量一起放大。
Code Red 2 集
EP117奧特曼在內部備忘錄宣布的最高級緊急狀態，暫緩次要專案，集中改善 ChatGPT。
EP136去年底 OpenAI 內部的紅色警戒，砍掉不必要的功能與研究路線，把資源集中在最重要的事。
CoreWeave 2 集
EP114買 NVIDIA GPU 再出租給其他公司的 GPU Cloud 公司。
EP151哈利拿來當例子的 NeoCloud；他說它若倒閉，空下來的 AI Factory 必須能轉手。
Cost Plus 合約 2 集
EP54價格是廠商成本再加利潤，不管花多少 NASA 都保證不虧；哈利說這是 Space Shuttle 貴的原因之一。
EP132政府負擔承包商的全部實際成本，再另付約定好的利潤，哈利認為承包商因此不追求效率。
Demis Hassabis 2 集
EP53Google DeepMind 的 CEO，哈利推薦他在 Google DeepMind Podcast 的訪談。
EP139Google DeepMind 的 CEO，這次 I/O 由他負責結語。
Devin 2 集
EP47AI Coding Agent，哈利歸為 Prototype，認為推論變快變便宜後可行性會高很多。
EP48能做初階軟體工程師工作的 AI，哈利拿它當營收試算的代表產品。
Dwarkesh Patel 2 集
EP113Dwarkesh Podcast 主持人，認為模型缺乏 continual learning，AGI 還很遠。
EP114這集納德拉訪談的主持人。
Falcon 9 2 集
EP61SpaceX 現有的火箭，是唯一做到經濟可行重複使用的，但只有推進器能回收。
EP119SpaceX 的主力火箭，2015 年底首次成功在陸地著陸回收。
Flash Attention 2 集
EP51讓 Attention 運算更有效率的方法，哈利說已經出到第三代。
EP110運算結果不變、靠減少 HBM 與 GPU 間搬運而加速的 Attention kernel。
GB200 NVL72 2 集
EP43NVIDIA 的機櫃式伺服器，內有 72 個 Blackwell GPU 與 36 個 Grace CPU。
EP131NVIDIA 的伺服器機櫃，哈利說總 HBM 為 13.8TB，用它來估算省下多少記憶體。
GDPval 2 集
EP134以白領工作實際專案評比模型的基準測試，用 Elo 分數排名，哈利認為最接近衡量 Digital AGI。
EP139測 AI 完成白領經濟任務的 benchmark，這集引用的是 Artificial Analysis 的 ELO 分數，他們用 AI 評分。
Groq 2 集
EP47同樣做 LLM 專用 ASIC 的公司，有公開網站讓人體驗 LPU，哈利拿來對照 Etched 沒有 Demo。
EP146同樣以 SRAM 為主的 AI 晶片，哈利提到 NVIDIA 買下它，用在 Decode 階段。
Jagged Intelligence 2 集
EP135模型在複雜任務上很強、在人類覺得簡單的事上卻會出錯的狀態，哈利預期 Digital AGI 也是這樣。
EP137鋸齒狀智能：AI 在困難的事上很強，簡單的事卻可能出錯，哈利用來形容手機上的 Gemini。
Jevons Paradox 2 集
EP136傑文斯悖論：效率提升後總用量反而增加，哈利說被很多人當成定律用。
EP148技術變便宜之後，整體用量反而增加（傑文斯悖論）。
Kimi K3 2 集
EP148Moonshot AI 的新模型，2.8 兆參數的 MoE，即將釋出權重，哈利評為全球第三強。
EP149月之暗面的模型，哈利說規模 2.8 兆參數，成本約 Fable 的一半，是這波爭議的導火線。
MFU 2 集
EP50Model Flops Utilization，可想成 GPU 算力的使用率，這次訓練平均約 40%。
EP146Model Flops Utilization，GPU 算力的實際利用率。
Macro Hard 2 集
EP129馬斯克新開的專案，哈利解釋成做 digital AGI、可以做任何數位工作的 AI。
EP132xAI 的大計畫，哈利形容為可做大部分知識工作的數位 AGI。
Mamba 2 集
EP46去年底讓 SSM 爆紅的論文與架構，讓每個輸入使用不同的權重。
EP125State Space Model 的一種，Albert 說它與 Transformer 在算子層面已經 merge。
Moonshot AI 2 集
EP124中文名月之暗面的中國 AI 公司，Kimi 系列的開發者。
EP148月之暗面，開發 Kimi 的中國 AI 公司，估值 315 億。
NPU 2 集
EP91neural processing unit，AI PC 用來跑 AI 的處理器，哈利在中文開場裡談到。
EP125Albert 的主軸：專為 AI 設計的處理器架構。他說 TPU、LPU 都是加強某一塊的類 NPU 架構。
Neuralink 2 集
EP48馬斯克的腦機介面公司，這集談它半年來的人體實驗進度。
EP51馬斯克的腦機介面公司，哈利說植入腦內的 N1 目前只能讓病人控制電腦滑鼠。
Noam Brown 2 集
EP62以 Test Time Compute 聞名的研究員，做過玩撲克與 Diplomacy 的 AI，哈利說他在 OpenAI。
EP65OpenAI O1 的 test time compute 專家，說自己被媒體斷章取義，仍相信 LLM 的 Scaling Law 會持續。
Palantir 2 集
EP114做資料分析平台的軟體公司，Burry 做空的另一檔，哈利說自己看不懂。
EP127大數據整合分析公司，美軍透過它使用 Claude。
Perplexity 2 集
EP52AI 搜尋產品，哈利認為在 AI 搜尋上已經超過 Google。
EP64AI 搜尋產品；Pro 版可用 Claude 3.5 Sonnet 等模型，免費版可能是自家用 Llama 調的模型。
Post Training 2 集
EP62模型讀完大量資料後的特定訓練，資料來源與課程安排都能調整。
EP113預訓練之後的訓練階段，哈利說近一年大部分模型進展來自這裡。
Pre-training / Post-training 2 集
EP50前者是餵大量資料建立基本認知，後者用較小的資料集強化特定能力並調整價值觀。
EP56前者用大量資料建立基本能力，後者用較少資料調教特定能力；Google 來賓認為各國可在後者用自己的語言資料。
Project Glasswing 2 集
EP133Anthropic 讓 Apple、Broadcom、Cisco、CrowdStrike、Google、NVIDIA、The Linux Foundation 等先用 Mythos 補自己負責的軟體。
EP149Anthropic 的計畫，讓美國企業在接下來幾個月補強資安。
Project Kuiper 2 集
EP112Amazon 的衛星計畫，哈利說 Amazon 同時擁有火箭、衛星與 AWS 資料中心。
EP119亞馬遜的低軌衛星網路計畫，哈利說它最近好像改名為 Project Leo，目前只有一百多顆衛星。
Prompt Injection 2 集
EP111在網頁裡藏人看不到、AI 讀得到的惡意指令，哈利認為是 AI 瀏覽器最大的問題。
EP124模型把讀到的惡意指令當 prompt 執行，哈利說這個問題無解。
RL 2 集
EP115增強式學習。Sega 認為它是學習的最後答案，也最接近 AGI。
EP136強化學習：給題目和答案讓模型自己嘗試。要有明確可驗證的答案才好用。
RSI 2 集
EP148recursive self-improvement，AI 讓下一代 AI 變得更強的自我迭代。
EP150recursive self-improvement，讓 AI 自己訓練下一代 AI；Discovery Loop 的第一個目標。
SearchGPT 2 集
EP50OpenAI 宣布推出的 AI 搜尋引擎。
EP64OpenAI 讓 ChatGPT 聯網搜尋的功能，正式名稱是 ChatGPT Search，哈利整集沿用舊名。
Snapdragon Digital Chassis 2 集
EP63高通的智慧車輛整包方案，晶片分 Cockpit、Ride、Ride Flex 三種。
EP91高通把座艙、連網、car to cloud 等車用能力包起來的方案。
Spud 2 集
EP133OpenAI 內部與 Mythos 同量級的模型，預計再一兩個禮拜就出來。
EP135GPT-5.5 背後的新 Base Model 系列代號，哈利稱它是 OpenAI 兩年預訓練研究的集大成。
Starlink 2 集
EP64SpaceX 的衛星網路；Miula 說台灣因持股 51% 的要求與馬斯克希望獨資而用不了。
EP119SpaceX 的低軌衛星網路，哈利稱它是印鈔機，預估占明年營收的 65%。
Starlink V3 2 集
EP119天線比 V2 mini 大好幾倍的新一代衛星，無法放進 Falcon 9，要由星艦發射。
EP149Starlink 的最新一版衛星，太大、Falcon 9 送不上去，只能由星艦部署；哈利說頻寬從 V2 mini 約 78Gbps 變成 200Gbps。
TPU 2 集
EP116Tensor Processing Unit，Google 專為 AI 運算設計的晶片，2013 年內部開案。
EP125Google 的晶片，在 Albert 的說法裡是加強 Tensor Core 的類 NPU 架構。
TerraFab 2 集
EP132馬斯克接下來要蓋的晶圓廠，哈利把它算在自己供應鏈而不單獨估值。
EP140馬斯克計畫自建的晶圓廠，哈利說名稱來自想一年生產一兆瓦（terawatt）等級的 AI 算力
Thinking Machines 2 集
EP113Mira Murati 今年年初創立的 AI 公司，目前焦點是模型微調。
EP138OpenAI 前 CTO Mira Murati 創辦的 AI 新創；哈利說他們先前偏重 fine tuning，現在推出自己的模型。
Token Maxing 2 集
EP135矽谷流行說法，指狂用 Token 到最大；哈利說現在每間公司都在這樣做。
EP141過去半年的風氣：比誰用的 token 多，代表公司越 AI native
Transformer 2 集
EP46現在主流大型模型的架構，自注意力運算量隨文章長度平方成長。
EP115擴展定律底層的架構，複雜度是平方，是長程記憶的限制。
VLA 2 集
EP122Vision Language Action Model，從多模態語言模型微調出能輸出動作的模型。
EP123Vision Language Action Model，目前人形機器人的主流架構，同時具備理解、思考與動作能力。
Waymo 2 集
EP45Google 旗下的無人計程車公司，哈利說它走光達加高精度地圖的路線。
EP91他提到已在多個城市營運的自駕計程車，他說便宜過計程車與 Uber。
統一記憶體 2 集
EP64蘋果讓多種處理器共用同一塊記憶體的設計，哈利拿來說明 Mac mini 升到 16GB 的價值。
EP141CPU 與 GPU 共用的記憶體池，省掉資料在 VRAM 與系統記憶體間搬運
量化 2 集
EP65降低模型參數的資料精度（每個數字用幾個 bit），讓模型占用較少記憶體、跑得更快。
EP131把原本用 16-bit 存的數字改用 4-bit 或 8-bit 存，換取更少的記憶體，代價是損失一些資訊。
1-Gamma
EP145美光目前大量出貨的製程世代產品
10 Blue Links
EP52傳統 Google 搜尋丟給你一長串連結的樣子，哈利預期會被 AI 搜尋大幅取代。
3D Gaussian Splatting
EP67用 3D 高斯分布代表點雲中的點，哈利說嚴格來說不是 AI 技術；Christoph Lassner 研究出它的前身。
3P 框架
EP47哈利自己提出的分類：Product 已創造價值、Prototype 即將到來、Prospect 連雛形都沒有。
AA Intelligence Index
EP150Artificial Analysis 的綜合智力基準，哈利稱它算有公信力。
ADK / A2A
EP144Google 開放的 Agent 開發套件與 Agent 之間溝通的協定，屬於高客製路線。
AFM
EP142Apple Foundation Models，蘋果這次更新的一組地端與雲端模型。
AI Factory
EP151NVIDIA 對整套 AI 算力基礎設施的說法，從晶片、機櫃到網路、供電、水冷與軟體。
AI Fireside Chat
EP56半導體展大師論壇最後一小時的對談，哈利說是今年新增的環節。
AI Overview
EP64Google 直接做在搜尋裡的 AI 總結功能，哈利無法強制開啟，所以沒納入比較。
AI PC
EP141哈利認為是為未來搬運算而預先鋪好的硬體，不是騙人的東西
AI Scientist
EP60Sakana AI 的論文，用 LLM 加一套流程自動發想題目、做實驗、寫論文，哈利認為還很廢但方向對。
AI native
EP141從一開始就以 AI 為中心設計產品開發流程的公司，哈利舉 Anthropic 為例
AI 永動機
EP120他提名的年度關鍵字，英文說法有 AI circular trade 與 AI round-tripping。
AI5、AI6、AI7
EP129特斯拉自己設計的 AI 晶片；哈利說 AI5、AI6 已經向台積電與三星訂了先進製程產能。
ARC-AGI-2
EP120測 AI 通用推理能力的 benchmark，哈利定的「解決」是做到 85% 以上。
ASML
EP140荷蘭的微影設備公司，1984 年從 Philips 分出，總部在 Veldhoven，EUV 市占 100%
Agent
EP64哈利的定義是不只回答問題、還能直接完成任務的 AI，例如寫完整個專案並跑測試、除錯到通過。
Agent ID
EP144每個 Agent 的身分識別，用來決定能讀哪些資料、做哪些事。
Agent Swarm
EP124Kimi K2.5 自己統籌分身協作的功能，上限 100 個 sub-agent。
Agent harness
EP144Harry Lin 說有點像對 Agent 的管控；哈利說每間企業自己做很複雜。
Albert Gu
EP46SSM 的始祖，哈利前幾天聽了他上 podcast 的訪談，是這週講 SSM 的部分原因。
All lawful purposes
EP127國防部要 Anthropic 同意的條款：模型可用於任何合法用途。
Alpha Evolve
EP120Google 把 LLM 結合演化演算法的 AI，找到更快的矩陣乘法演算法，也優化了 TPU 與資料中心，EP89 有介紹。
AlphaFold
EP60Google DeepMind 的 AI 模型，輸入氨基酸序列就預測蛋白質的 3D 結構；AlphaFold 2 在 2020 年底推出，今年有 AlphaFold 3。
AlphaGo
EP572015 年打贏人類棋王的 AI，由 Policy Network 與 Value Network 組成。
AlphaProof / AlphaGeometry2
EP50Google DeepMind 在數學奧林匹亞拿到銀牌的兩個 AI。
Analog Computing
EP128類比運算。用電壓、電流、電阻、光的強度等連續物理量代表資料，靠物理定律完成運算。
Analog in Memory Computing（AIMC）
EP128用記憶體元件本身做類比運算，目前算 AI 的類比電腦大多是這種做法。
Android Automotive OS
EP63Google 為車子打造的作業系統，跟只投影手機畫面的 Android Auto 不同。
Android XR
EP137涵蓋 VR 裝置到日常穿戴眼鏡的 Android 平台。
Anduril
EP64Miula 最想買的未上市國防科技新創，他把它比作做硬體的 Palantir。
Antigravity
EP137哈利提到 Google 與 Gemini 3 一起推出的 Coding Agent，介面是 IDE。
Antigravity 2.0
EP139Google 以 agent 協作為中心的新 coding App，沒有 IDE，可平行管理多個 agent。
App Intents
EP142蘋果的框架；第三方 App 用它開發，資料才能被 Siri 檢索與操作。
Apple Intelligence
EP44蘋果把裝置裡所有生成式 AI 功能（Siri、寫作輔助、圖片生成等）包成同一個名字。
Apple Neural Engine（ANE）
EP442017 年 A11 Bionic 起放進晶片、專門跑神經網路的處理器。
Ark Invest
EP45專投破壞式創新的投資公司，重壓 Tesla，這集的 2029 年 2600 塊預測出自它的報告。
Artemis Accords
EP132美國提出的月球準則，涵蓋資源使用與資訊分享；中國和俄國沒簽。
Artemis Program
EP61NASA 帶人重返月球的計畫，用 SLS 火箭與 Orion 飛船，搭配星艦的登月版降落。
Artemis 計畫
EP132NASA 重返月球的計畫，分成重回月球、建基地、當作前往火星的前哨站三階段。
Artifacts
EP46Claude 的新功能，把程式碼放進獨立視窗，前端程式碼可直接顯示成頁面。
Artificial Analysis
EP118獨立做 AI Benchmarking 的公司，也跑了 GDP Val，用 AI 打分器算 Elo。
Ashok
EP111特斯拉 AI Team Lead，在 ICCV 做了這次 FSD 技術分享。
Attention Residual
EP148把注意力機制用在 Residual Connection 上，讓後面的層只關注重要的前面層。
Automatic 1111
EP56按鈕式介面，哈利說比較適合新手。
BF16
EP65業界訓練大型語言模型常用的 16 bit 資料型態，由 Google 研發，專為 AI 設計。
Background Model
EP138完整系統裡的背景模型，像 Claude Code 這類 Agent，負責用工具完成事情再交回給 Interaction Model。
Backpropagation
EP60訓練神經網路時用的演算法，哈利說嚴格來說不是 Hinton 發明的，但他拿來訓練深度神經網路。
Behavioral Remedy
EP52要求 Google 改變做法，例如不再付錢給通路、罰款。
Benchmark Maxing
EP135為了讓 benchmark 成績好看而優化，哈利說中國模型比較常見，導致實際體感較差。
Big Model Smell
EP147他形容較大的模型偶爾會有的神來一筆，或額外多做一道檢查的感覺。
Bitcoin maximalist
EP66認為只該買比特幣、買了不賣的人。哈利說也有人不自稱，但同意他們對未來的看法。
Black Forest Lab
EP56由 Stability AI 出走的人創立的公司，做出 Flux。
Blind Pairwise Comparison
EP118評審看不出哪份是 AI 做的，兩兩比較選出較好的那份。
Blindsight
EP48下一個要開發的功能，刺激神經元讓盲人看見。
Blue Origin
EP119Jeff Bezos 的火箭公司，哈利說它的 New Glenn 回收推進器，晚了 SpaceX 十年。
Bluefield 4 DPU
EP122資料處理單元，Rubin 用它當 GPU 的額外記憶體來放溫資料。
Brad Gerstner
EP112矽谷 VC，BG2 podcast 的主持人，也是 OpenAI 的投資人。
Butch Wilmore、Suni Williams
EP54搭 Starliner 上去的兩位太空人，通常合稱 Butch and Suni，原定停留八天。
CANN
EP134華為對標 CUDA 的軟體層，把 CUDA 程式轉到華為硬體上跑。
CSAM
EP55Child Sexual Abuse Material，未成年人的性犯罪影音。
Calif
EP138用 Mythos 找到 macOS 漏洞的資安團隊，通報蘋果後才會公開 55 頁技術報告。
Cartesia / Sonic
EP46Cartesia 是 Albert Gu 共同創辦的公司，Sonic 是它的文字轉語音模型。
Cell to Sentence
EP110把細胞的基因表達依表達量排序、轉成文字的做法。
Chain of Thought
EP57思想鏈，把問題拆成步驟再回答。
Chameleon
EP42Meta 發表的原生多模態模型，輸入輸出都能是交錯的文字與圖片；只公開論文與部落格文。
ChatGPT Work
EP147OpenAI 與 GPT-5.6 同時推出的知識工作模式，背後是專門的 Harness。
Chatbot Arena
EP53讓使用者盲測兩個模型、投票決定誰答得好的排名，用 Elo Rating 計分。
Church of Molt
EP124MoltBook 上某個 MoltBot 自創的宗教，有教義與信徒。
Circle to Search
EP91Samsung 手機上的功能，他說是跟高通與 Google 合作，圈起畫面中的東西就能查。
Claude 3.5 Haiku
EP62這一代第一個小模型，哈利拿來和去年 3 月的 GPT-4 比價格與聰明程度。
Claude 3.5 Sonnet
EP46Anthropic 的第 3.5 代中階模型，Anthropic 自己的 Benchmark 說它在不少項目上高於 GPT-4o。
Claude 3.5 Sonnet（新版）
EP62沒有改名的更新版，寫程式能力大幅進步；Anthropic 模型大小分 Haiku、Sonnet、Opus 三種。
Claude Mythos
EP133Anthropic 新訓練完成的模型，比 Opus 大一個量級，因資安風險沒有對大眾釋出。
Claude Opus 4.7
EP134Anthropic 最新一代模型，哈利推測與 4.6 同為 5 兆參數底座，會更字面地執行指令。
Co-design
EP145與 GPU 夥伴、封裝廠、系統客戶提早一起設計下一代產品
Codec Avatar
EP59Meta 的 3D 擬真頭像技術，在運算力強的裝置上能呈現細微表情。
ComfyUI
EP56節點式介面，自己把節點連成工作流，彈性大、偏進階。
Commercial Crew Program（CCP）
EP54NASA 找私人公司開發美國自己的載人飛船的計畫，2014 年起波音與 SpaceX 同場競爭。
Commoditize
EP136商品化：各家模型都差不多、沒辦法收高價，最後變成像基礎設施。
Compression Challenge
EP48Neuralink 公開的挑戰：把 200Mbps 神經資料無失真、即時壓縮到 1Mbps。
Compute Puck
EP59Orion 的無線外接運算裝置，約行動電源大小，負責跑作業系統與應用邏輯。
Computer Use
EP62讓 Claude 看截圖、輸出座標與按鍵指令來操作電腦，目前只能用 API。
Context length
EP53一次能丟進模型的文本長度；Gemini 1.5 Pro 是 200 萬個 tokens。
Context memory storage
EP145位在 HBM 與主記憶體之下、用快速 SSD 存放 context 的一層
Continual Learning
EP124模型在使用中持續學習而不是訓練完就固定，哈利認為會讓危險程度大幅上升。
Continual learning
EP113模型隨時間學到新知識；哈利說論文談的是微調後不變得不聽話。
ControlNet
EP42給 Stable Diffusion 額外圖片條件的網路，用來控制姿勢；哈利預期會被單一模型取代。
Copilot+ PC
EP41微軟定義的 AI PC：升級版 Windows 11 加上達 40 TOPS 的 NPU。
CoreML
EP44蘋果給開發者把模型放進 App 的框架，不能指定一定用 ANE。
Cost Per Task
EP135模型完成一件事的總花費，哈利認為比 API 單價更能反映企業的真實成本。
Cost Plus Contract
EP61NASA 的成本加成合約，不管花多少都全額補貼並給固定利潤，承包商沒有誘因省錢。
Cowork
EP123Anthropic 的新功能，定位是 Claude Code for Knowledge Work，指定資料夾後自己規劃並執行任務。
Craig Federighi
EP44蘋果軟體工程團隊的主管，這次 WWDC 以跑酷方式入場。
Crew Dragon
EP54SpaceX 用 Cargo Dragon 改成的載人版本，2020 年完成第一次載人飛行。
Cristiano Amon
EP63高通 CEO，在峰會第一天的主題演講提出 AI 是新介面的想法。
Cursor
EP143AI Coding 工具公司，用 Kimi K2.5 訓練出 Composer，節目說 SpaceX 以全股票 600 億美元收購。
CyberCab
EP60這場發表的特斯拉無人計程車，兩個座位、沒有方向盤與油門，售價預告 3 萬美金。
DCF 模型
EP118現金流折現模型，投資銀行用來估算公司值多少錢，節目拿它當第二個實測。
DFlash
EP150UCSD 團隊的技術，用 diffusion model 當 drafter。
DLSS 5
EP130直接用 AI 重新生成最終遊戲畫面的新一代技術，玩家反彈很大。
DOJ / FTC
EP52美國司法部與聯邦貿易委員會，提反壟斷訴訟的兩個單位。
DOOM
EP551993 年推出的 3D FPS 遊戲，實際是 2.5D，整個遊戲 2.39MB。
DUV
EP140較舊一代的深紫外光微影機，哈利說最多做到 7 奈米製程
Dario Amodei
EP134Anthropic 執行長，哈利舉為主張一顆 GPU 都不賣的代表。
Data Broker
EP127販賣各種個人資料的公司，國防部可合法向它們購買資料。
Data Parallelization
EP43複製多份模型，同時訓練不同部分的資料。
Data Shuttles
EP112白皮書提到的做法：把資料裝進從地球發射的「太空 USB」，送到資料中心。
David Cahn
EP48Sequoia Capital 合夥人，寫了標題為 AI 600 Billion Question 的文章，是這波泡沫討論的起點。
DeFi
EP49去中心化金融，哈利提到可以處理加密貨幣借貸。
DeepSeek OCR
EP115DeepSeek 最近的論文，提出用視覺 token 壓縮文字。
DeepSeek Sparse Attention
EP143先用 Lightning Indexer 篩出重要 Token，再只對它們算注意力的技術。
DeepSeek-V4 Pro / Flash
EP135DeepSeek 發表的兩個模型，Pro 為 16 兆參數的 MoE，Flash 為 284 Billion 參數。
Dense / MoE
EP50Dense 是每個字都用同一套權重計算；MoE 是把多個小模型組起來，每個字只動用其中幾個。Llama 3.1 是前者。
Dense / Sparse（MoE）
EP142Dense 每次推論用到全部參數；Sparse 如混合專家模型，每次只用到一部分專家。
Digit 360
EP67Meta FAIR 的機器人手指，能感知觸感、熱、氣體與聲音，設計開源。
Digital AGI / Physical AGI
EP110哈利自己的分法：前者只在數位世界做知識工作，後者還要能做實體的事。
Direct-to-Cell（D2C）
EP119衛星訊號直接打到手機，不必再買接收器；高頻寬版本要等 V3 大量部署。
Disaggregated Inference
EP130解耦合推論，把 Prefill 與 Decode 拆到不同硬體上跑。
Distillation
EP57讓小模型模仿大模型，近來很多小模型都這樣做出來。
Distillation Attack
EP127Anthropic 為這次事件自創的詞，指用別人的模型產出大規模蒸餾自己的模型。
Distillation（蒸餾）
EP127讓小模型模仿大模型的輸出，把知識從老師模型轉給學生模型。
Docker Container
EP62Anthropic 提供的包裝，在自己電腦上跑 Computer Use 的模擬環境。
Dojo
EP45Tesla 自己設計的訓練超級電腦，從晶片、指令集到機櫃都自研。
Driver Model / Reasoning Model
EP122前者負責開車（System 1），後者在特殊情況給建議或短暫接手（System 2）；Driver Model 是哈利自己取的名字。
Dwarkesh
EP134訪問黃仁勳的 podcast 主持人；哈利說自己原本的想法接近他。
Dylan Patel
EP114SemiAnalysis 創辦人，與 Dwarkesh Patel 一起訪問納德拉，兩人沒有血緣關係。
Dynamo
EP130NVIDIA 的軟體，負責在軟體層分配拆開後的推論工作。
EUV
EP140極紫外光微影，目前最先進的微影技術，先進 AI 晶片與最新 iPhone 晶片都用得到
Early Fusion
EP42一開始預訓練就把不同模態放進同一個模型，是哈利所說的第三階段。
Elizabeth Holmes
EP112Theranos 創辦人，聲稱一滴血能測多項健康指標，後來被發現不實並入獄。
Elon Web Service
EP142哈利對「馬斯克成為算力出租商」這個劇本的戲稱。
End to End
EP45感測資料進去、方向盤油門直接出來，中間不經過人類寫的規則的做法。
Engagement Farming
EP123讓用戶用得越久、互動越多的做法，Meta 的看家本領。
Epoch AI
EP134獨立 AI 研究機構，估中國全部 AI 公司的算力只占全球 5%。
Eric Schmidt
EP53Google 前 CEO，這集前半討論的史丹佛演講就是他講的。
Expert Parallelism
EP148把 MoE 的專家平均分散到多張 GPU 上；切成 64 份時每張放 14 個專家。
ExploitGym
EP149OpenAI 內部的資安威脅測試，會拿掉模型護欄，讓它去找大量漏洞。
Extreme Co-Design
EP151極致協同設計：AI Factory 內所有零組件，從硬體到軟體一起做最佳化。
Extreme co-design
EP122黃仁勳反覆強調的說法：六張晶片全部一起設計，為同一個目標優化。
FP4
EP1164bit 的資料精度，GB200 原生支援，Ironwood 最多只到 8bit。
FSD（Supervised／Unsupervised）
EP60特斯拉的輔助駕駛軟體；Supervised 官方分類是 L2，哈利解讀馬斯克說的 Unsupervised 約為 L4。
Fair Deal
EP64Miula 說川普的核心理念：和敵人與盟邦都要有合理的公平交易。
Fear Marketing
EP133靠製造恐懼博取關注、替公司行銷，是外界解釋 Anthropic 不釋出 Mythos 的說法之一。
Field of View
EP59視野的廣度；Orion 做到 70 度，一般 AR 眼鏡約 30 度甚至以下。
Flux
EP56Black Forest Lab 推出的文字轉圖片模型，三種大小，最大的封閉、中間半開放、最小的開放。
Flux.1
EP53Black Forest Lab 的生圖模型，Grok 2 的生圖功能用它；最小的模型採 Apache 2.0 授權。
Frontier Model
EP53一線模型，哈利把 GPT-4o、Gemini 1.5 Pro、Claude 3.5 Sonnet 和 Grok 2 都歸在這一群。
Frontier Suite、DeepSuite
EP143哈利認為目前最有參考價值的兩個 Coding Agent Benchmark，測長時間的 agentic 任務。
Fully autonomous weapons
EP127全自主武器，Anthropic 的第二條底線。
GCMS
EP67氣相層析質譜儀，把氣體分離成各種化合物並分析分子結構，不是 Osmo 發明的。
GDP Val
EP118OpenAI 做的基準測驗，用真實職場任務測模型的經濟價值，由專家盲選比較人類與模型的成品。
GLM-5.2
EP143750 Billion 參數的 MoE 開源模型，每次推論動用 40 Billion，支援 100 萬 context。
GNN
EP67Graph Neural Network，專門處理點和線組成的資料，Osmo 用它把分子結構轉成地圖上的點。
GPT-4O
EP44蘋果在最難的問題上，經使用者同意後交給 OpenAI 的模型。
GPT-4V
EP42去年 10 月發表、能理解圖片但只輸出文字的模型，哈利歸在第二階段。
GPT-4o
EP42哈利認為目前最領先的原生多模態模型，輸入輸出涵蓋文字、圖片與音訊。
GPT-5.2
EP118OpenAI 在 Gemini 3 之後推出的模型，哈利推測它與 GPT-5 同一個 Base Model，只做了更多 Post Training。
GPT-5.6 Sol
EP150OpenAI 的前沿模型，哈利自己寫程式用的主力。
GPT-5.6 Sol / Terra / Luna
EP147GPT-5.6 的三種大小，最大、中等、最小；他說最小的 Luna 是由 Sol 自己決定怎麼後訓練的。
GRPO
EP115DeepSeek 的 RL 演算法，哈利說西方已經承認它效果比較好。
GTC
EP130NVIDIA 每年的大會，這集談的是上週黃仁勳約兩個半小時的主題演講。
Galaxy XR
EP137Google 與 Samsung 合作的 MR 裝置。
GameNGen
EP55Google 論文裡的模型名，Game Engine 的諧音。
Gary Gensler
EP66節目提到的 SEC 負責人，哈利說川普想換掉他。
Gateway
EP61NASA 構想中環繞月球的太空站，讓星艦與 Orion 停靠。
Gateway 與 HLS
EP132Gateway 是繞月軌道上的小基地，HLS 是從 Gateway 往返月面的模組，哈利比喻成民宿與電梯。
Gavin Baker
EP134矽谷投資人，哈利參考他的貼文說明中美 AI 硬體路線的分歧。
GelSight
EP67Meta 找來生產 Digit 360 的商業夥伴。
Gemini Enterprise Agent Platform
EP144Harry Lin 介紹的平台，主打 Build、Scale、Governance、Optimize 四件事。
Gemini Nano
EP137Android 隨附的小尺寸標準模型。
Gemini Omni
EP139原生多模態模型，輸入文字、影片、音訊，輸出影片與文字。
Gemini Spark
EP139Google 的雲端版龍蝦，尚未開放，是 Gemini App 裡的子頁面。
Gemini task automation
EP137Android 上讓 Gemini 在背景開啟 App 代辦事情，例如叫 Uber。
Gemma
EP137Google 的開放權重模型家族，有不同大小。
Gen 6 NVMe SSD
EP145Jeremy 說是全球首款量產的 PCIe Gen 6 SSD，效能約是上一代的兩倍
Generative Gaussian Splatting
EP111特斯拉自製的 3D 重建技術，每次運行 220 毫秒，與整個模型一起訓練。
Genie 3
EP124Google 的世界模型，可把靜態圖片變成能操控的世界，開放給美國的 Google Ultra 訂閱者。
Golden Gate Claude
EP62持續打開金門大橋那組神經元，讓回答都扯到金門大橋的公開實驗。
Google Brain
EP117哈利認為想出 Transformer、做出最初 TPU、最早做 scaling 的團隊，現已併入 DeepMind。
Grok
EP51xAI 的模型，哈利說目前是 1.5 版，接著是 Grok 2、Grok 3。
Grok 4.6
EP150這集主角，與 4.5 共用 base model，1.5 兆參數，AA Intelligence Index 61 分。
Grok-4.5
EP147SpaceXAI 的模型，1.5 兆參數的全新 Base Model，不屬於 Tier 1，但性價比最高。
Grokipedia
EP117xAI 的 Grok 產生的百科，哈利說最初目的是替 Grok 產生訓練資料。
Groot
EP60NVIDIA 的人形機器人 AI 模型，被哈利稱為機器人版本的 FSD。
Groq LPU
EP130Groq 的語言處理單元，用 SRAM、延遲極低但容量小，已併入 NVIDIA。
Guard Rail
EP133護欄，讓模型不做危險事情的防護措施；資安類的特別難做，因為會連帶削弱 Coding 能力。
Hallucination
EP53幻覺，大型語言模型一本正經地講錯內容；哈利說它除不掉，寫詩時反而是好功能。
Hardware 3／4／AI 5
EP45Tesla 車上的 AI 運算硬體；哈利轉述 Hardware 3 為 144T、Hardware 4 為 256T，馬斯克說 AI 5 比 Hardware 4 強 10 倍。
Harry Lin
EP144來賓，Google Cloud 台灣技術總經理，長期協助企業導入雲端資料與 AI 技術。
Heat Shield
EP61星艦表面的隔熱罩，重返大氣層時最大的挑戰，每一代都是改進重點。
High NA
EP140下一代 EUV，改良光學系統後解析度到 8 奈米；Intel 已下單，Marc 預期 2027 或 2028 年進入量產
Hopfield Network 與 Boltzmann Machine
EP60最早期的神經網路，前者是 John Hopfield 的，後者是 Geoffrey Hinton 據此做出的；物理獎就是頒給這兩人。
Hopper / Blackwell
EP133NVIDIA 的兩代 GPU 架構；哈利說西方從 Mythos 這代起改用 Blackwell，中國只能買弱化版 Hopper。
Horizon OS
EP59Quest 的作業系統，今年開放給 ROG 等其他廠商的裝置。
Hot Staging
EP61飛船在尚未與推進器完全分離時就先點火的技術，IFT-2 首次成功。
Hugging Face
EP149提供開源模型與資料集的平台，這次被攻擊的公司。
Hybrid AI
EP91他的主張：用例決定運算放在裝置上或雲端，兩邊搭配。
Hybrid 系統
EP128類比（或神經形態）只負責擅長的部分，其餘交給數位電腦，兩邊反覆轉換以免雜訊累積。
Hydra Cluster
EP127靠大量假帳號與 API Key、集中調度的代理手法，封掉一個馬上補上新的。
Hydra MDP
EP122NVIDIA 去年推出的 Driver Model，先輸出 Trajectory 再翻成控制。
Hyper-Connections
EP121字節跳動 2024 年的論文，把輸入複製成四個向量排成矩陣，中間加可學習的矩陣來調節。
ICI
EP116Inter-chip Interconnect，Google 自己的晶片互連協定，哈利說是市面上 NVLink 唯一的真正對手。
IDM
EP129自己設計、自己製造晶片的模式，Intel 是哈利拿來對照的例子。
IEA
EP51國際能源署，年初的報告裡有哈利引用的 AI 能耗數據。
IFP
EP142Instruction Following Pruning，蘋果自己發明的剪枝方法，依使用者指令決定用大模型的哪些參數。
IFT
EP61Integrated Flight Test，整合試飛，每次試飛一個編號；這集談到 IFT-1 到 IFT-5。
IFT-13
EP149星艦的第十三次試飛，這集第一個題目。
ISO POWER
EP130黃仁勳常用的比較圖，固定電力供給，比各代 GPU 的吞吐量。
ISS
EP54國際太空站，距離地表約 400 公里，多國合作，人員需要持續輪替上去維修。
In-context learning
EP53在 prompt 裡給模型沒學過的資料，讓它當場學會新技能，例如塞進俄文字典叫它翻譯。
Index Share
EP143智譜的改良：相鄰四層 Transformer 共用同一次 Indexer 的結果。
Indexing / Retrieval / Generation
EP64哈利自己命名的 AI 搜尋三步驟：找網站、挑出相關段落、交給 LLM 回答。
InfiniBand
EP43機櫃之間的高速通訊協定，原本為高效能運算設計，有原生 RDMA 支援。
Innovator's Dilemma
EP53創新者的兩難，哈利用它解釋 Google 為什麼不願意自己推出會傷到搜尋的 AI 產品。
Interaction Model
EP138Thinking Machines 的新模型，同時持續接收與輸出，可以邊聽邊看邊插話；尚未釋出，只有 demo。
Interleaved
EP42文字與圖片交叉排列的內容，例如圖文並茂的圖鑑或部落格文。
Intermediate tokens
EP111端到端模型中間可擷取的資訊，可用來 debug，也能交給 LLM 推理。
Intervention
EP45人類介入糾正的次數；Miles Per Intervention 是平均開幾英里才介入一次。
Ironwood
EP116TPU-V7，哈利拿來對標 NVIDIA 的 GB200。
Isomorphic Lab
EP60Google 以 AlphaFold 技術成立的新創，老大也是 Demis Hassabis，目的是發現新藥。
Jamba
EP46AI21 Labs 的 SSM 與 Transformer 混合模型，52B 參數、啟用 12B。
Jan Leike
EP41與 Ilya 共同帶領 Super Alignment Team，在 X 上寫了較詳細的辭職貼文。
Jeff Dean
EP150Google 的傳奇工程師，離開後創辦 Discovery Loop。
Jeremy Werner
EP145美光資深副總裁暨核心資料中心事業群總經理，負責資料中心的核心業務
John Schulman
EP113OpenAI 的 co-founder 之一，隨 Mira 離開，領導微調的研究路線。
Kernel Fusion
EP121把 20 次迭代融合進一個 CUDA kernel，資料留在 GPU 暫存器，不必反覆讀寫 HBM。
Kessler Syndrome
EP112太空碎片互相撞擊、越撞越多的連鎖效應，可能讓某些軌道無法使用。
Kevin Warsh
EP126腦哥說的新任提名聯準會主席，他轉述其「四十歲以下比特幣可能是新黃金」的說法。
Kimi Delta Attention（KDA）
EP148用固定大小的 recurrent state 壓縮前後文，讓 KV cache 不隨長度增加。
Kimi K2 Thinking
EP113Moonshot AI 上週發表的思考版開源模型。
Kimi K2.5
EP124以 Kimi K2 為基礎、參數一兆的開源模型，benchmark 與西方 Tier 1 同級。
LPDDR5
EP145來賓提到邊緣裝置高效能系統在用的記憶體，搭配 unified memory 架構
LPU
EP125加強大型語言模型 token 處理、堆了很多 SRAM 的類 NPU 架構，節目裡與 Groq 一起被提到。
Layer 2 / Lightning Network
EP49在主鏈之上、把交易放到鏈外處理的解法，比特幣的例子是 Lightning Network。
Leopold Aschenbrenner
EP47前 OpenAI 員工，被開除後寫了《Situational Awareness》，AGI 時間表很短。
Level 4／Level 5
EP45Level 4 是在限定地區與天候下完全自動駕駛，Level 5 是任何地區任何天氣都不需要人介入。
Lex Fridman
EP141知名 podcaster，哈利在 COMPUTEX 影片裡看到他跟在黃仁勳旁邊
Lindy effect
EP126一個東西存在越久，越有理由相信它會再存在更久；腦哥拿來看比特幣才 15 年。
Linear Projection Layer
EP42一個矩陣，把圖像向量投射成和文字向量同樣的維度。
Linear RNN
EP46把記憶更新換成線性運算的 RNN，解決了平行訓練與梯度問題；哈利說 SSM 就是它。
Llama 3.1
EP50Meta 的開源模型系列，這次釋出 8B、70B、405B 三種，405B 是有史以來最大的開源模型。
LoRA（Adapters）
EP44用小矩陣存微調出來的知識，再加回原模型，一個任務只要約 10MB。
Logic、Memory、Packaging
EP129邏輯晶片、記憶體（含 HBM）、先進封裝（如 CoWoS）三件事，哈利說單做任何一件都極難。
Long Horizon Task
EP118人類要花好幾小時、幾百個步驟才能完成的任務，哈利認為是 5.2 的訓練重點。
LongBench
EP131測長上下文能力的 benchmark，用來看 KV cache 壓縮後品質有沒有掉。
Loop
EP143目標加上達成前要反覆做的事，由 AI agent 自己執行到目標達成；可以大 Loop 套小 Loop。
Low regret regime
EP113論文找到的條件：在這些設定下 LoRA 表現與 full fine tune 差不多。
Lump Sum 與 Dollar Cost Average
EP66前者是有錢就一次投入，後者是定期定額。
Lunar Lake
EP43Intel 的新一代 AI PC 晶片，上一代是 Meteor Lake。
M1076
EP128Mythic 的類比 AI 處理器，76 個 Tile，每個都有類比與數位部分。
MCP
EP120Model Context Protocol，工具與 LLM 溝通的統一協定，各家做 agent 接工具時都用它。
MHC
EP135Manifold Constrained Hyperconnections，DeepSeek-V4 用來更有效利用長 context 的技術，節目另有一集專門講。
MIE
EP138Memory Integrity Enforcement，蘋果的硬體層級記憶體安全機制，防止攻擊者利用記憶體錯誤取得更高權限。
MLX
EP44去年年底推出、專為蘋果晶片設計的深度學習框架，哈利比喻為蘋果晶片版的 PyTorch。
MM1、OpenELM
EP44蘋果發表的兩篇論文，前者是多模態模型的 ablation study，後者是小型語言模型的研究。
MMLU Pro
EP53改良版的 MMLU，因為 MMLU 已接近 90%、題目本身也有問題，Grok 2 的測試有用到。
MTP
EP143Multi-Token Prediction，模型一次預測多個 token，這集用來做 Speculative Decoding。
Magnificent 7
EP51哈利列出的美股七家巨頭：Apple、Google、Meta、NVIDIA、Tesla、Amazon、Microsoft。
Manchester United
EP91英超球隊，Don McGuire 說有 1.1 billion 球迷，是高通品牌合作的對象，最近一年才升級到球衣正面。
Marc Hijink
EP140荷蘭 NRC 的財經記者與科技專欄作家，《造光者》（英文書名 The ASML Way）作者，追蹤 ASML 十五年
Mark Montierth
EP145美光資深副總裁暨手機和用戶端事業群總經理，負責行動裝置與用戶端運算
Mass domestic surveillance
EP127大規模國內監控，Anthropic 的第一條底線。
Maya
EP114微軟自研的 AI 晶片，哈利判斷目前不夠好。
Mechazilla
EP61星艦的發射塔，伸出兩隻手臂（Chopsticks，筷子）夾住回來的推進器。
Mehta
EP52審理這案的法官，判決認定 Google 違反 Sherman Act 的 Section 2。
Mellanox
EP43開發 InfiniBand 的以色列公司，哈利說黃仁勳在 2019、2020 年買下。
Meta AI
EP59整合在 Ray-Ban 智慧眼鏡裡的 AI 助理，目前不開放給台灣。
Meta Connect
EP59Meta 一年一度的開發者大會，過去偏重元宇宙，近兩年多了 AI 這條主線。
Michael Burry
EP114因 2007、2008 年房貸危機做空而聞名的投資人，這集他對 NVIDIA 與 Palantir 買 Put Options。
Michael Saylor
EP66MicroStrategy 的 Executive Chairman，哈利稱他是最大的 Bitcoin maximalist 代表。
MicroStrategy
EP66原做商業分析軟體，現在把資金全數買進比特幣，哈利稱作 Bitcoin Treasury Company。
Mid-Training
EP118延續的預訓練，節目說 OpenAI 這樣稱呼。
Miles Per Crash
EP58平均開幾英里才出一次車禍，哈利用來說明自駕車比人類安全。
Milestone Base 合約
EP54Fixed Cost 的合約，廠商達到測試、設計審查、Demo Flight 等里程碑才拿到一部分款項。
MimicGen
EP51NVIDIA 的工具，微調機器人的手部動作，並刪掉失敗的例子。
Mira Murati
EP113OpenAI 前 CTO，Thinking Machines 的創辦人，持有超級投票權。
Model Capability Initiative
EP136Meta 的計畫，記錄員工的滑鼠、鍵盤與螢幕畫面，拿來訓練 AI Agent。
Model Garden
EP144平台上可選用多家模型的入口，Gemini、OpenAI、Anthropic 都在其中。
Model Parallelization
EP43把一個太大的模型切成幾塊，放在不同 GPU 上。
Moderna
EP151宣布 AI 個人化 mRNA 癌症療法第三階段臨床試驗達標的公司，AI 演算法與默克藥廠共同開發。
MoltBook
EP124只有 MoltBot 能互動的 Reddit 式網站，一位開發者一天 vibe code 出來，爆紅後有好幾萬個 MoltBot 加入。
MoltBot
EP124那一週爆紅的 AI agent，七天內改了兩次名；這集只講它們在 MoltBook 上的互動。
Monte Carlo Tree Search（MCTS）
EP57AlphaGo 把下法展開成樹，再用勝率挑出最佳一步的搜尋演算法。
Moonshot
EP128哈利用來指一項技術發生機率極低、但成真就徹底改變世界的最佳情境。
Moonshot podcast
EP123科技極度樂觀派的 podcast，主持人是 Peter Diamandis，馬斯克在上面談了這集的未來預測。
Muse Glimmer
EP150Meta 發布的 30B 開源小模型，可跑在 24GB VRAM 的機器上。
Muse Spark
EP133Meta 剛釋出的閉源模型，接近前線但 Coding 與長時間任務偏弱。
Muse Spark 1.1
EP147Meta 的新模型，他說不在 Pareto Frontier 上，也沒有專屬 Harness。
Mythic
EP128專做 Analog AI chip 的美國公司，哈利拿它當類比 AI 晶片的代表。
N1 與 R1
EP48N1 是植入腦中的晶片，連著很多條極細的線；R1 是負責植入的手術機器人。
NIO
EP91他舉例的車廠，有自家 AI agent、儀表板上的小機器人 Nomi，也有自家手機。
NPU / TOPS
EP41NPU 是專門處理 AI 的處理器；TOPS 是每秒兆次運算，比較時要在同一個資料精度下。
NVFP4
EP122NVIDIA 自己開發的 4-bit 浮點數格式，Blackwell 就已支援，Rubin 為它做硬體最佳化。
NVL72
EP148NVIDIA 整櫃 72 張 GPU 以 NVLink 連結的機櫃，哈利說禁售中國。
NVLink
EP43NVIDIA 連接 GPU 的技術，讓軟體把多顆 GPU 當成一顆。
Nano Banana
EP107Google 的圖像模型，他和哈利拿來說明「看到新能力就做產品」的風險。
Natrium Reactor
EP58Terra Power 在 Wyoming 蓋的鈉冷快中子反應爐，哈利拿它當第四代核能的代表。
NeRF
EP67用多角度的平面照片渲染出 3D 物件的 AI 技術，Ben Mildenhall 是創始人之一。
Needle in a Haystack
EP131在很長的文章裡藏線索、要模型找出來的測試，另一個長上下文 benchmark。
NemoClaw
EP130NVIDIA 版的 OpenClaw，主打強化安全性。
Nemotron
EP130NVIDIA 的開源 LLM 系列，採 Transformer 與 Mamba 混合架構。
NeoCloud
EP151買 NVIDIA GPU 再出租算力給 AI 公司的業者，例如 CoreWeave、Lambda、GMI Cloud。
Neural World Simulator
EP111根據目前畫面與動作預測下一段影片的模擬器，用來評測與訓練 FSD。
Neural Wristband
EP59神經手環，偵測手部肌電圖來判斷操作，哈利自己翻成神經手環。
Neuromorphic Computing
EP128神經形態運算。模仿大腦的神經元、突觸與 spike，以事件驅動的方式運算。
Nolan
EP48Neuralink 第一位四肢癱瘓受試者，用晶片玩電腦遊戲。
OCS
EP116Optical Circuit Switch，Google 自己研發的全光交換，用在 Cube 與 Cube 之間。
OFT / CFT
EP54OFT 是 Orbital Flight Test，無人試飛；CFT 是 Crew Flight Test，載人試飛。
Occupancy Network
EP45Tesla 把相機的平面影像轉成 3D 地圖的神經網路。
On-policy distillation
EP113學生自己產生答案、老師逐 token 打分的後訓練方法，哈利稱為第三種選擇。
OpenClaw
EP141哈利用來當行政助理的 AI Agent，他也叫它「龍蝦」，自己的那一隻取名 Jiro
OpenVINO
EP43Intel 的工具包，讓模型在 Intel 的內顯或 CPU 上跑，主要做推論。
Opus 4.5
EP123Anthropic 去年 11 月底推出的模型，哈利認為是目前最強的 Coding 模型。
Orion CPU
EP63高通完全自家設計的 CPU；哈利說上一代 Kryo 是以 Arm 的 Cortex 設計為底。
Osmo
EP67想讓 AI 理解嗅覺的公司，原本是 Google 內的團隊，由 Google Ventures 支持。
Our World in Data
EP58哈利引用的研究組織，比較各種能源每百萬兆瓦時電力的死亡數。
P-Doom
EP41網路用語，指 AI 毀滅人類的機率；Probability of Doom 的縮寫。
PARL
EP124Parallel Agent Reinforcement Learning，Moonshot AI 為訓練 orchestrator 自研的 RL 框架。
PMF
EP107product market fit，產品與市場契合；他的說法是 Speak 花了好幾年、經過很多學習才走到。
POC
EP115概念驗證。Sega 說多數企業還停在這一步。
PU
EP125Albert 的說法：改指令集就能涵蓋夠廣的應用、有量才叫 PU，之後會分出 TPU、LPU、NPU 等 subclass。
PWR / BWR
EP58第二代與第三代核電廠的兩種主要型式，都用水冷卻、導熱與減速中子。
Pallas
EP116Google 這兩年推的語言，讓開發者繞過 XLA 為 TPU 寫 custom kernel，哈利稱它是 TPU 的 CUDA。
Pareto Frontier
EP147效能與成本的最佳取捨邊界；在邊界上代表沒有更聰明又更便宜的模型。
Passthrough 與 See Through
EP59Passthrough 是頭盔靠外接相機把外界影像轉給你看，See Through 是鏡片本身透光。
Pavel Durov
EP55Telegram 的俄羅斯裔執行長，在巴黎被逮捕，哈利順帶提到他練得很壯。
Peter Thiel
EP119馬斯克在 PayPal 時期的夥伴，2008 年給了 SpaceX 2000 萬美元換 10% 股票。
Phase 1／2／3
EP125Albert 的三階段：模型從無到有的訓練、推論、把模型塞進終端的 Edge AI。
Platforms and Devices
EP137兩年前把 Chrome、Android 與 Pixel 等硬體合併而成的部門。
Prefill / Decode
EP146推論的兩個階段：先處理前後文，再一個一個吐出 token；前者吃算力，後者吃頻寬。
Principal Odor Map
EP67Osmo 的氣味地圖，250 幾個維度的分子結構 embedding，維度的意義連 Osmo 自己也說不出。
Private Cloud Compute
EP123蘋果自己的伺服器雲端運算，哈利猜中等大小的模型會跑在這裡。
Product、Prototype、Prospect
EP48哈利對生成式 AI 的三分法：已有價值、還是原型、未來願景。
Project SunCatcher
EP138Google 的太空資料中心計畫，把 TPU 放上衛星做 prototype。
Prompt injection
EP144用惡意輸入誤導模型講出或做出不該有的行為，這集也延伸到夾帶在信件裡的社交工程。
Proof of Work / Proof of Stake
EP126前者靠算力與能源取得信任（比特幣），後者靠質押持有的幣（以太坊）。
Proof of Work（POW）
EP49花費最多算力的鏈就是可信任的鏈，是把算力轉成信任的機制。
Propellant Transfer
EP61兩艘星艦在軌道上對接轉移燃料，上月球或火星都必須先完成。
Pure Play
EP146整間公司只專攻單一領域，這集指只做 AI 運算晶片。
Put Options
EP114買進未來以履約價賣出股票的權利，是賭股價下跌的工具。
Q-STAR / Strawberry
EP57同一個計畫在不同時期的名稱，最後的產品就是 o1。
QJL
EP131TurboQuant 的第二步，把殘差存成一個 bit 的正負號，專門補內積的誤差。
Qualcomm AI Hub
EP63高通的平台，提供 100 多個已最佳化的模型，也讓開發者轉換並優化自己的模型。
Qualcomm AI Stack
EP63高通整套 AI 軟體，含 runtime，能跟 TensorFlow Lite、ONNX Runtime 這類社群工具整合。
Quantum Echoes
EP111Google 在 Willow 上跑的演算法，輸出是可觀測的物理量。
Quest 3S
EP59Meta 新推的入門款 MR 頭盔，299 美金，處理器與 Quest 3 相同。
R79
EP117歐盟法規中限制輔助駕駛側向加速度與主動換道的條文，台灣法規參照歐盟。
RAG
EP53Retrieval Augmented Generation，讓模型接資料庫、查出相關資料再回答，哈利說近期新聞靠它而不是靠長 context。
RCS
EP111Random Circuit Sampling，隨機生成量子電路再抽樣，難驗證也沒實際用處。
RDMA over Converged Ethernet
EP50在乙太網路上實現 RDMA 的技術，讓 GPU 之間不經過 CPU 直接交換記憶體資料。
RLVR
EP120Reinforcement Learning with Verifiable Rewards，拿程式或數學這類可驗證的題目讓模型自己思考，哈利認為是今年模型進步的核心。
RL（增強式學習）
EP55把 AI 丟進環境，用 Reward Function 引導它自己探索。
RNN
EP46Recurrent Neural Network，逐字讀入並更新 hidden state 的架構，沒辦法平行訓練。
ROCm
EP43AMD 對應 CUDA 的軟體，2016 年第一次推出，走開源路線。
RRR
EP61Rapidly Reusable Reliable Rocket，快速重複使用的可靠火箭，馬斯克視為壓低成本一千倍的關鍵。
RTX Spark
EP141NVIDIA 發表的消費端 SoC，整合 ARM CPU、GPU 與記憶體
RabbitQ
EP131另一個量化技術，它的作者質疑 TurboQuant 論文引用與比較不夠公正。
Raptor
EP51SpaceX 的火箭引擎，哈利拿三代外觀的演變當作刪減的例子。
Raptor Engine
EP61星艦使用的引擎，推進器底座裝 33 個；V2 星艦會換成 Raptor Engine V3。
Realtime API
EP107OpenAI 的原生多模態即時語音介面；他說好用但貴，降價比預期慢。
Recall
EP41微軟新功能，定時截圖存進向量資料庫，之後用語意搜尋找回，哈利認為有資安疑慮。
Regulatory Capture
EP133哈利說 Anthropic 常被指控靠宣揚 AI 的毀滅性風險，把政府的監管推向自己偏好的方向。
Regulatory Capture（監管俘獲）
EP149透過推動立法來打擊競爭者；哈利轉述外界這樣批評 Anthropic。
Reinforcement Learning（RL）
EP57增強式學習，讓 AI 自我探索，用好壞結果學習。
Remedy Trial
EP52判決成立後另外開庭決定處分，分 Behavioral 與 Structural 兩類。
Rick Osterloh
EP137Google Platforms & Devices 部門資深副總裁，管 Android、Chrome、Google Play、Pixel 與智慧眼鏡等，是 Sundar Pichai 的直屬高層。
Robocasa
EP51NVIDIA 內部的生成式模擬框架，用來替換訓練資料中的場景。
Robovan
EP60同場發表的無人巴士或貨車，最多載 20 人。
S-1
EP142SpaceX 的上市報告書。哈利認為它把目標市場寫得幾乎都是企業 AI 應用，有點誤導。
S1 文件
EP139SpaceX 上市前繳交的文件，首度公開 Anthropic 租算力的金額。
SHA-256
EP49礦工反覆計算的 hash function，輸入區塊資訊加一個數字，輸出一串 256 bits 的數字。
SLAM
EP59讓裝置知道自己在 3D 空間中位置的演算法，Orion 的眼鏡本體負責跑它。
SLS 與 Orion
EP132SLS 是把 Orion 推離地球引力的火箭，Orion 是載人飛船，兩者單次發射成本 41 億美元。
SMR
EP58小型模組化反應爐，低於 300MW，希望工廠量產降低成本。
SNN（Spiking Neural Network）
EP128以 spike 運作的神經網路，是傳統 AI 模型要跑在神經形態電腦上的轉換形式。
SRAM
EP146極快但密度低的記憶體，一個 bit 要六顆電晶體；Cerebras 用它取代 HBM。
SSL
EP67Self Supervised Learning，自監督學習，大型語言模型預訓練的做法，Sparsh 把它用在觸感影像上。
SSM
EP46State Space Model，與 Transformer 不同的神經網路架構，複雜度接近線性。
SWE-bench Verified
EP62評估寫程式能力的測試，共 500 題，OpenAI 請工程師從原版篩選而來。
Satoshi
EP66中本聰；也是比特幣最小單位的名稱，一顆可拆成 100 萬個。
Scaffolding（鷹架）
EP138用事先設計的外部流程做出功能的方式；哈利認為它沒有智能，終究會輸給原生具備能力的模型。
Scaling Laws for Precision
EP65這集的主角論文，由多所學校與機構合作，訓練四百多個模型，把訓練與推論精度放進 Scaling Law。
Secure AI Framework
EP144Google 提出的 AI 資安框架，分資料來源、資料基礎設施、模型、應用四層。
Semi-Analysis
EP135半導體研究機構，工程師有 GPT-5.5 的 early access，哈利轉述他們的測試心得。
SemiAnalysis
EP116哈利引用的半導體研究機構，做了成本比較與 Anthropic 的算力占比圖。
Sequoia Capital
EP115紅杉資本，Sega 引它去年的警告：AI 市場有 5000 到 6000 億美金的缺口。
Serial Collapse
EP124Orchestrator 訓練到後來嫌指揮麻煩、自己把事全做完，退化成單一 Agent。
Shane Legg
EP118Google DeepMind 共同創辦人之一，AGI 一詞據節目說是他定義的；他的 Minimum AGI 與哈利的 Digital AGI 定義一樣。
Sherman Act
EP52美國 1890 年代的反壟斷法，用詞廣泛；獨佔本身不違法，用不公平手段取得才違法。
Siddhika Nevrekar
EP63高通 AI Hub 的負責人，這集專訪的來賓。
Sinkhorn
EP121DeepSeek 用來把矩陣調成雙隨機矩陣的迭代演算法：輪流把每一行、每一列除以總和，反覆逼近。
Siri AI
EP142蘋果新版 Siri，能檢索個人資料與第三方 App、有多模態。目前只開放 Developer Beta。
Snapdragon
EP91高通的晶片品牌，這集談它在 PC、手機、汽車上的布局與品牌知名度。
Snapdragon 8 Elite
EP63這次發表的手機晶片，打破之前 Gen 系列的命名，CPU 換成 Orion。
Snapdragon Digital Cockpit
EP91Digital Chassis 裡負責駕駛與車子互動的座艙平台。
Snapdragon Ride
EP91Digital Chassis 裡的輔助駕駛（ADAS）方案，已與座艙整合。
Sohu
EP47Etched 的晶片，只能跑 Transformer、只做推論；哈利提醒拼法是 S-O-H-U。
Soyuz
EP54俄羅斯長年使用的載人飛船，Space Shuttle 退役後美國得靠它送人。
SpaceXAI
EP150馬斯克旗下的 AI 公司，Grok 系列的開發者；哈利提到它收購了 Cursor。
Sparse Cores
EP116TPU 上額外的處理器，專門處理稀疏性，讓 MoE 模型跑得動。
Sparsh
EP67Meta 預訓練的觸感模型，是給視覺式觸覺感測器用的通用 encoder。
Spatial Intelligence
EP67World Labs 自己定義的詞，指能在 3D 加時間的空間裡感知、理解並行動的模型，對應 Large World Model。
Speak
EP107Andrew Hsu 與共同創辦人做的語言學習 app，最早在韓國做英語口說練習，現在以 LLM 家教為核心。
Speak method
EP107Speak 的教法：先學句型和固定片語，反覆操練到自動化，再放進角色扮演情境。
Speculative Decoding
EP143先猜一段答案，再讓大模型一次驗證、接受前面一致的部分，省下逐字生成的算力。
Speculative decoding
EP150小模型先猜、大模型一次驗證的推論加速技巧，不降低品質。
Stable Diffusion
EP56文字轉圖片的開源模型，由 Stability AI 開發；哈利說玩開源繪圖模型的人幾乎都在用它。
Stable Diffusion 1.4
EP55Stability AI 的開源 AI 繪圖模型早期版本，論文拿它繼續訓練。
StarCloud
EP1122024 年成立、YC 投資的新創，11 月要把一張 H100 送上太空，並發表太空資料中心白皮書。
Starliner
EP54波音的載人太空船，正式名稱 CST-100 Starliner，這次載人試飛後留在 ISS。
Starship V3
EP139星艦的第三代，從推進器到飛船全面改版，換上 Raptor Engine V3；哈利說它是第一代主力機型。
Stochastic Parrot
EP124隨機鸚鵡：只會操弄語言符號、沒有與現實連結的統計機器，無聊派的核心論點。
Strawberry
EP48路透社報導的 OpenAI 計劃，據說是 Q* 的進階版，強調推理與長遠規劃。
Structural Remedy
EP52拆分公司，例如把 Chrome、搜尋引擎或數位廣告獨立出去。
Super Alignment Team
EP41OpenAI 內部專注超智慧 AI 對齊的團隊，由 Ilya 與 Jan 共同帶領，這集說它隨兩人辭職而解散。
Super Heavy Booster
EP149星艦的推進器段，之前已被接回兩次，這次降落時因引擎異常撞海。
SuperPOD
EP116最多 9216 個 TPU 連在一起的超大規模叢集單位。
Supply chain risk
EP127供應鏈風險認定，哈利說通常用在敵國公司，美國本土公司從未被這樣認定。
System 1 / System 2
EP57取自《快思慢想》，直覺反應與需要一步步推導的思考。
System Card
EP133評估模型安全性的報告；Mythos 的版本有兩百多頁，其中包含自我意識相關研究。
TBD Lab
EP117Meta 重整後成立的小型精英團隊，成員是高薪挖來的頂尖研究員。
TPU 8T / 8i
EP144第八代 TPU 的兩張晶片，8T 負責訓練，8i 負責推論。
TPU v5e
EP55Google 自家的 AI 加速器，哈利猜 e 是 Efficiency，偏輕量、常用於推論。
Technological Unemployment
EP123凱因斯 1930 年提出的概念：科技進步讓每個人需要工作的時間持續減少。
Telegram
EP55類似 WhatsApp、Line 的聊天軟體，可建二十萬人的大群，主打隱私。
Telepathy
EP48馬斯克所謂的心電感應，靠記錄神經活動直接用思想控制滑鼠與按鈕。
TeraFab
EP129馬斯克宣布要蓋的晶圓廠，據他說要包含 Logic、Memory、Packaging，細節預告七天後公布。
Terafab
EP130馬斯克要蓋的晶圓廠，邏輯、記憶體、封裝同廠，產能與太空資料中心綁定。
Terra Power
EP58比爾蓋茲共同創立的公司，負責 Natrium。
Tesla Network
EP45所有 Tesla 車主的車隊；Robotaxi 推出後，車主可一鍵讓自己的車加入接客。
Tetra
EP63Siddhika 共同創辦的公司，去年被高通收購，AI Hub 的前身。
The Algorithm
EP51馬斯克的五步驟做事方法，哈利引自《馬斯克傳》。
The Bitter Lesson
EP111人類巧思設計的複雜做法，長期會被能隨算力擴展的方法打敗。
The Information
EP117報導紅色警戒與神祕模型的矽谷媒體。
The Thinking Game
EP117講 Google DeepMind 與 Demis Hassabis 的紀錄片，哈利開場大推。
Thiel Fellowship
EP107Andrew 2011 年入選的第一屆計畫，哈利說明是給 20 多歲的人 10 萬美元，換他們離開學校去做想做的事。
Tier 1 / 2 / 3
EP64Miula 對七大科技巨頭的主觀分層：NVIDIA、特斯拉、Meta；微軟、Google、亞馬遜；蘋果。
Tim Dettmers
EP65哈利口中模型量化領域最受仰慕的專家，說這篇論文是他近期看到最重要的。
Tinker
EP113Thinking Machines 上個月發表的微調 API。
Tinker Cookbook
EP113收錄微調最佳做法的 GitHub repo，含 LoRA 與 on-policy distillation。
Token
EP42Transformer 處理資料的單位，文字、圖像區塊都能被切成 Token。
Token Efficiency
EP139完成任務用掉多少 token，與 API 價格相乘才是實際成本。
Token Maxxing
EP144企業讓員工盡量燒 AI Token 的做法；哈利說今年三四月最紅，後來有企業開始質疑效益。
Tokenizer
EP50模型認得的詞彙單位，這次換成 128K 的版本，詞彙量更豐富。
Tri Dao
EP110第二場訪談的受訪者，發明 Flash Attention，現任 Together AI 的 AI Director。
TurboQuant
EP131Google 發表的量化技術，針對 AI 推論時的 KV cache 壓縮，用旋轉向量加 QJL 兩步驟。
UHI
EP123Universal High Income，未來不用工作、有非常高的基本收入。
Ultra Accelerator Link
EP43AMD、Intel 等組成的聯盟，要做出類似 NVLink 的業界標準。
Ultra Ethernet Consortium
EP43要讓乙太網路做出更好 RDMA 的聯盟，預計今年 Q3 發 1.0。
Unified Memory
EP44M 系列晶片讓 CPU、GPU 與 Neural Engine 共用同一塊記憶體，省下搬資料的成本。
VAD
EP138Voice Activity Detection，靠音量變化等判斷你是否講完，ChatGPT 語音模式用它決定何時回答。
Value Creation / Value Capture
EP119創造價值與捕捉價值，哈利提醒兩者不同，但認為 SpaceX 的捕捉能力不弱。
Vera Rubin
EP122NVIDIA 下一代運算平台，Vera 是 CPU、Rubin 是 GPU，這一代兩者同時更新。
Verifiable Reward
EP136可驗證的獎勵：像數學和 coding 這類有明確對錯的領域。
ViZDoom
EP55已有人建好、可讓 AI 在裡面訓練的 DOOM RL 環境。
Vibe Code Bench
EP135Vals.ai 設計的 benchmark，測模型的 Vibe Coding 能力，哈利拿來比較準確率與成本。
Vibe Coding
EP118用簡單的 Prompt 先產出約七八成完成度的成品，再慢慢調整；哈利拿來類比知識工作。
Vibe Working
EP123哈利前幾週在 GPT-5.2 那集提過的說法，指用 AI 完成 PPT、Excel、整理資料等知識工作。
Vision Encoder
EP42把圖片轉成 Token 與向量的模型，例如 Vision Transformer，用在第二階段。
Von Neumann Architecture
EP128有記憶體、有處理器，把資料和程式存在記憶體，一步步搬資料執行指令的電腦。這集質疑的假說就是它會持續主宰。
Wafer
EP129晶圓，晶片是從上面刻好電路再切下來；哈利說看 Fab 需求要看每月 Wafer 量。
Wafer Scale Chip
EP146不把晶圓切成小晶片，整片直接當一顆超大晶片，最新一代是 WSE3。
Wassenaar arrangement
EP140包含荷蘭與美國在內多國簽的多邊協議，Marc 說 ASML 因此被禁止把 EUV 出口到中國
What did Ilya see?
EP41去年宮鬥劇後流行的梗，起因是有人猜 Ilya 看到了可怕的 AI 技術。
Whisper
EP107OpenAI 的語音辨識模型，2022 年出現後，Speak 不用再自己訓練模型。
Windows Semantic Index
EP41Windows 11 內建的向量資料庫，讓電腦裡的資料可以語意搜尋。
Windows on ARM
EP41讓 Windows 跑在 ARM 架構晶片上；哈利說這次因晶片夠力、軟體與 Emulator 改善才成功。
World Labs
EP67李飛飛等人 9 月成立的公司，目標是 Spatial Intelligence，只做 AI 模型不做硬體。
XLA
EP116TPU 的編譯器，哈利說 TPU 很吃編譯器能力。
Yann LeCun
EP129圖靈獎得主、長年擔任 Meta 首席科學家、知名 LLM 懷疑論者，這集只預告，下次再談。
Zeiss
EP140德國光學公司，ASML 唯一的光學供應商，鏡面用的玻璃要長三年
acqui-hire
EP120把公司核心團隊請過來並授權技術，但不真的收購，哈利說公司常用來避開反壟斷法。
adaptive write
EP145美光在 2600 SSD 上用的技術，讓 QLC 寫入時接近較快快閃的效能
asset-light
EP151資產輕化：像希爾頓只經營飯店、不持有房地產，營運者不必自己出錢擁有資產。
auto-browse
EP137Chrome 裡讓 Gemini 像使用者一樣點選網站的功能。
capacity factor
EP112太陽能系統長期平均輸出除以尖峰輸出，數字越高代表越被充分利用。
cascaded pipeline
EP107語音辨識、LLM、TTS 串起來的做法，是 Realtime API 的替代方案，但抓不到逐字稿以外的聲音資訊。
checkpoint
EP118模型訓練中途的一個版本；5.1、5.2 在哈利的說法裡是同一個 checkpoint 往不同方向延伸。
circular financing
EP151外界對 NVIDIA 投資客戶、客戶再拿錢買 GPU 的說法，例如 NVIDIA 投資 OpenAI。
civit.ai
EP56社群上傳與下載模型的網站，風格與角色模型都有。
computer use
EP120AI 自己操作電腦完成任務的功能，今年開放給大部分消費者，但哈利說幾乎沒人用。
convertible bonds
EP66可轉換債券，未來能換成股權，MicroStrategy 籌錢的方式之一。
digital gold
EP66數位黃金，maximalist 對比特幣的定位。
distributed AI
EP141高通的說法，雲端與地端混合運算
ecosystem lock-in
EP134黃仁勳的第一個論點：持續賣 GPU，中國就持續依賴 NVIDIA 生態系。
effective cost
EP143實際用模型完成一個任務的真實成本，不是 API 單價。
fine-tuning
EP107他不看好的做法，理由是基礎模型進步太快，客製模型很快被超過。
iKala
EP115Sega 的公司，這集他以第一線的角度講企業導入 AI。
know-how
EP129製程裡沒寫成文件的隱性知識，存在工程師與機臺的經驗中，是哈利認為最難跨越的一關。
knowledge cutoff
EP64模型訓練資料的截止時間，之後發生的事模型不知道，是需要聯網的原因之一。
lock-up period
EP150閉鎖期，上市後早期投資人與員工一段時間內不能賣股票。
mHC
EP121Manifold Constrained Hyper-Connections，DeepSeek 新論文提出的架構，把 Hyper-Connections 的矩陣約束成雙隨機矩陣。
mass driver
EP132在月球上用電力沿軌道加速貨物、送回地球的裝置，哈利轉述 David Friedberg 的估算。
miles per intervention
EP60兩次人類介入之間平均自動開幾英里，哈利認為是自動駕駛最重要的指標。
model distillation
EP65用很大的模型輸入輸出配對，去訓練較小的模型；哈利說這條路不受論文影響。
multi-patterning
EP140多重曝光，同一層印好幾次讓線條更密，次數多了失敗機率會增加，是中國目前補足沒有 EUV 的做法
o1 / o1 Preview / o1 Mini
EP57OpenAI 這週釋出的新系列模型，Preview 與 Mini 先開放，o1 本身還在開發。
personal intelligence
EP137在使用者同意下，用 Gmail、Google Photos 的資訊當脈絡的新功能。
prefill / decode
EP116模型運算的兩階段：prefill 處理使用者的 prompt，偏吃算力；decode 一個一個產出 token，偏吃記憶體搬運。
private AI compute
EP137把裝置上的隱私與安全延伸到雲端推論的做法。
proposer / verifier
EP57哈利推測 o1 中提出想法與評分的兩個角色，對應 AlphaGo 的兩個網路。
quantization constant
EP131分 block 量化時，每個 block 要另存的 scale 和 zero point，至少要用 16-bit 存。
restructuring
EP112OpenAI 這次完成的重組，從非營利底下長出營利組織、有 profit cap 的結構，改成營利公司由非營利組織控制。
reward function
EP57RL 用來判斷結果好壞的函式，下棋容易定義，寫哲學短文很難。
robots.txt
EP53網站告訴爬蟲能不能爬的檔案，哈利以此指出現在還沒有 AI 版本。
silent cap
EP107靜默上限：用量超過預算時不直接擋住，而是在設計上悄悄降低回應，保留彈性。
spike
EP128神經元之間傳遞訊息的脈衝；神經形態運算用 spike 的數量、頻率等表示資料。
store of value
EP66價值儲存，maximalist 認為這是比特幣最大的用途。
test time compute
EP120讓模型回答之前想得更久，想越久解得越好，與 RLVR 並列今年推理能力提升的兩個來源。
time-aligned microturns
EP138把輸入與輸出都切成 200 毫秒的小塊，同時串流處理的做法。
useful lifetime
EP114GPU 實際能用的年數，是哈利與 Burry 爭論的焦點。
verifiable domain
EP151有可被驗證結果的問題，哈利說這類問題 AI agent 最容易解決。
xAI 超級電腦
EP51位於 Memphis 的 AI 訓練集群，規劃 10 萬個 H100，用來訓練 Grok 3。
世界模型
EP139哈利認為是 Physical AGI 與機器人的基石，目前最直接的用途是生成影片。
中子減速劑
EP58放在反應爐裡降低中子速度的材料，反而讓核分裂更常發生；二、三代用水。
中本聰
EP492008 年發表比特幣論文的人，身分不明；哈利認為他該拿圖靈獎。
主動式與被動式安全措施
EP58第二代要靠人或外部電力介入冷卻；第三代靠重力等內建機制自己降溫。
主權 AI
EP125Albert 舉的地端 AI 情境，例子是德國的案子。
事件驅動
EP128有事件發生才運算，沒事件就不耗電，是神經形態運算省電的來源。
位元翻轉
EP112輻射直接把運算中的 0 翻成 1，導致計算錯誤。
個人化 mRNA 癌症療法
EP151針對腫瘤切除後防止復發；AI 從癌細胞的突變中選出 34 個目標，做成 mRNA 去激活免疫系統。
價值發現
EP126腦哥用來形容大眾逐漸認同比特幣是數位黃金的過程，他說現在仍在發生。
公共利益公司
EP112OpenAI 營利公司註冊的型態，營運上和一般營利公司差不多，章程要多寫公共利益的考量。
冗餘設計
EP54多備幾個推進器，壞一兩個仍能完成任務，但哈利說這有極限。
冷腫瘤 / 熱腫瘤
EP110冷腫瘤抗原呈現偏低、免疫系統不去攻擊；目標是提高抗原呈現把它變熱。
冷錢包
EP66自己保管比特幣的方式，哈利說這樣才是真正擁有。
分叉
EP126礦工同意後從原本的鏈分出新鏈；腦哥用 2017 年的比特幣現金，設想抗量子版比特幣。
動態路由
EP107依每個 prompt 與條件把請求分給不同模型的系統，讓產品不綁死單一模型。
區塊大小與出塊時間
EP49中本聰固定的兩個參數，使比特幣不好擴大規模。
區塊鏈
EP49全部人共享、無法篡改的大帳本，交易紀錄分成一個個區塊連在一起。
反禁令聯盟
EP149微軟發起、以《Open Weights and American AI Leadership》為題的連署。
可解釋性
EP62研究大型語言模型內部發生什麼事，Anthropic 從 AI 安全出發做。
合成資料（Synthetic data）
EP50由 AI 產生或標註的訓練資料。
垂直整合、橫向開放
EP130黃仁勳這次對 NVIDIA 的新包裝：整個技術堆疊自己做，又開放賣給各種客戶。
多模態（Multimodal）
EP42模型能處理文字、圖片、音訊等不同形式的資料。
夢想議價
EP132哈利對 1.75T 估值中，超出原本業務價值那部分的稱呼，他估約 65%。
山中因子
EP120一種特殊的蛋白質，哈利提到 OpenAI 與 RetroBio 用 fine-tune 過的小模型 GPT-4B micro 設計出更好的版本。
市場架構法案
EP126美國的加密貨幣法案；腦哥說穩定幣法案已通過，這一案受阻，因為允許穩定幣給持有人利息，銀行不滿。
市銷率
EP142股價是營收的幾倍。哈利說 SpaceX 還沒獲利，沒辦法比本益比，所以大家拿市銷率比。
折舊年限
EP114把設備成本平攤到幾年入帳；年限拉長，每年費用變少、利潤變高。
抽象層
EP110介於 PyTorch 與晶片之間的厚厚一層軟體；哈利提到 EP104 的 Modular 想重寫它。
數位黃金
EP126把比特幣比作黃金：稀缺、不會壞、可分割、去中心化；腦哥說它的市值還遠小於黃金。
晨昏太陽同步軌道
EP112Dawn Dusk Sun Synchronous Orbit，一種特殊的低軌道；哈利說在上面的衛星一年 365 天、每天 24 小時都有日照。
晶片禁令
EP134美國從 2022 年起管制對中國出售先進晶片、設備與人才，GPU 只能賣削弱版。
智譜（Z.AI）
EP143做出 GLM-5.2 的中國 AI 公司，英文名改成 Z.AI。
核心熔毀（Meltdown）
EP58停電導致冷卻水打不進去，核心越來越熱，哈利說福島就是這樣發生的。
核融合
EP58把氘和氚結合成氦，釋放能量，太陽就是這樣運作。
梁文鋒
EP121哈利提到他是 DeepSeek 創辦人，並已列名在這篇論文上。
梯度爆炸與消失
EP46權重反覆相乘導致梯度過大或趨近零，使 RNN 難以訓練。
梯度爆炸／消失
EP121層層相乘使梯度過大或趨近零，網路因此難以訓練。
殘值與好轉手
EP151哈利列出的資產類別兩個關鍵條件：用幾年後還剩多少價值、有沒有成熟的二手市場。
殘差連接
EP121每層多一條不經運算、直接傳到下一層的捷徑，2016 年論文提出，哈利說幾乎所有 AI 模型都有用。
永續合約
EP126國際交易所常見的槓桿合約工具，可以做多做空，被稱為割韭菜的工具。
泛化
EP136把在特定領域學到的能力用到沒練習過的新任務上。
波導
EP59刻在碳化矽鏡片上的奈米級 3D 結構，用來把投影的光彎成使用者看到的畫面。
混合式 AI
EP148一個流程裡依步驟難度，把工作分給閉源、開源或地端模型。
混合運算
EP63一部分 AI 在雲端跑、一部分在手機這類邊緣裝置上跑；高通有一篇白皮書就叫 The Future of AI is Hybrid。
特黑
EP122哈利對特斯拉黑粉的叫法，這集指嗆馬斯克一直調高里程標準的那群人。
白箱／黑箱蒸餾
EP127白箱能看到自家模型的機率分佈，黑箱只能拿到別家模型的輸出。
盧德運動（Luddite Movement）
EP123工業革命時英國織布工人因被機器取代，夜裡闖進工廠砸機器，最後由政府軍隊鎮壓。
礦工
EP49挑交易組成區塊、競爭猜數字的人，猜中者拿到比特幣獎勵。
神秘數字
EP49礦工要猜出的數字，讓 hash 前面有指定個數的 0，猜中的區塊才能接上主鏈。
穩定幣
EP126背後是美元的區塊鏈代幣，節目中提到 USDT、USDC。
端到端神經網路
EP111相機畫面進去、方向盤與油門出來的一體成形模型，相對於分成感知、預測、規劃的模組化做法。
第一性原理
EP119從物理與成本的底層拆解問題，哈利用它說明馬斯克拆算火箭成本的方式。
維度詛咒
EP111Curse of Dimensionality，輸入維度太大就很難訓練，Ashok 估 FSD 輸入約 20 億個 token。
美光
EP131三間做 AI 記憶體的公司之一（另兩間是 Samsung 與 SK Hynix），這次股價下跌的主角。
脈動陣列（Systolic Array）
EP116TPU 的核心設計，權重先放進運算單元，資料從一側流過整張晶片並被反覆使用。
自回歸漂移
EP55模型把自己的輸出當下一步輸入時，小錯誤逐步累積放大。
自迴歸生圖模型
EP120文字與圖像一起處理的生圖模型，技術跟 Stable Diffusion、Midjourney 不同，是這波生圖大躍進的基礎。
華為昇騰
EP134華為的國產 AI 晶片；哈利說單顆與整套系統的能源效率都輸 NVIDIA。
華為的新擴展定律
EP140哈利說是華為上週發表、被稱為「後摩爾定律」的晶片擴展定律，主張從縮小幾何轉向縮短資料傳輸時間
蒸餾攻擊
EP149Anthropic 提出的說法，指拿他人模型的輸出來訓練自己的模型；美國政府現在也沿用。
蒸餾（Distillation）
EP50用大模型當老師，產生資料訓練小模型。
表徵崩潰
EP121深層的輸入與輸出幾乎一模一樣，哈利說是原始訊號蓋過了新增的訊號。
認知核心
EP110Karpathy 的說法，指模型真正的推理與運用知識的能力，相對於背下來的世界知識。
語意搜尋
EP41把查詢與資料都轉成向量再比相似度，不必完全比對字詞。
變相收購
EP52不買公司，而是把人才聘走並授權技術，用來避開反壟斷審查。
資本支出（CAPEX）
EP56蓋廠、增產要先花的錢；哈利說這是供應鏈公司最在意回報的原因。
資本護城河
EP151哈利的說法，不是專業名詞：NVIDIA 用資產負債表與外部資金，讓更多人買得起、選用 NVIDIA GPU。
資產儲備證明
EP126FTX 倒閉後，交易所讓用戶在鏈上看到平台持有的用戶資金，腦哥說選所時第一個要有。
輻射散熱板
EP112把熱能輻射到 Deep Space 的大面積板子，是 StarCloud 最主要的設計課題。
週期主義者
EP126相信比特幣有四年週期的人，認為 2026 年是過冬年，所以在 2025 年底賣出。
過度擬合
EP55模型對訓練資料背得太熟，換個情境就不行。
邊緣裝置
EP63手機、筆電這類在使用者身邊的運算裝置，也有人說終端裝置。
邏輯摺疊
EP140華為主張的做法：晶片從設計時就當成可對摺的 3D 結構，哈利說和 TSMC 把兩片 2D 晶片疊起來不同
量子優勢
EP111Quantum Advantage，量子電腦在某任務上明顯勝過任何已知的傳統演算法；原本叫 Quantum Supremacy。
阿姆達爾定律
EP141只加速系統的某一部分，整體速度仍被其他步驟卡住
隔熱瓦
EP139星艦的 Heat Shield，決定能重複利用幾次；哈利說中文沒有官方翻法，隔熱瓦比隔熱罩精準。
雙情境模擬
EP110同時模擬癌細胞情境與免疫中性的正常細胞情境，找只對前者有效的藥。
雙隨機矩陣
EP121每行每列和都是 1、元素非負的矩陣，不管乘幾次都不會乘出太大或太小的數字。
零日漏洞
EP149廠商還沒發現或修補的安全漏洞；模型靠它逃出沙盒。
預設搜尋引擎
EP52瀏覽器或手機一打開就用的搜尋引擎；Google 付錢換這個位置，是本案核心。
高精度地圖
EP45把整個城市的道路與建築用高解析度畫出來的地圖，Waymo 靠它輔助判斷，Tesla 不用。
黃仁勳
EP134NVIDIA 執行長，在 Dwarkesh 的訪談中為持續賣 GPU 到中國辯護。
黃氏定律
EP125Albert 轉述黃仁勳的說法：晶片翻倍太慢，算力要靠系統層面堆疊來追。
龍蝦（OpenClaw）
EP133可接各家 LLM 的工具；Anthropic 近期禁止用月訂閱方案串接它，只能走 API。