名詞速查

1481 個名詞與人物,同一個詞被好幾集講到就併在一起,各自連回原集。

1481 個

RAG

retrieval augmented generation,把情境注入送給模型的 prompt。 018

先從指定資料集檢索,再讓模型根據檢索結果推理與回答。 035

先檢索、再讓 LLM 回答;Beyang 說 context 問題換個說法就是 RAG。 047

讓語言模型先檢索內容再回答的做法,Ivan 說它改變了知識管理。 051

在回答當下先檢索相關資料放進 context,再讓模型回答。 052

先檢索相關資料,再交給語言模型生成回答,用來降低幻覺。 067

retrieval augmented generation,把模型接上內容資料庫當依據;Bret 認為只靠它不足以支撐有意義的客戶體驗。 082

對文件建立索引後再問答的做法,主持人拿來形容 NotebookLM 的用法。 086

讓模型從外部資料庫檢索內容再回答,企業 Q&A 的常見做法。 091

Harvey

主持人說是「我們合作的公司」之一:一件法律工作其實是一連串的思考、規劃、研究與撰寫。 027

主持人舉的法律領域 AI 新創例子。 045

本集用來代表法務領域的 persona-based agent。 082

Winston 共同創辦的公司,為法律、專業服務與 Fortune 500 做 domain specific AI。 101

法律 AI 公司,主持人投資時打電話問過它的大型律所客戶 128

Gabe 共同創辦的公司,替律所與大型企業內部團隊做 AI 142

主持人舉為法律垂直領域集中到少數玩家的例子。 144

DeepSeek

這集的主角,中國的開源模型,兩人討論它的技術、成本與市場反應。 100

Thomas 舉的開源例子,論文與模型公開,部分採 MIT 授權。 106

中國的 AI 公司,它的 reasoning model 讓白宮意識到美國只領先一點點。 125

Matthew 稱讚其讓訓練與推論更有效率的科學是真的。 126

Jacob 認為它靠漸進的效率改善,並指稱它謊報運算能力、蒸餾了 ChatGPT 的模型權重。 129

Foundry

通用的資料整合平台,把資料一路接到 ontology 與應用層。 025

用聚合或大型 GPU 雲提供算力的公司,字幕寫成 Foundry ML。 027

Ginkgo 內部負責自動化、規模化實驗室工作的團隊與設施。 034

專為 AI 工作負載打造的公有雲,主打彈性、可靠度與價格效能。 077

Satya Nadella 用來做長時間運作 agent 的平台,GitHub 的 harness 也能在其中使用。 164

MCP

Model Context Protocol,Anthropic 提出的開放標準,用來把模型接到文件、日誌、商業工具與 IDE 等既有資料。 109

Model Context Protocol,讓各種服務以標準方式接進模型的開放協定。 118

連接 agent 與服務的協定;Matthew 說 agent 流量都得經過 Cloudflare。 126

Nikesh 提到取代傳統 API 的 client-server 互動方式,企業正在討論要不要採用。 134

讓 agent 連工具的協定;Philipp 說 API 數量一多,context 就會爆掉。 158

Sora

OpenAI 的影片模型。 054

OpenAI 的文字轉影片模型,能生成最長一分鐘、高畫質、畫面連貫的影片。 061

端到端生成影片的模型;Joshua 說在 HeyGen 的架構裡是可接入的零件。 069

OpenAI 的生成式影片模型,第四段由研究團隊談藝術家的用法與世界模擬。 071

OpenAI 的影片生成模型,團隊把它視為一種世界模型。 095

Braintrust

一位主持人和 Ankur Goyal 約一年前孵化的公司,做 eval、prompt playground 等產品。 072

企業用的端到端平台,用來做 evals、observability 與 prompt 開發;主持人介紹時說剛募得 $36 million。 085

主持人舉為 evals 逐漸成形的代表公司之一。 109

Tuhin 說 Baseten 要與這類 eval 公司整合。 159

Cerebras

做 AI 專用晶片的新創,剛跟 UAE 簽下 1 億美元的合約,要用自家晶片打造 9 台超級電腦。 027

做 wafer scale AI 晶片與超級電腦的公司。 031

第一代 AI 晶片新創,押注晶片內記憶體,後來模型變得太大 127

Andrew 創辦並擔任 CEO 的公司,做針對 AI 工作負載加速的電腦 162

Databricks

跑在三大雲上、整合資料工程、資料倉儲與機器學習的資料與 ML 平台。 011

Jesse 想學習的公司之一,還稱執行長 Ali 是自己最喜歡的 CEO 132

Sridhar 提到的資料平台對手,也是 Microsoft 的合作對象。 139

Ofir 稱讚的資料公司,說它為了應對 agent 產生的資料而自建 agent 與資料庫 175

Jensen Huang

NVIDIA 創辦人暨執行長,本集來賓。 013

NVIDIA 共同創辦人兼 CEO,談公司的兩種工作方式。 046

NVIDIA 創辦人暨執行長,本集來賓。 089

NVIDIA 執行長,第一段片段的來賓。 095

OpenEvidence

主持人參與的公司,說在美國約有 50% 的醫師使用,並以保持小規模為公司目標 128

Daniel 創辦的臨床決策支援產品,以醫師為使用者,回答附有參考文獻 130

醫療資訊 AI 公司,Jensen 聽說它的毛利率有九成;主持人也多次提到 145

主持人與 Tuhin 提到的 Baseten 大客戶之一。 159

Sierra

主持人舉例可能做客服領域的新公司。 054

Bret 與共同創辦人創辦的公司,替企業做品牌專屬、面向客戶的 agent。 082

主持人提到它有一個叫 τ-bench 的客服 benchmark;Brendan 也和 Sierra 談過如何定義好的客服回覆。 110

主持人與 Mati 都提到的客服用途導向公司,作為單一用途的對照。 143

Waymo

Andrej 以它說明 demo 到產品用了約十年,並認為它的問題在硬體。 080

本集拿來和 Tesla 對照的 robotaxi 公司,感測器很多、硬體較重。 102

對話裡拿來比較商業模式、安全紀錄與普及速度的自駕公司。 119

主持人舉為自駕車領域最大的贏家之一,並指它是 Google 的既有業務。 144

chain of thought

在 prompt 加上逐步思考,讓模型展開較長的推理,再得出更好的結論。 001

要求模型先講出解題思路再回答,答對的機率比較高。 007

要模型逐步想過再回答,比直接作答更容易答對。 011

模型回答前的內部推理過程。 113

data flywheel

監控應用、蒐集好範例、再以 few shot 放回應用的循環,LangSmith 正在推。 057

不斷拿到新資料、評測出弱點、再改進模型的迴圈。 065

Alexandr Wang 說每個能力領域都需要各自的資料循環來推進。 095

每一筆互動紀錄都能變成新的 evals,進一步優化系統。 158

eval

評估模型好壞的測試,Suhail 認為多數與使用者真正在意的東西關聯不夠強。 060

評估模型輸出。Winston 說要請夠資深的律師,不能太資淺。 101

評估 agent 表現的做法,Andrew 說快速評估是目前的一大難題 128

評測。Sridhar 要求每個新功能上線、更換底層模型前都要有。 139

hyperscaler

雲端大廠;Elad 說基礎模型的資金大半來自這群公司。 059

大型雲端業者,主持人說只有它們的商業模式撐得起前沿模型的開銷。 063

大型雲端業者,例如 Amazon 與 Microsoft,是基礎模型公司的資金來源之一。 081

租 GPU 給客戶的大型雲端業者;Matthew 說他們不在乎使用率,與 Cloudflare 的按量計費不同。 126

system of record

公司記錄關鍵資料的系統,例如 HR 紀錄;Nikesh 認為模型不會取代它。 134

把實驗室產生的各種科學資料集中、整理、可搜尋的資料平台。 140

企業既有的核心系統;這集談客戶願不願意用 AI native 公司取代它們。 147

公司現有的紀錄系統,裡面的資料能用來判斷流程的預期結果。 158

Abridge

Shiv 創辦的公司,處理醫病對話並產出病歷、帳務等文書。 108

給醫師用的工具,公司把醫師寫來的正面回饋集中在一個頻道,讓員工隨時看得到。 138

Tuhin 舉的例子,醫師使用的 ambient scribe,深度整合進醫院與臨床流程。 159

AlphaFold

DeepMind 的蛋白質折疊專案,起於 Mustafa 團隊替 DQN 與 AlphaGo 類工具找新應用的 hackathon。 016

Google 做的蛋白質模型,Jason 說它算是這類模型的第一代之一。 034

主持人拿來比較的蛋白質結構模型,建立在數十年累積的結構資料上 155

Andrej Karpathy

OpenAI 早期成員,帶領過 Tesla 的 Autopilot,現在做 AI 教育。 080

曾任職 OpenAI 與 Tesla,片段中談 AI 作為 exocortex 與小模型。 095

Fei-Fei 的學生,Sarah 來之前先問過該問什麼;博士論文做的是圖像描述。 117

Cartesia

做 state space models 的公司,被拿來說明對 Transformer 的替代方案。 054

Karan 與 Albert 的公司,把 SSM 做成產品,第一個產品是 Sonic。 070

Karan 與 Albert 的公司,兩人上過節目,被舉為 state space 模型這條路線的例子。 109

Chinchilla

去年的一篇論文,顯示用較小模型搭配更多資料、訓練更久,也能達到相近表現。 016

Arthur 參與的 scaling laws 論文,主張訓練 token 數要隨模型大小一起增加。 040

DeepMind 的 scaling laws 論文,Jared 說它指出參數、算力與迭代次數的理想分配。 077

Claude Code

Anthropic 的 agentic coding 工具,Ben 說先在內部爆紅才對外推出。 118

Andrew 目前最愛的 coding agent,稱讚它會規劃步驟、列檢查清單、逐項執行 128

被 Maxim 稱為第一個被廣泛使用的自主 agent,在 Onyx 的客戶群裡成長很快。 163

Cognition

Scott 的公司,主持人介紹時說他們自稱是專注在推理的 AI lab。 062

做 AI 寫程式的公司,Dylan 本來不看好,後來改觀 127

被舉為先走 PLG、再以 forward deployed 進銀行的例子 175

CoreWeave

Illia 舉的例子:原本是挖礦公司,優勢在懂得蓋資料中心、能向 NVIDIA 拿到大量供貨,而不是拿挖礦的 GPU 改用。 032

Neocloud 之一,Dylan 提到微軟向它租了不少算力 127

Neil 說 Magnetar 2021 年首次投資的 GPU 雲,後來為 OpenAI 訓練模型 152

Daphne Koller

Insitro 創辦人;曾在 Stanford 任教、創辦 Coursera、待過 Calico。 006

Lukas 在 Stanford 的教授,也上過 No Priors。 026

來自 Insitro,片段談機率圖模型與深度學習的關係。 046

Klarna

這集引述其客服 AI 助理的成效:處理三分之二的客服詢問,工作量相當於 700 位全職客服。 054

主持人舉的例子,用 OpenAI 與自訂流程讓客服人力少了 700 人。 072

歐洲的先買後付服務,執行長在 X 上發文談 AI 對客服團隊的影響。 097

Long Lake

買下服務業公司並用 AI 改造的公司,Taubman 是共同創辦人與執行長,已收購約 30 家公司。 160

主持人舉的 AI roll-up 例子。 170

買下公司再轉成 AI 公司,賺取套利與較高利潤的例子 175

Magic

以人力輪班為主的文字個人助理新創,Alex 在那裡做出第一個上線的 AI 產品。 010

最早推出超長 context window 的公司之一,主持人說是 5 million token。 063

Eric 的公司,目標是做像同事而非工具的軟體工程師 co-pilot,同時訓練專注 code 的大型自訂模型並做產品。 079

Neeva

Sridhar 創辦的搜尋公司,主打無廣告與隱私,後來轉向 LLM 的帶出處答案。 008

Snowflake 剛收購的搜尋公司,Frank 看重的是團隊的搜尋專長。 023

Sridhar 之前創辦的搜尋新創,2023 年初就在回答裡附上引用。 139

PLG

product-led growth,靠產品本身(含免費版)帶動客戶,HubSpot 從銷售產品開始做。 036

靠產品本身帶動成長的銷售模式;Arvind 說現在常見的做法是把它當導流漏斗,再用企業銷售擴大。 115

產品帶動成長;其中一位說自己過去主張開發者工具多半不適用,現在卻變得很熱,Eon 自己也這樣用 175

Palantir

Brian 創業前任職的公司,起初擔任 forward deployed engineer,後來負責產品與工程。 019

做資料驅動應用平台的公司,客戶有政府、軍方與大型企業。 025

Mati 的前東家,Mati 說公司內因此也納入 forward deployed engineering。 143

RLHF

以人類回饋做強化學習,Hugging Face 主導相關的開源函式庫。 005

用人類對輸出的好壞評分做強化學習,ChatGPT 靠它從 GPT 3.5 變得好用。 035

用人類回饋訓練模型;Scale 從 GPT-2 時期就和 OpenAI 做最早的實驗。 065

Rippling

整合人資、IT 與財務的一站式平台。 083

被舉為 AI durable 的軟體公司,也提到最大風險是客戶人數下降。 086

Parker 現在的公司,從 HR、IT、identity 一路做成整合的產品套件。 122

SWE-bench

用真實 GitHub issue 組成的軟體工程 benchmark,Devin 在上面拿到領先成績。 062

Princeton 一個團隊從 12 個開源 Python repo 整理出約 2,200 組 issue 與 pull request,模型與 agent 都拿它來比。 106

Zach 提到衡量 coding agent 的基準,說 Warp 投入不少,想在上面名列前茅。 137

bitter lesson

團隊引用的觀點:要選隨算力增加就越變越好的方法。 061

擴大學習、擴大搜尋就夠了的說法;Oriol 自稱骨子裡是 deep learner,並不反對。 074

Richard Sutton 的觀點,Eric 用來說明寧可要能自己學習的方法,而不是人工設計的 heuristic。 079

deep research

OpenAI 發表的研究型產品,被拿來和一般水準分析師的工作比較。 100

OpenAI 在 2 月發布的 agent 產品,用推理加上瀏覽等工具完成多步驟研究。 112

主持人常用、建立在 o3 上的研究型產品,會上網查資料、整理並畫圖表。 113

diffusion model

影像生成的主流做法,Make-A-Video 借用的就是它在影像上的進展。 024

這集用來做圖像、影片與音訊生成的模型類型,與 LLM 對照。 042

Dylan 拿來對應「藝術」那一面的生成模型。 055

distillation

用大模型幫忙訓練出更好的小模型的技術。 040

蒸餾,主持人認為可能是模型越做越小、效能卻跟得上的原因之一。 081

用一個大模型或大量算力去監督一個很小的模型。 095

evals

評估 AI 輸出品質的測試,Ankur 說它比看起來難,也是 Braintrust 的起點。 085

衡量模型能力的評測;Brendan 認為它們是各種能力的上游。 110

驗證 agent 輸出是否符合預期的測試;Philipp 認為開發者要先寫好。 158

harness

Zach 指包在模型外面的那一層,與 context 並列為核心技術。 137

包住模型的系統與流程,Notion 大約每 6 個月重寫一次。 153

把模型、資料、工具串成迴圈的外殼,GitHub Copilot 等產品都是這種結構。 164

human in the loop

讓人先指出要處理的區域再交給模型,是 green screen 的核心設計。 002

讓人把關每個 AI 建議,並從接受、小改、拒絕拿到回饋。 049

由人逐一審查 agent 行動的做法,Maxim 認為行動量暴增後行不通。 163

inference

模型訓練好之後的推論,Kawal 說是團隊現在的重點。 037

模型部署後實際產生輸出的階段;Tuhin 說它比訓練更重視可靠度與重複的流程。 056

AI 模型被使用時的運算;Andrew 說 Cerebras 在這件事上比 GPU 快很多 162

instruction following

模型聽得懂並照做使用者的指示,而不只是接續文字。 011

用附上指令的多個任務訓練,讓模型能處理沒看過的任務。 015

照指示精準執行的能力,Jesse 認為這是客服場景最需要的智力。 097

o3

Thomas 說完整版尚未開放,預期推理進步會讓 agent 更接近 SWE-bench 的滿分。 106

deep research 開始微調時使用的基礎模型。 112

OpenAI 的推理模型,先思考再回答,並會用工具。 113

regulatory capture

既有業者靠法規鎖住市場,主持人用來解釋生技為什麼沒有新巨頭。 014

主持人用來形容大公司推動限制開源,好讓自己控制產業。 040

監管被特定利益綁住;這集以製藥與可能的 AI 管制為例。 171

test time scaling

談 Stargate 時被列為難以預測的變數之一,和演算法效率、新的資料生成並列。 100

讓模型在推理時想得更久、換更好的結果。 113

推理時多花算力換更好結果;OpenAI 的兩位研究者說有工具時斜率更陡。 138

vibe coding

Zach 區分的另一種 coding:做出來的 app 屬於長尾,不是 Warp 的目標。 137

用 AI 快速產出應用的做法;CJ Desai 認為它還要過企業的監管、安全與備援門檻。 147

靠 AI 生成程式碼的做法;這集延伸出「vibe sales」「vibe agents」等玩笑說法。 151

AI factories

Jensen Huang 對產生 token 的運算設施的稱呼,說這類設施像能源與網路一樣是基礎建設 145

Neil 談到 NVIDIA 的概念,指放在企業旁邊、專屬其工作負載的算力 152

AI native

Fidji 的用語,指從頭重想產品怎麼用這些技術,而不是塞進既有的框架。 022

以 AI 為核心起家的公司;這集談它們與既有軟體廠的競合。 147

AlexNet

Ilya 與 Alex Krizhevsky 用兩個 GPU 訓練出的大型卷積神經網路,被視為轉折點。 039

在 ImageNet 上勝出的模型,Fei-Fei 把它列為職涯重要時刻。 117

Alexandr Wang

Scale AI 創辦人兼 CEO,主持人都叫 Alex。 065

Scale AI 的創辦人,最後一段談評測。 071

Alpha School

Joe 擔任校長的學校,McKinsey Price 創辦,兩小時 AI 學科加下午工作坊 133

Satya Nadella 說最近見過它的創辦人,並從中想到教育可以重新設計。 164

Alyssa Henry

Square 前 CEO,曾任 AWS 副總裁,現任 Intel 與 Confluent 董事。 044

前 Square CEO,談 AI 怎麼幫小商家處理不擅長的那部分生意。 046

Anduril

做低成本無人機、感測網路與機器視覺等系統的國防科技公司。 019

主持人用來說明低毛利服務轉成高毛利產品的國防公司。 042

Applied Intuition

做模擬軟體的公司,Elad 舉它為多年來在行為建模上做出成果的例子。 059

Qasar Younis 與 Peter Ludwig 創辦的公司,做 vehicle intelligence,業務分工程工具、vehicle OS、autonomy 與應用。 119

Arthur Mensch

Mistral 共同創辦人兼 CEO,之前在 DeepMind 做 LLM 研究,是 Chinchilla 論文的共同作者。 040

Mistral 共同創辦人兼 CEO,主張模組化護欄,讓 AI 保持開放。 046

Artificial Analysis

自己重跑 benchmark,比較各家模型表現與每 token 成本的網站。 100

彙整各模型基準測試的網站,比較推理、知識與每單位時間 token 數等表現。 109

Arvind Jain

Glean 共同創辦人兼 CEO,早年在 Google 做搜尋,也是 Rubrik 的共同創辦人。 115

Glean 的創辦人,主張 SaaS 讓企業搜尋有機會成真。 138

Ashwin

Jesse 的共同創辦人,在印度長大,也參加過很多數學競賽。 097

Jesse 的共同創辦人,兩人都是第二次創業、技術背景 132

Aurora

Reid 舉例的自駕卡車公司,說明轉換期會比想像中長。 045

AWS 的託管資料庫,Matt 說與 PostgreSQL 完全相容,用來說明不鎖客戶。 078

Baseten

Tuhin 共同創辦的公司,替做大型模型的團隊提供 AI 基礎設施,目前以推論為主。 056

Tuhin 創辦並擔任 CEO 的 AI inference cloud。 159

Brendan Foody

Mercor 共同創辦人兼 CEO,本集來賓;與共同創辦人都是 Thiel Fellows。 110

Mercor 的 CEO,預測工作替代與實體世界的自動化。 138

Bret Taylor

Sierra CEO。主持人介紹時提到 Google Maps、Facebook CTO、Salesforce co-CEO,也當過 Twitter 董事會主席,現在是 OpenAI 董事會主席。 082

OpenAI 董事會成員、Sierra 創辦人。 095

Brett Adcock

Figure 創辦人暨 CEO,先前創辦過 Archer Aviation。 058

第三段的來賓,Figure AI 的 CEO,公司做人形機器人。 071

Chain of Thought

大型語言模型出現的一種處理資訊方式,Elad 舉為與過去 NLP 不同的能力。 020

引導模型逐步推理的做法,Aidan 稱之為事後補上的做法。 091

Claude artifacts

Karim 喜歡的新介面,輸出一個可以調整的迷你網頁 app。 076

Eric 拿來對照的產品,能生成 UI,但不能接後端服務並部署。 092

CoWoS

晶片封裝技術,Dylan 說 2023 年是 NVIDIA 供貨的瓶頸 127

TSMC 的先進封裝,這集封裝瓶頸的代表。 166

Copilot

GitHub 的程式碼補全產品,Alex 是 chief architect。 010

codegen 產品的例子,主持人說它正在替 Microsoft 帶來營收。 020

Cruise

Garry 舉的例子:Kyle 在 YC 期間做了一個裝在 Audi A4 上的自動駕駛套件,只能跑 101 公路,但足以吸引人才與資金。 066

Kyle 創辦的自駕車公司,先做改裝系統,再轉做 robotaxi,後被 GM 收購。 102

DARPA

Ryan 提到正在做 LLM 相關專案的美國單位。 038

隸屬 Emil 管轄的研究單位,Emil 形容為國內甚至全球最前沿的研究之一 146

Dan Hendrycks

本集來賓,AI 研究者,Center for AI Safety 的主任。 105

Center for AI Safety 的 director,用核子嚇阻談超級智慧。 138

Decagon

提供企業級客服 AI agent 的新創,成立於 2023 年 8 月。 097

Jesse 與 Ashwin 共同創辦的 AI 客服 agent 公司,客戶包括銀行、電信、航空與科技公司 132

Devin

Cognition 的 agent 產品,介面分成 plan、shell、code、chat 四個分頁。 059

Cognition 的 AI 軟體工程師,能處理整個任務並自己做決定。 062

Dylan Field

Figma 創辦人暨 CEO,本集來賓。 055

第二段的來賓,公司用 AI 改變設計流程、拉近設計與開發的距離。 071

Emily Glassberg Sands

Stripe 的 head of information,之前是 Coursera 的 VP of data science。 050

第一段的來賓,Stripe 的 head of information。 071

Flux

Erik 提到近來受關注的圖像模型。 096

Black Forest Labs 的開源圖像模型,Thomas 用來說明開源推動創新。 106

G42

Cerebras 的合作夥伴,雙方要蓋九台超級電腦。 031

主權客戶,Andrew 說他們下了 billion-dollar order,也是策略夥伴 162

GLP-1

Saji 舉的例子:曾被視為沒人願意投資的肥胖症領域,後來成為改變治療方式的藥。 140

主持人認為被低估的藥物類別,並帶動對胜肽與荷爾蒙療法的興趣。 144

HeyGen

用 avatar 取代拍攝、做影片生成與翻譯的公司,使命是讓視覺敘事人人做得到。 069

主持人舉的例子,即將在產品裡推出用自然語言描述情緒與聲音的功能。 109

Hopper

NVIDIA 的 GPU,Kevin 說正在大規模部署,其中的 8-bit floating point 是規劃已久的功能。 018

NVIDIA 的 GPU 世代,Jensen 說自 Llama 問世以來效能提升了五倍。 089

Ilya Sutskever

OpenAI 共同創辦人兼 chief scientist,AlexNet 作者之一。 039

OpenAI 共同創辦人,片段談 OpenAI 從非營利改成 cap profit。 046

Inflection

Mustafa 與 Karen Simonyan、Reid Hoffman 創辦的公司,約 30 人,偏應用導向。 016

Reid 與 Mustafa Suleyman 等人創辦的公司,做 Pi 這個個人 AI。 045

Isa Fulford

OpenAI 的研究者,主持人介紹為 deep research 背後的開創者之一。 112

OpenAI 的研究者,談訓練 deep research。 138

Jacob Helberg

來賓,被提名為國務院經濟成長、能源與環境事務副部長,也是 Hill and Valley Forum 的共同創辦人。 129

國務院主管經濟事務的次卿,上一次上節目是就任之前 161

Jakob Uszkoreit

Inceptive 共同創辦人暨 CEO,Attention Is All You Need 的共同作者。 029

當時用 attention 做 query similarity,想到拿 attention 做 encoder decoder;主持人提到也上過這個節目。 032

Jevons paradox

技術讓資源使用效率大增後,對該資源的需求反而增加;Jacob 用來解釋自己對美國製造業的樂觀。 129

某物變便宜,需求反而變大;Andrej 拿來解釋軟體需求,並舉 ATM 與銀行櫃員的例子。 154

LLaMA

Meta 釋出的模型,Matei 說是 7 billion 參數,用 1.4 trillion tokens 訓練。 011

Meta 的模型;Sarah 說品質不錯,很多新創不管授權問題照用。 014

LaMDA

Google 內部的聊天機器人,由 Meena 改名而來,後來因工程師認為它有知覺上了新聞。 012

Mustafa 在 Google 時參與的大型語言模型團隊,前身是 Meena 團隊。 016

LangChain

Kevin 舉例的熱門開源 orchestration 工具。 018

開源套件,起點是 Harrison 的 side project,現在有 700 種整合。 057

Lean

形式化證明的語言,團隊建議學數學的人及早學。 090

一些公司把問題轉成 Lean 形式化,以提升數學與程式的推理能力。 109

Med-PaLM

以醫療資訊訓練的 PaLM 變體,Emad 用來說明基礎、instruct、fine-tuning 三階段。 003

以 PaLM 為基礎、再往醫療領域對齊的模型,PaLM 2 是 Med-PaLM 2 的底層。 017

Med-PaLM 2

Google 專門在醫療資料上訓練的模型,主持人說它的輸出往往比醫師專家更正確。 035

主持人提到的醫療領域模型,Kawal 說還在早期。 037

Midjourney

主持人舉例,說它的使用量顯示很多人想產出高品質影像。 024

主持人用來說明創意工具市場規模的例子。 042

Mustafa Suleyman

本集來賓,DeepMind 共同創辦人,現為 Inflection 共同創辦人兼執行長。 016

DeepMind 共同創辦人,現為 Inflection AI 共同創辦人兼 CEO。 046

Noam Brown

Meta 的研究科學家,本集來賓,做過撲克 AI 與 Cicero。 001

Eric 早年一起做 RL 演算法的合作者之一;主持人也稱 Noam 是共同的朋友。 079

Noam Shazeer

本集來賓,主持人說 Noam 在 Google 前後待了約 17 年、是 Transformer 論文的主要作者之一;現在做 Character。 012

Character.AI 共同創辦人兼 CEO,之前是 Google 工程師。 046

Noubar Afeyan

Flagship Pioneering 創辦人暨執行長,本集來賓。 104

Flagship Pioneering 的創辦人暨 CEO,也是 Moderna 的共同創辦人,想讓創業成為一門專業。 138

OpenAI

合作夥伴,提供視覺語言模型與語言推理。 058

Andrew 說年底簽下 north of 20 billion dollars 的交易 162

OpenClaw

Andrej 說它的記憶系統比一般 agent 預設的 context 壓縮精緻,至少有五個好點子。 154

另一個自主 agent 工具,Maxim 說有企業把它當成正式核准的工具。 163

Optimus

Tesla 的人形機器人,早期版本跑的是車用的電腦、相機與網路。 080

Tesla 的機器人,主持人認為可能是機器人領域的贏家之一。 144

Paul Graham

早年給 Garry 機會的人,YC 靠 Paul Graham 的文章在網路上吸引創辦人。 066

提出「做不能規模化的事」的人;Elias 認為這句話現在不適用。 094

Pi

Inflection 剛推出的個人 AI(personal intelligence),先以同理、支持的陪伴風格出發。 016

Inflection 的產品,定位是有同理心與立場的陪伴型工具,不等於治療師。 045

RFT

reinforcement fine-tuning:定義想要的結果再獎勵模型。 110

reinforcement fine-tuning,在特定任務上做強化學習微調;Isa 談何時值得做。 112

RL environment

模擬完整工作世界的環境,給實驗室訓練 agent。 124

讓 agent 與任務互動取得回饋的環境;Gabe 說在法律裡就是一件客戶案子 142

RSI

用模型加速模型研究的循環;Noam 預期是漸進而非一夜爆發。 167

這集指模型自己參與訓練模型;實驗室裡有人預期明年底出現輕度版本。 171

RTX

NVIDIA 在電腦圖學光線追蹤上的領域函式庫。 013

把不同實驗室的機器人資料整合成共同格式、跨機器人訓練的工作。 107

Reid Hoffman

PayPal、LinkedIn、Inflection AI 的共同創辦人,Microsoft 董事,也曾是 OpenAI 創始董事會成員。 045

把 AI 比作心智的蒸汽機,片段裡提到自己的書 Impromptu。 046

Runway

做創作工具的應用研究公司,約 35 種 AI 工具。 002

Devi 舉的例子,說明編輯、風格化現有影片已經有產品在做。 024

SDR

負責對外開發客戶的業務;主持人說市面上的 AI SDR 工具已經很商品化。 075

業務開發代表,Ramp 用自動化讓他們每月約到更多會議。 076

Sarah Guo / Elad Gil

本集主持人,兩人自己回答聽眾提問,沒有來賓。 014

本集兩位主持人;開場由 Sarah 向 Elad 提問。 020

Scott Wu

Cognition 共同創辦人兼 CEO,從小打數學與程式競賽。 062

Cognition 的共同創辦人,公司的產品 Devin 定位是 AI 工程師。 071

Shane Legg

DeepMind 共同創辦人之一,AGI 想法與用語的核心推手,博士研究整理了 80 個左右的智慧定義。 016

Mustafa 說 AGI 的想法與用語主要是 Shane 推動的,博士研究跟 Marcus Hutter 做智慧的定義。 046

Sierra / Decagon

談客服時提到的兩家公司,Decagon 是其中一位主持人有參與的公司。 086

主持人說客服領域看起來正往這兩家收斂。 116

Skunk Works

Alex 形容 Copilot 早期在公司內部低調運作的狀態。 010

Jensen 用來形容公司內押注十年後、不確定能否成功的那部分組織。 013

Stargate

OpenAI 在白宮和 Trump 一起宣布的一系列 AI 基礎設施投資。 100

大型 AI 基礎建設計畫;Zach Dell 把它和 Abilene、Gulf 的大型專案並列,當作高耗能工作負載往低電價地區集中的例子。 136

Suno

Mikey 共同創辦的 AI 音樂生成工具,輸入文字提示就能做出含歌詞的歌。 064

AI 生成音樂的公司,推論全跑在 Modal 上。 096

The Diamond Age

Neal Stephenson 的小說,書裡給孩子的 AI 教材是 Khan Academy 的長期願景。 028

主持人提到的小說,Liam 被問到十年後世界時的引子 155

Trainium

AWS 自己做的晶片,Matt 說部分工作負載在上面跑得更好也更便宜。 078

Amazon 的自研晶片,Dylan 提到它受機櫃整合良率影響而延遲 127

Transformer

用 attention 一次處理整個序列、取代 RNN 的架構。 012

以 attention 為核心的模型架構,Jakob 說它跟當時的加速器非常合。 029

Winston Weinberg

Harvey 共同創辦人兼 CEO,本集來賓。 101

Harvey 的 CEO,講他們如何測出模型的法律能力。 138

Zipline

用自主無人機送醫療用品的公司,Keller 稱之為全端公司,設計、製造並營運自家的飛機與服務。 004

主持人的朋友經營的送貨無人機公司,被拿來對照面試看重的快速原型直覺。 058

accelerated computing

針對通用運算做不到的問題,用專門硬體加速,是 NVIDIA 創業時的主軸。 013

Jensen 說 NVIDIA 發明的運算方式,用在圖形、資料處理、分子動力學等 AI 做不到的工作 145

agent

由模型驅動規劃、自己採取行動、完成較複雜的任務再回報結果的系統,不只是聊天介面。 027

能替使用者完成目標、而不只是回答問題的系統;本集把它視為一條光譜。 041

agentic commerce

讓 agent 替使用者下單交易;Glenn 說當初外界以為這會讓旅遊公司失去價值 168

由 agent 替人買東西的購物方式,Ask DoorDash 是他們的第一步。 169

bundling

把拆開賣的產品打包,能解決整合問題,價格也可低於各部分加總。 044

整合與拆分的來回;Ivan 認為目前是整合階段。 051

cap profit

OpenAI 的結構:投資人的回報有倍數上限,Ilya 說據自己所知是世上唯一一家。 039

投資人報酬有倍數上限的公司結構;Ilya 說就自己所知,OpenAI 是世上唯一一家。 046

chiplet

把晶片拆成較小的元件,Alyssa 說能讓晶片設計更模組化。 044

把多個較小的晶片組合起來,MI300 裡有 CPU、I/O、記憶體控制器等。 053

chunking

心理學概念:把幾個項目併成有意義的組塊,就能記住更長的序列。 015

把文件切成小塊再轉向量;Tengyu 預期上下文變長後需求會降低。 067

cognitive core

Karpathy 設想的模型核心:只負責思考,需要資訊時靠工具查。 095

Satya Nadella 說最終要找的東西;小模型能 hill climb,就是朝這個方向。 164

company agents

Bret 的用詞,指代表公司品牌、與客戶對話並採取行動的 agent。 082

公司對外、帶品牌的對話式 agent,可處理產品諮詢、交易與客服。 095

context window

模型一次能放進的內容長度,本集談到 32k、100K 等數字。 020

提示一次能餵給模型的資料量,越長越能一次丟進整個程式碼庫。 035

customer zero

Vercel 自己先用自家產品,逼自己做出更好的 Next.js 與基礎設施。 030

Matthew 形容 Cloudflare 一路都是自己的第一個客戶。 126

data cloud

Snowflake 的主張:工作來找資料,資料不用搬去找工作。 023

把客戶資料集中、供 AI 使用的產品,Clara 說是 Salesforce 史上自家開發的產品裡成長最快的。 043

data foundry

Alexandr 形容 Scale 角色的說法:像晶圓代工一樣量產資料。 065

Scale AI 對自己的定位,提供 AI 所需的資料,也負責衡量系統。 071

digital twin

使用者自己的數位分身,可輸入腳本生成影片。 069

預先模擬整套網路與接線配置,用在 xAI 叢集的前置作業。 089

embedding

以語意連結內容的向量表示,取代靠關鍵字與目錄找資料。 051

模型把文件、段落或圖片轉成的數字表示,也叫 vector。 052

exocortex

Andrej 把雲端的 AI 看成大腦的下一層,在新皮質之外。 080

把 AI 視為人類認知的延伸,片段由此談到擁有權與租用。 095

fine-tuning

用大量回饋資料調整現有模型,讓它更貼近某個任務。 035

直接修改或補充模型權重,Ankur 說比較慢、較貴,也可能把模型弄壞。 085

foundation model

多任務、從大量資料學習、比較容易泛化到新任務的模型,Peter 認為機器人也會走這條路。 048

主持人用來泛指各領域的大型基礎模型,不限於語言。 059

guardrails

加在模型輸入與輸出的過濾模組,由做應用的人選用。 040

Bedrock 的功能,用來限制 AI 系統不要亂給金融建議或談不該談的主題。 078

held-out eval

不公開的評測題組,用來避開模型在 benchmark 上的過擬合。 065

訓練資料裡不可能出現的新評測集,用來檢查模型的實際能力。 071

human data

訓練模型所需的人工資料,Brendan 說這個市場正從群眾外包轉向找最強的人。 110

由人撰寫或評判的訓練與評估資料,Surge 的產品。 124

humanoid

人形機器人。Peter 說世界是照人體設計的,人形是能放進任何地方的通用硬體形態。 048

人形,有腿、手臂與手,能做類似人的工作。 058

in-context learning

在 prompt 裡給指示與範例,模型當場推斷任務,不用另外訓練。 007

Eric 視為 Transformer 最神奇的部分,把它看成一種線上的 optimizer。 079

mechanistic interpretability

從權重與活化理解模型內部結構的研究方向,也是 Onyx 研究的重點。 163

原本用在大型語言模型,這裡用來看蛋白質模型的內部表徵,希望從中得到新的生物知識 165

observability

蒐集基礎設施、應用程式與使用者行為的資料來觀察系統;Olivier 認為它正把基礎設施監控、APM 與日誌管理併成一個大類。 021

記錄線上行為並累積成資料集,Ankur 說在 AI 裡目的是拿來做 evals。 085

orchestration layer

把多個模型組合起來、貼合客戶商業邏輯的那一層。 097

Liam 對語言模型在 Periodic 角色的說法:調度專門模型、實驗與資料的上層 155

platform

Datadog 的統一平台,內部約一半團隊負責,併購的公司也要重建到上面。 021

把 permissions、reports、workflow automations 等底層能力做成共用,在上面蓋各種應用。 122

post-training

Reflection 目前專注的訓練階段,針對長 context 推理與 tool use 調整模型。 123

用自己的資料與 reward 訊號調整模型;Tuhin 把它和推論看作同一個問題的兩面。 159

prefill / decode

Neil 提到的推論兩個階段,如何在 GPU 叢集上最佳化是獨特的技術問題 152

推論的兩個階段;Tuhin 說 Baseten 開始把它們當成各自的問題處理。 159

rabbit

CES 上發表的硬體,做法是讓模型直接操作網頁 app 的畫面,而不是串 API。 049

一款 AI 硬體。Dylan 談到有人認為 AI 會讓介面完全消失時舉它為例,說自己還沒用過,但覺得這個願景很酷。 055

reranker

檢索的第二層,在縮小後的候選集合裡把最相關的結果排到前面。 047

對檢索回來的結果再排序、精煉。 067

reward model

替模型輸出打分的模型,Oriol 認為讓模型自己當評審是值得期待的方向。 074

判斷任務結果好壞的模型,Misha 在 Gemini 負責建立。 123

robots.txt

網站放的檔案,告訴爬蟲能不能索引內容,是 Google 版權爭議的產物。 081

舊的爬蟲規則檔,只能允許或禁止;Matthew 比喻成路上的路標,不少人不守。 126

roll-up

把多家公司併在一起;主持人說沒有真正的科技槓桿,就只是換個名字做 roll-up。 072

買下多家企業再用 AI 優化的做法;Melisa 選擇做產品,不走這條路。 170

router

位於多個專門系統中間的決策者,決定用哪個模型、工具或資料庫,不一定是最大的語言模型。 016

Mustafa 所說的決策中樞,調度多個專門系統,不一定是最大的語言模型。 046

scalable oversight

模型能力逼近人類時,人類回饋可能不夠可靠,如何繼續監督的問題。 017

AI alignment 的一個領域:讓人與模型合作,產出比各自單獨做更好的資料。 124

state space models

後段談到的 Transformer 替代方向之一。 009

一位主持人說它對可壓縮的資料很有效率;另一位補充它在速度與模型大小上的優勢,適合非常專門的任務。 109

synthetic data

合成的訓練資料;Applied Intuition 的做法已經換過好幾代。 119

模型生成的資料;Surge 自己也大量用,但 Edwin 認為它常被高估。 124

teleoperation

由人遙控機器人來蒐集資料,是 Physical Intelligence 目前蒐集資料的主要方式。 107

遙控機器人蒐集資料,兩人認為難以回饋力道,資料品質受限 141

test-time compute

在回答時增加運算量,是主持人眼中 o1 帶來的新擴展方向。 086

模型回答時花的思考量;Noam 認為比較模型時要把它當成一條軸。 167

tokenization

影響非英語模型品質的切詞方式,Andrew 說要設計得謹慎。 031

把文字切成 token 的步驟,Albert 說它和 Transformer 一起演化,既重要又很不自然。 070

transformer

OpenAI 從 GPT-1 開始採用的架構;Ilya 說現在大家都在做的公式,就是用更多資料訓練更大的 transformer。 039

Suno 使用的模型架構,Mikey 說很多功夫開源文字社群已經做好了。 064

two sigma problem

家教式個別指導的學生表現明顯優於一般班級的研究結論,由 Benjamin Bloom 提出。 018

Benjamin Bloom 1984 年提出:一對一家教能讓學生進步兩個標準差,從第 50 百分位到第 96 百分位。 028

wafer scale

把整片晶圓做成一顆晶片,Andrew 形容像餐盤,一般晶片像郵票。 031

Cerebras 的做法,把晶片做成約餐盤大小,而不是郵票大小 162

world model

本集指本質上是 3D 的世界模型,要求幾何與物理合理。 117

以影片 latent 儲存記憶、可生成遊戲畫面的研究方向;Baszucki 認為早期已有潛力,但最終格式未定。 149

/goal

Noam 提到的功能,可以讓模型長時間自己跑;剛推出時有人跑了超過一週。 167

100 for 100

用 100 美元換標準化測驗 100 分,讓孩子回頭補基礎的方案 133

14A

Intel 的製程節點,Lip-Bu 說相當於 1.4 nanometer。 166

3 billion 參數模型

Replit 為 autocomplete 訓練並開源 base model 的模型,Amjad 說 1 billion 太笨。 033

3D assessment

Roblox 約五年前收購一家做 3D 評測工具的公司,把題目調整後用在新鮮人實習計畫的招募。 149

3D upsampling

把簡陋的體驗用 prompt 在雲端自動升級成更寫實的 3D 資產。 149

4D simulation

Baszucki 用來指不只有 3D 形狀、還包含功能與聲學的多人模擬,認為會是影片的超集。 149

90-day signal

只用員工前 90 天的工作成果,對每位員工產生一次的訊號。 083

A-roll / B-roll

Joshua 的拆法:A-roll 是 avatar,B-roll 是旁白、音樂、轉場等其他元素。 069

AB test

Duolingo 用來調整產品的實驗,Luis 說至今已跑過 16,000 次。 114

AI Factory

Jensen 對新型資料中心的說法:單一租戶、不存檔案,只產出 token。 089

AI Fund

Andrew 所在的創投工作室,這集談它如何挑想法、輔助創辦人 128

AI Overview

Google 放在搜尋結果頂端的 AI 答案,Matthew 說它讓連結更少被點。 126

AI Q&A

Notion 剛推出的問答介面,建立在 RAG 上。 051

AI Workshop

Airtable 辦的一整天 Master Class,教 transformer、prompt engineering 與 AI 設計模式。 073

AI Writer

Notion 最早上線的 AI 功能,在文件裡改寫、編輯文字,沒有檢索。 153

AI as a service

Nikesh 設想的企業端模式:像 SaaS 一樣用 AI 完成整段流程,而不是單賣模型。 134

AI assisted coding

Andrew 偏好的說法,用來取代 vibe coding,強調這是費腦力的快速工程 128

AI co-scientist

兩位都舉的例子:多個 LLM agent 產生假說、互相評判,證明語言模型可以當評審。 120

AI control tower

Bill 對 ServiceNow 的定位:串接 hyperscaler、語言模型與各種 system of record,作為企業 AI 的管理中樞。 157

AI data cloud

Snowflake 給自己的新定位,有別於過去的 data cloud。 139

AI data engine

Figure 要先出貨機器人,再用機器人收集的資料訓練它做有用工作的做法。 058

AI durable

主持人的說法,指 AI 對其影響不大、因而不易被衝擊的公司。 086

AI engineer

給一份 issue 就能產出 pull request、寫程式過程不需要人監督的系統。 047

AI field

Airtable 早期的 AI 功能,包住模型呼叫並嵌進資料與工作流程。 073

AI firewall

Palo Alto 為了讓企業內的 AI 實例隔離、避免資料外洩而做的產品。 134

AI patterns

要整合進各處產品的一批共用能力,例如判例檢索系統。 101

AI router

由中央模型把任務分派給各個專門小模型的架構。 035

AI-driven buyout

買下既有公司或資產,用 AI 改造成本結構與每位員工的槓桿。 072

AIP

Palantir 新推出的平台,把 LLM 帶進客戶的私有網路與私有資料。 025

ARR

年度經常性營收;Mati 說公司約 300 million。 143

ASI complete

Misha 用來形容「大到足以逼出超級智慧」的產品類別。 123

ASL3

AI Safety Levels 的一級,Ben 說 Opus 4 因相對 Google 搜尋有明顯 uplift 而被歸入。 118

ATI

AMD 早年收購的公司,帶來 GPU 產品線。 053

AV 1.0

RJ 對規則式自駕做法的稱呼,感測、規劃都由人定義規則 150

AWS

3 月簽約,Cerebras 將部署在其資料中心 162

Abraham Accords

Kushner 在白宮時推動的一系列中東協議,後續仍有國家在談加入。 131

Action Builder

把既有 workflow、整合與權限設定,一鍵指定成 copilot 可執行的動作。 043

Adam

已經有 10 年歷史的優化器,至今仍是訓練大型語言模型的預設選擇。 067

Aditya Ramesh / Tim Brooks / Bill Peebles

三人共同帶領 Sora 團隊。 061

Adobe

原本要併購 Figma,簽約 16 個月後因監管不過而喊停。 055

Aesthetics matter

Suno 內部常說的一句話:評估音樂模型要用耳朵,不能只看指標。 064

Affinity Partners

Kushner 離開政府後創辦、位於 Miami 的投資公司。 131

Agency

Elias 的第五家公司,目標是讓每家公司的客戶都成功,主打用 AI 規模化服務客戶。 094

Agent OS

Sierra 平台的名稱,客戶在上面定義客戶體驗的目標與護欄。 082

Aidan Gomez

Cohere 共同創辦人兼執行長,Attention Is All You Need 共同作者。 091

Airtable

外表像試算表、底層是 app 平台的產品,主持人開場說服務全球五十萬個組織。 073

Akash Systems

Felix 與 Ty 2017 年創辦的公司,用實驗室長出來的鑽石幫晶片散熱,從衛星無線電做到 AI 伺服器。 093

Albert

Eric 的兒時玩伴,一起創辦 StackBlitz。 092

Albert Gu

Cartesia 共同創辦人,本集來賓,今年到 CMU 任教授,是 S4 與 Mamba 的作者。 070

Alex Graveley

Copilot 的 chief architect,Minion 的創辦人。 010

Alex Israel

主持人提到的洛杉磯藝術家,不是技術背景,卻對一個 AI 影片計畫有很具體的構想。 024

Alex Krizhevsky

與 Ilya 合作的人,很早就精通寫高效能的 GPU 程式。 039

Aloha

用遙控蒐集資料、訓練靈巧操作任務的研究,後來有 mobile Aloha 版本。 107

Aloha、ACT

兩篇相隔一兩個月的論文;Aloha 降低遙控延遲,ACT 搭配 transformer 與 action chunking 141

Alpaca

Stanford 的研究,用模型產生對話資料來訓練另一個模型。 011

Alpha bucks

孩子從幼兒園起可賺取的校內貨幣,用來學存錢、花錢與捐贈 133

AlphaEvolve

Google DeepMind 的程式碼 agent,用 Gemini 模型加演化式搜尋去發現新演算法。 120

AlphaFold 2

讓單一蛋白質結構預測達到實驗精度的突破,但一次只看一個蛋白質。 121

AlphaGo

Oriol 用來對照算力分配的例子:預訓練、強化學習、推論時搜尋。 074

AlphaProof

DeepMind 的 AI 系統,可以找出並驗證數學證明,在今年的 IMO 解出六題中的四題。 090

AlphaStar

Oriol 帶領的團隊做出的星海爭霸 agent。 074

AlphaTensor

2022 年發表的系統,用強化學習搜尋矩陣乘法的演算法,專為這個問題打造。 120

AlphaZero

AlphaProof 的基礎,由神經網路、大規模強化學習與搜尋三部分組成。 090

Altadena

同樣受災的社區,Rick 與 Pacific Palisades 並列為需要重做基礎建設的老社區。 099

Amazon Bedrock

Alyssa 舉例的聚合服務,可以在同一個服務裡託管並執行多種模型。 044

Amazon Mechanical Turk

建 ImageNet 時替 Fei-Fei 解圍的群眾外包工具。 117

America's AI Action Plan

錄音前一天發布的 28 頁行動方案,分成基礎設施、創新、對外輸出三根支柱。 125

American Express Global Business Travel

全球最大的企業差旅平台,Long Lake 宣布要以 $6.3 billion 收購。 160

Amjad Masad

Replit 的 CEO、共同創辦人兼 head engineer。 033

Amp It Up

Frank 的書,核心是在每次互動裡拉高急迫感與標準。 023

Andrew Feldman

Cerebras 執行長,先前創辦的節能微伺服器公司在 2012 年被 AMD 收購。 031

Ankur Goyal

Braintrust 共同創辦人兼 CEO,先前是 SingleStore 工程副總、Impira 創辦人兼 CEO。 085

Annual Computer Poker Competition

各實驗室每年讓撲克 bot 對戰的比賽,Noam 的團隊 2014 年贏得。 001

Anthropic

Benchling 的合作夥伴,Saji 說雙方在互通性與對科學的重視上很契合。 140

Apache Spark

開源的分散式資料處理專案,第一版是 Matei 的博士論文。 011

Apollo

為斷網環境開發的自動化軟體交付與部署平台。 025

Apple

在 Hugging Face 釋出相對小的模型,主持人預測它會提供在本機跑模型的介面。 063

Aravind Srinivas

Perplexity 共同創辦人,自己說主要在學怎麼經營公司,核心工程交給 Denis。 009

Arc

Circle 的區塊鏈,Jeremy 稱之為經濟作業系統,驗證者為已知的金融基礎設施公司 156

Arc AGI eval

Francois 設計的評測,題目像 IQ 測驗的小型方格謎題;Mike 稱它是唯一真正量測 AGI 的評測。 068

Arc Institute

在生物與機器學習交界做研究的機構,目標是理解並治療複雜的人類疾病。 103

Arc Prize

一百萬美元以上的非營利公開挑戰,目標是打敗 Arc AGI eval 並開源解法。 068

Archer Aviation

Brett 創辦的電動垂直起降飛機公司,Brett 說現已是上市公司。 058

Armis

Bill 談安全布局時提到的併購對象,與 Moveworks 等併購都在 20 天內整合完成。 157

Arsenal of Freedom tour

Emil 與部長到各地拜訪約 20 家公司的巡迴,目的是告訴工業界政府認真要擴大生產 146

Art Levinson

Genentech 前執行長,Daphne 去請教該往哪走,被找進 Calico。 006

Asimov

Reflection 的程式碼理解 agent,像是給大型程式碼庫用的 deep research。 123

Ask DoorDash

DoorDash 讓人用自然語言找餐廳與雜貨的功能,一開始想做語音,後來留下對話式。 169

Ask Instacart

讓使用者直接用自然語言問問題的功能,例如烤雞要搭什麼醬。 022

Atlas

CJ Desai 說 MongoDB 順利做完 Atlas 與多雲的轉換,接下來要做的是 AI 轉換。 147

Atrium

Gabe 研究時請教過成員的公司,結論是同時做律所與科技公司很難 142

Attention Is All You Need

2017 年的 Transformer 論文,Aidan 在 Google Brain 實習時參與。 091

Auto-GPT

主持人舉的例子,讓 agent 概念一下子紅起來的實作之一。 014

AutoGPT

讓 LLM 決定要做什麼、再用工具在迴圈中執行的早期自主 agent,Maxim 說它是自己押注的起點。 163

AutoResearch

給 agent 目標、指標與邊界後讓它自行迭代,研究員不在迴圈裡。 154

BERT

Google 開放的模型,Glean 第一版以它為基礎,再為每位客戶建立自訂 embedding。 115

BMW

第一個公開的商業客戶,首座導入廠為 Spartanburg。 058

Bark

Suno 團隊早期開源的音訊模型。 064

Base Power

Zach Dell 創辦的公司,自行製造與持有家用電池,並以電力供應商的身分賣電給家戶。 136

Bedrock

AWS 讓客戶取用各家模型並搭配其他組件來蓋生成式 AI 應用的平台。 078

Belt and Road Initiative

中國用國營企業在海外做基礎建設的外交專案,Helberg 拿它當對照 161

Ben Mann

Anthropic 共同創辦人,早年是 OpenAI 工程師、GPT-3 論文的作者之一,現在帶 labs 組織(MCP 與 Claude Code 都在這裡)。 118

Benchling

Saji 共同創辦的公司,做科學研發用的軟體,定位是生技 R&D 的 system of record。 140

Benchling AI

兩塊:把模型接進科學家工作流程的模擬工具,以及在 Benchling 資料上運作的 agent。 140

Biden diffusion rule

Biden 時期一份 200 頁的規定,Sriram 說它讓美國的 GPU 很難出口,連盟友也拿不到。 125

BigCode

由 BigScience 延伸出來的開源程式碼生成模型計畫,讓開發者能把自己的程式碼退出訓練資料集。 005

BigScience

一千位研究者、200 個組織合作、公開訓練大型語言模型的計畫。 005

Bill Clerico

創辦 WePay(賣給 JP Morgan),後來成立專注野火的創投基金 Convective Capital。 098

Bill Dally

NVIDIA 首席科學家,2012 年前後 Andrew Ng 找的就是這位。 013

Bill Peebles

Sora 團隊成員,談影片模型對機器人的意義。 071

Bilt Rewards

Decagon 的客戶,用來累積點數或付款;Decagon 拿它發表過客服人力節省的案例。 097

BioMedLM

CRFM 與 Mosaic 合作、以 PubMed 文章訓練的較小模型。 007

Biohub

這集的主軸,Mark 說已是兩人慈善事業的主要重心,據點有 San Francisco、New York、Chicago 165

Blindsight

主持人提到的科幻小說,把意識和智能分開,人類遇到有智能但沒有意識的太空文明。 137

Bloom

BigScience 計畫訓練出的大型語言模型,全程公開。 005

Bloomberg GPT

金融領域的垂直模型例子。 014

Bloomberg terminal

Daniel 用來比喻專業工具:使用者要為結果負責,所以需要可信的資料來源 130

Blue Yonder

供應鏈管理公司,宣布要在 Snowflake 上重建平台。 023

Boltz

Saji 提到的開源結構預測模型。 140

Bolt(bolt.new)

讓人用 prompt 做出並部署全端網頁應用的 AI 工具。 092

Booking Holdings

Glenn 領導的集團,旗下有 Booking.com 與 Priceline 等旅遊公司 168

Botox

Elad 拿來對比抗老治療的規模:$40 billion 的公司、光美容用途一年 $1.5 billion 營收。 116

Brain Co.

Kushner、Elad、Eric、Luis 合組的 AI 導入公司,有共同平台與可轉售的應用,2024 年 1 月開始。 131

Brain moonshot

Google 內部讓大膽研究計畫取得資源的孵化計畫,Med-PaLM 團隊靠它起步。 017

Branch Train and Merge

Kelvin 用來說明專家模型做法的一篇論文。 015

Brandon McKenzie、Eric Mitchell

OpenAI 研究者,談推理模型與工具使用。 138

Brandon McKinzie

OpenAI 研究者,o3 背後的成員之一。 113

Brex

企業卡與支出管理平台,客戶從新創到大型上市公司。 075

Brex assistant

處理費用備註、分類與合規的 AI 助理,Pedro 說大約 30,000 個客戶在用。 075

Brian

Zapier 的共同創辦人兼 CTO,與 Mike 一起回去做個人貢獻者。 068

Brian Chesky

Howie 引用 Chesky 在 podcast 上的說法:把產品經理拆成 product marketing 與 program management 兩個角色。 073

Brian Halligan

HubSpot 創辦人、長年 CEO,現任 chairman,也共同創辦了 Propeller。 036

Brian Schimpf

Anduril 共同創辦人暨 CEO,本集來賓。 019

Byzantine fault tolerance

區塊鏈的基礎問題,起點是軍隊裡防止假資訊。 032

CE 認證

歐洲的上市許可,Prima 在 7 月取得,可以在歐洲商業銷售 174

CELLxGENE

Biohub 做的簡易注釋工具,後來形成社群、成為許多轉錄體模型的資料基礎 165

CFIUS

審查外國對美國關鍵基礎設施投資的政府單位,Jacob 希望它對可信任夥伴的能源投資放行。 129

CFTC

美國商品期貨交易委員會,Kalshi 取得許可、也跟它打過選舉合約的官司。 088

CHIPS Act

Sarah 提到 Akash 是少數拿到補助的小公司;Felix 說這呼應法案強化供應鏈與國安的目標。 093

CLIP

OpenAI 推出的模型,讓生成模型能被文字提示引導。 003

CMIO / CIO / CFO

醫療體系的三種買家:代表醫護的首席醫療資訊官、管長期技術投資的 CIO、看投資報酬的 CFO。 108

CPA

用來調節結冰的化學保護劑,濃度太高會有毒性,所以希望越少越好。 148

CRFM

Stanford HAI 底下的 Center for Research on Foundation Models,有 30 多位教授橫跨 10 個系。 007

CSP

雲端服務供應商,也就是三大 hyperscaler。 139

CUDA

NVIDIA 發明的運算模型,讓 GPU 更通用;每顆晶片維持架構相容。 013

CUDA / interconnect

NVIDIA 護城河的兩個部分,與晶片效能並列。 054

CVC

最新進場的私募股權投資者,買的是既有股東的股份,沒有新資金進入公司 172

CYBERCOM

Dan 建議由它備好攻擊他國資料中心的網路能力。 105

Calico

Daphne 離開 Coursera 後加入的公司,研究老化,待了 18 個月。 006

Camera Plus

比 Instagram 更早做濾鏡的照片 app,每次下載收 20 美元,是一間不想做大的獨立開發小店。 059

Can of Soup

近期 YC 梯次的新創,主持人拿它當生成式 AI 消費產品的新嘗試。 035

Candy Crush

Luis 用來代表「比起面對 tutor,多數人更愛玩的遊戲」。 114

Canva

主持人說它 1.7 billion 的 ARR 裡有 1 billion 來自 prosumer。 059

Caper

Instacart 收購的智慧購物車公司,車上的電腦視覺會自動辨識商品,可直接在車上結帳。 022

Capital IQ

主持人團隊用來整理 OpenAI 與 Anthropic 預測的資料來源。 151

Carlson Wagonlit

去年底被 Amex GBT 收購的公司,Taubman 說約 1876 年成立,Wagonlit 在法文裡是臥鋪車廂。 160

Carver Mead

Jensen 說的「Carver Mead 的 VLSI scaling」,與 Dennard scaling 並列為兩大傳統支柱。 089

Casetext / Jake Heller

最早拿到 GPT-4 的團隊之一。Jake Heller 當過律師,把律師的工作一步步拆成提示與流程,是 Garry 舉的例子。 066

Center for AI Safety

Dan 領導的機構,關注 AI 風險。 105

Chai 1

公司先前開源的結構預測模型,業界已廣泛使用。 121

Chai 2

本週發表的模型系列,這集主打抗體設計。 121

Chai Discovery

Jack Dent 與 Joshua Meier 共同創辦的公司,用 AI 設計分子。 121

Change management

變革管理。Elias 認為這是讓大型企業採用新做法時最難的部分。 094

Character

Noam 與 Daniel 創辦的公司,使用者可以建立各種角色並跟它聊天;錄音時有 22 名員工。 012

Character.AI

Kawal 舉的例子,正在想辦法把應用的規模放大。 037

Charlie Munger

主持人說 Charlie Munger 就在錄音當天過世,並引了 Munger 談激勵的話。 042

ChatSpot

HubSpot 的對話介面,用 OpenAI 與 Anthropic 的模型加上自家 API,可以直接用說的要報表。 036

Chess.com

Erik 與朋友 2005 年買下網域所建立的棋類平台 172

Chicago Plan

Jeremy 提到 1930 年代一群經濟學者的提案,主張全準備金銀行體系 156

Chinchilla scaling

大家一直照著它放大模型,當成最簡單的路。 027

Chris Ré

Karan 與 Albert 在 Stanford 的博士指導教授。 070

Cicero

能用自然語言和人類談判、下 Diplomacy 的 bot。 001

Circle

Jeremy Allaire 共同創辦並擔任 CEO 的公司,發行 USDC 156

Clara

NVIDIA 的醫療與健康照護系統。 013

Clara Labs

主持人提到的早期排程助理新創。 010

Clara Shih

本集來賓,Salesforce AI CEO,曾任 Salesforce service cloud CEO,也是 Hearsay Social 共同創辦人。 043

Claude Code / Codex

Simon 日常使用的 CLI 形式 coding agent。 153

Clem Delangue

Hugging Face 的共同創辦人,本集來賓。 005

Cloud 2.0

Guillermo 對 foundation models 的稱呼:新的 backend,上面會長出 AI native 公司。 030

Cloudflare

Matthew 共同創辦並擔任 CEO 的公司,起家做雲端防火牆,現也提供 CDN 與邊緣推論。 126

ClusterMAX

SemiAnalysis 替雲端業者做的評比,從能不能用、軟體、網路到安全性都看 127

Coastal Commission

加州沿岸委員會,重建許可的卡點之一,州長暫停了相關程序。 099

Codex

OpenAI 押注的雲端非同步軟體工程 agent。 116

Cody

Sourcegraph 的 AI coding assistant,可裝在編輯器裡,也能在網頁上對 repo 提問。 047

Cognition / Cursor / Lovable

Andrew 舉的例子:2025 年需求爆發之後成長飛快的公司 162

Cohere

Aidan 共同創辦的公司,提供企業用的語言模型與解決方案。 091

Collab LLM

Eric 提到學界探索多輪人機互動的論文之一,用模擬來訓練。 135

Color

Elad 共同創辦的醫療公司,目標是讓醫療更容易取得。 014

Colossus

xAI 蓋的資料中心,Dylan 說蓋得比別人快 127

Common Crawl

定期爬取的熱門網頁資料集,Pinecone 拿來測 RAG 對各模型的影響。 052

Confluent / Kafka

Alyssa 認為成功把開源專案變成公司的例子。 044

Constellation Software

被舉為每年買下許多小型垂直軟體公司並彙整起來的例子。 086

Content Independence Day

7 月 1 日,Cloudflare 對所有客戶預設擋下 AI 訓練爬取。 126

Copilot Studio

包含 Prompt Builder、Action Builder、Einstein Studio 三個部分的平台。 043

Copilot Workspace

GitHub 的早期規格與腦力激盪 agent,把 issue 與程式碼比對,用自然語言描述前後差異。 106

Cortex Analyst

Snowflake 的 text to SQL 類產品,Sridhar 說客戶自己做會發現比想像中難。 139

Covariant

開發 AI 機器人的新創,所有部署出去的機器人共用同一個 foundation model。 048

Cristobal Valenzuela

Runway 的共同創辦人,本集來賓,來自智利。 002

Crusoe

Neocloud 之一,Dylan 說它要蓋吉瓦級資料中心 127

Crux

Google 開放的 Chrome User Experience Report 資料集,看得出高流量網站的分布。 030

Cursor

另一個 AI 程式開發工具,Eric 說也有不少非開發者下載。 092

Cursor / Windsurf

coding 工具;主持人把 OpenAI 收購 Windsurf 看成產業整併的第一步。 116

Customer success(CS)

客戶成功。Elias 認為這個分類名稱容易讓人迷路,重點是如何服務客戶。 094

DALL·E 3

OpenAI 的圖像模型,Sora 有些安全措施可以從它沿用。 061

DAO

去中心化自治組織,Illia 認為新人說明與協調這類工作最先能自動化。 032

DARPA Grand Challenge / Urban Challenge

DARPA 辦的自駕競賽;沙漠賽沒有人完成,後來的城市賽是 Dmitri 參與過的那場。 087

DAW

digital audio workstation。Mikey 拿它當前例:有了它,在宿舍就能做音樂。 064

DBRX

Databricks 的模型,Sarah 用來說明不需要巨額算力也做得出有競爭力的模型。 059

DOGE

Kushner 稱讚其延續下來的民間人才與合約重談工作。 131

DOJ

司法部,和 FTC 並列的反托拉斯執法機關。 084

DOT

DoorDash 自製的送貨機器人,300 lb、最高 20 mph,可走人行道、自行車道與路面。 169

DPO / reward modeling

Abridge 用醫師修改做 post training 的方法。 108

DSPy

出自 Stanford 的專案,把應用視為多步驟並做優化,主要手段是 few shot 範例。 057

DWP

Department of Water and Power,Rick 26 歲起在其董事會任職約 13 年。 099

Daemon

Andrej 推薦的一本書,書裡的智慧體讓人類同時成為它的致動器與感測器。 154

Danaher

Taubman 心中的榜樣,從製造跨到生命科學,靠獨特營運模式長期整併產業。 160

Daniel de Freitas

Noam 的共同創辦人,從小就想做聊天機器人。 012

Daron Acemoglu

報告受訪的 MIT 教授,主張 AI 只會影響不到 5% 的任務,大家花在訓練模型上大約一兆美元的 capex 是浪費。 072

Dashbench

DoorDash 公布的基準,衡量各模型與 harness 在寫程式任務上的表現。 169

Dasher

DoorDash 的外送員,超過 9 million 位。 169

Data + AI Summit

Databricks 6 月的大型使用者大會。 011

Data Center as a Product

NVIDIA 內部的做法:把資料中心當產品規劃、架設與調校,不對外販售。 089

Datadog

雲端環境的觀測與資安平台,主要用戶是工程師。 021

Datadog 17

前一家公司裡一台人人害怕出事的 Oracle 資料庫,Datadog 的名字由此而來。 021

Dave Burke

Arc Institute 的 CTO,專注計算生物學與替生物學打造新的 AI 模型。 103

David Cahn

Sequoia 的 David Cahn,寫了「AI 的 200 billion 美元問題」那篇文章。 054

David Kearns

當時的 Xerox 執行長,Bill 面試前讀到這位 CEO 用 Deming 的品質管理原則改造公司,立志成為下一個 David Kearns。 157

David Sacks

和 Sriram 一起簡報 DeepSeek、規劃行動方案的白宮同事。 125

David Singleton

Stripe CTO,當初找 Emily 加入;accelerator 的經費出自 CTO 辦公室。 050

Decagon / Sierra

被點名為從按人頭計價轉向按用量計價的客服 agent 公司。 151

Defense Innovation Unit(DIU)

位在 Mountain View,連接國防與新創社群,有快速合約能力 146

Demis

DeepMind 共同創辦人,Mustafa 兒時好友的哥哥,當年偏向機器人與模擬的路線。 016

Denis Yarats

Perplexity 共同創辦人,曾在 Facebook AI Research;Aravind 說 Denis 擅長工程與招募。 009

Dennard scaling

Jensen 說的兩大傳統擴展支柱之一,已經耗盡動力。 089

Department of War

Emil 任職的部門,約 3 million 名員工,每年花 150 billion 美元在科技上 146

Dev / Ops

開發與維運,Datadog 最初就是要讓兩邊在同一個平台上合作。 021

Dev mode

給開發者讀取設計的模式,含標註、屬性、變更追蹤和外掛,是 Figma 針對開發者做的產品。 055

Devi Parikh

本集來賓,Meta 生成式 AI 研究總監,也是 Georgia Tech 副教授。 024

Dharmesh

HubSpot 的另一位共同創辦人,商學院時期就是早期的科技部落客。 036

DiT

diffusion transformer;Suhail 說外界相信 Sora 就是用這種架構,但自己認為它不是對的架構。 060

Diplomacy

七人、以談判為核心、行動同時公布的桌遊,同時帶有合作與競爭。 001

Dmitri Dolgov

Waymo co-CEO,本集來賓,2006 年前後因 DARPA 挑戰入行。 087

Dobby

Andrej 家裡的 claw 管家,用 WhatsApp 控制燈、空調、窗簾、泳池、spa 與保全。 154

Dodd-Frank

金融危機後的法案,Tarek 說衍生品交易因此必須走集中清算。 088

Dolly

Databricks 做的指令跟隨模型,沿用 Alpaca 手法,以開源模型為起點。 011

Dolly 2.0

Databricks 的 12 billion 參數模型,Kevin 說可在單機上順暢跑。 018

Donovan

Scale 給政府客戶的產品,Alexandr 形容是 AI staff officer。 065

DoorDash CLI

前一週推出的命令列工具,讓 agent 替使用者下單。 169

DoorDash Labs

DoorDash 的研發團隊,招募時強調做出的東西要真的上線。 169

Dota 2 project

OpenAI 第一個大型專案,由 Jakub Pachocki 與 Greg Brockman 帶頭,訓練網路玩即時戰略遊戲。 039

Douglas Engelbart

電腦先驅。Ivan 大學最後一年讀到這位先驅的論文 augmenting human intellect,因而開始做 Notion。 051

Dress to Impress / Grow a Garden

Baszucki 舉的兩款爆紅 Roblox 體驗,靠雲端持久化與競賽、分層穿搭等能力。 149

Drift

Elias 的上一家公司,以超過 10 億美元賣給 Vista Equity Partners。 094

Duet AI

Google Workspace 裡的生成式 AI 功能,先在內部試用再對外推出。 037

Dylan Patel

SemiAnalysis 的創辦人暨 CEO,本集來賓,談晶片與 AI 基礎設施 127

ECU

電子控制單元,傳統車上控制各項功能的小電腦,RJ 說現代車可能有 100 到 150 個 150

EDM

一種取樣雜訊的公式,Suhail 說靠它解決了平均亮度、色彩與對比的問題。 060

EMIB-T

Intel 的新一代先進封裝,拿來對照 TSMC 的 CoWoS。 166

EO14301

Isaiah 提到的行政命令,要求三座先進反應爐在 7 月 4 日前於美國本土達臨界。 173

EPYC

AMD 的 x86 伺服器 CPU 產品線。 053

ERCOT

Texas 自成一格的電網,不受 FERC 管轄;Zach Dell 提到它在 1970 年代誕生。 136

ERP

企業彙整各系統財務資料的軟體,Pedro 認為 AI 達到人類水準後就不再需要這個概念。 075

ESM fold

一週前發表的開源蛋白質世界模型,能預測原子解析度結構、設計蛋白質與單鏈抗體 165

EURC

Circle 的代幣化歐元,Jeremy 說是最大的 156

Earth Two

NVIDIA 的氣候科學系統。 013

Eddie Rama

Albania 總理,Kushner 形容這位總理是支持民間投資的社會主義者,也是藝術家出身。 131

Edge functions

把運算放在離使用者最近的地方,用來串流 AI 回應。 030

Edo Liberty

Pinecone 創辦人兼 CEO,本集來賓。 052

Edward Sun

Isa 提到在資料與工具上密切合作的同事。 112

Edwin Chen

Surge 創辦人兼 CEO,以前在 Google、Facebook、Twitter 做 ML。 124

Einstein Copilot

橫跨各個 cloud 與 Slack 的自然語言介面。 043

Einstein Studio

讓客戶用 Salesforce 內或 data graph 索引的資料,訓練或 fine-tune 自己的模型。 043

Elad Gil

主持人之一,Aravind 說是 Perplexity 第一位提出要投資的人。 009

EleutherAI

開源 AI 社群,Emad 早期資助它;Emad 說它後來一分為二,一部分到 Stability 做能力,另一部分是專做對齊的 Conjecture。 003

ElevenLabs

Mati 共同創辦的公司,做基礎音訊模型,再往上做創作與 agent 兩種產品。 143

Emad Mostaque

Stability AI 的創辦人,本集來賓。 003

Eon

Ofir Ehrlich 與 Gonen Stein 創辦的公司,在雲端建資料底層,結合備份、復原與資料盤點分類,讓資料可查詢並接上 AI 175

Epic

Shiv 舉的合作例子:要打進醫療體系,得證明能接上對方既有的技術堆疊。Shiv 說 2022 年那段時間四處 demo,才建立起信任。 108

Erdős unit distance conjecture

Noam 說 OpenAI 內部模型找到反證的數學猜想。 167

Eric Glyman

Ramp 共同創辦人兼 CEO,管業務端的職能。 076

Eric Mitchell

OpenAI 研究者,o3 背後的成員之一,以前做過 robotics。 113

Eric Simons

StackBlitz 共同創辦人暨 CEO,本集來賓。 092

Eric Steinberger

Magic 共同創辦人與 CEO,早年做強化學習研究。 079

Erik Bernhardsson

Modal 創辦人兼 CEO,曾在 Spotify 帶機器學習團隊、做推薦系統,後來在 better.com 當 CTO。 096

Eureka

Andrej 的教育新公司,第一門課教 AI。 080

Evo

Arc 的 DNA 語言模型系列。 103

FAA

美國聯邦航空管理局,Kyle 以它為例說明監管如何換來責任上限。 102

FAIR

Meta 的基礎 AI 研究單位,Devi 原本只打算待一年。 024

FERC

美國聯邦能源管理委員會,Zach Dell 說 Texas 以外的電網由它管轄。 136

FP8

8-bit 浮點數;Jensen 說對照科學運算常用的 64-bit,可大幅提升 AI 超級電腦效能。 013

FTC

Federal Trade Commission,美國聯邦貿易委員會,Lina 擔任主席的機關。 084

Fabric

Microsoft 的資料產品,Snowflake 與 Microsoft 的合作包含與它的整合。 139

Fair Plan

加州補貼性質的最後手段保險計畫。 098

Falcon

主持人提到的 UAE 開源 LLM,用來討論 AI 的價值觀該由誰決定。 045

Federated approach

把集中團隊學到的東西推到各團隊、確保每個團隊都用上 AI 的做法,和集中團隊並行。 022

Fei-Fei Li

談空間智慧的科學家,片頭把 Fei-Fei Li 列為「legends of science」之一。 138

Felix Ejeckam

Akash Systems 共同創辦人,Cornell 電機博士。 093

Fidji Simo

Instacart CEO,本集來賓,也是 Metrodora Institute 共同創辦人。 022

FigJam

Figma 的白板與腦力激盪產品,本集談它如何從既有用例長出來。 055

Figma

設計協作工具,主持人形容它是在單一多人畫布上設計並打造數位產品。 055

Figure

開發通用人形機器人的公司,主持人提到剛宣布 675 million 的募資。 058

Figure Eight

Lukas 的第一間公司,做訓練資料標註;最早叫 Dolores Labs,後來叫 CrowdFlower。 026

Firefly

2015 年裝上第三代硬體的客製車,Dmitri 稱之為零到一的時刻。 087

Fix Our Forests Act

國會中的兩黨法案,目標是森林與木材管理的許可改革。 098

Flagship Pioneering

Noubar 創辦的公司,主要是構想並建立一家接一家的生技公司。 104

Flan

早期證明大型語言模型能學會遵循指令的論文,用約 100 個任務訓練。 015

Francois Chollet

Arc AGI eval 的設計者,Mike 採用的通用智慧定義出自這位。 068

Frank Slootman

Snowflake CEO,本集來賓,先前也是 Data Domain 與 ServiceNow 的 CEO。 023

FrugalGPT

動態轉送到較有效率模型的研究方向,被舉為例子。 027

Fujitsu

與 Cohere 合作做日語模型的夥伴,例子用來說明何時必須動預訓練。 091

FunSearch

以語言模型為基礎、在程式的空間裡搜尋的 agent,AlphaEvolve 是它的延伸。 120

GAN

早期以對抗式網路生成藝術作品的做法,主持人提到 2018 或 2019 年有件 GAN 作品送到 Sotheby's 拍賣。 109

GDPval

朋友之一舉為有經濟價值的 eval 的預覽,與 Apex 並列。 144

GNS

Chess.com 內部的認證與知識層,Erik 說橫跨整個組織並帶有權限控管 172

GPT wrapper

貶稱建在大模型上的應用;Garry 不認同這種說法。 066

GPT-4o mini

已在 Ramp 上線,約 90% 的任務夠用。 076

GPU crunch

訓練與推論用的 GPU 供不應求,這集的第一個題目。 027

GSM1K

Scale 發表的 held-out 數學評測,題目不可能出現在訓練資料裡。 065

GTCR

Taubman 稱為表現頂尖的大型買下基金,Manny 離開前才完成他們史上獲利最高的案子。 160

Gabe

Winston 的共同創辦人,先拿 GPT-3 給 Winston 看。 101

Gambit

Chess.com 推出的撲克站(gambit.com),把評分思路帶進撲克 172

Garry Tan

Y Combinator 的 president 與 CEO,本集來賓。 066

Gartner categories

分析機構的資安產品分類,Ryan 勸創辦人別被它綁住。 038

GeForce

遊戲顯示卡,Jensen 說 CUDA 就是靠它帶到全世界。 013

Gemini

Google 的核心模型專案,由 Google Brain 與 Legacy DeepMind 合併的團隊做出第一版。 074

Gemini 1.5

Google 的模型,主持人特別提到它的百萬 token context window。 054

Gen One / gen two

RJ 對 Rivian 第一代與第二代車款及其自駕平台的稱呼,兩代之間沒有共用程式碼與硬體 150

Gene Amdahl

Andrew 稱這位是電腦界的元老之一,曾嘗試做晶圓級產品但失敗 162

General Atlantic

較早相信 Chess.com 的私募股權投資者,這次也再投資 172

Generate Biomedicines

用電腦設計抗體的公司,Noubar 說有 15 個以上設計的抗體專案。 104

Genius Act

Jeremy 提到去年通過的法律,把穩定幣的窄口徑貨幣模型寫進法規 156

Ghostwriter

Replit 的 AI 功能,包含說明程式、產生程式、autocomplete 與聊天。 033

Gil

Onyx 的共同創辦人,主持人說 Gil 做過合成資料,也在 NVIDIA 工作過。 163

Ginkgo Bioworks

做細胞程式設計的公司,目標是讓細胞像電腦一樣好用。 034

Gist

Neeva 的實驗 app,用 Instagram stories 的概念重新想搜尋,介面是摘要加一串卡片。 008

GitHub Models

GitHub 的模型目錄,收有 Llama、Mistral、Cohere 與 Microsoft 的 Phi 模型。 106

GitHub issue

Scott 說明 Devin 解題方式的例子:靠跑程式、重現 bug 來修,而不是直接猜出修改。 062

Glean

Arvind 創辦的企業 AI 搜尋與知識管理平台,可連到公司內部各種系統。 115

Glean assistant

外觀像 ChatGPT 的對話產品,會用公司資料並依使用者權限回答。 115

Glen Coates

Shopify 產品副總裁,帶領核心開發者平台與 AI 產品。 049

God AI

Jensen 用來指單一個無所不能的 AI,認為它離現在非常遙遠 145

Golden Dome

Emil 提到的計畫,正在研究如何從太空攔截目標 146

Goldman Sachs report

標題大概是「calling the top on AI」的報告,兩位主持人拆開來反駁。 072

Gong

用 Pinecone 處理銷售通話紀錄的公司。 052

Gordon Moody

稿中說是一家頂尖交易型事務所的前合夥人,早期加入 Harvey,現為顧問 142

Gotham

Palantir 面向情報與國防客戶的旗艦產品。 025

Greg Brockman / Sam Altman

2022 年寫信給 Sal、邀 Khan Academy 試用新模型的 OpenAI 兩位。 028

Grok

明說不太管輸出內容的模型,被主持人當作聲譽風險的例子。 081

Groove Networks

Brian 職涯第二章,負責建立銷售組織的公司,後來被 Microsoft 收購,現在是 SharePoint 的一小部分。 036

Groq

另一家自己做 AI 晶片的新創。 027

Groq / Cerebras

主持人點名的晶片新創,一家主打開源模型的快速推論,一家在晶片上走不同路。 054

Grow SF voter guide

Garry 呼籲聽眾投票前參考的舊金山選民指南。 066

Gucci

Clara 提到的客服案例,也是早期原型的合作客戶之一。 043

Guide

Alpha 取代教科老師的成人,負責激勵、情感支持與問責 133

Guillermo Rauch

Vercel 創辦人暨 CEO。 030

HELM

Holistic Evaluation of Language Models,對語言模型做整體評測的專案。 007

HLE

Humanity's Last Exam,Eric 說自己花很多時間看這批題,其中有一大類是陷阱題。 135

HMI

人機介面;座艙設計不只是畫面,是整體的體驗。 119

HOA

Long Lake 布局的垂直領域之一,Taubman 說他們是這個產業成長最快的公司。 160

Hackpad

Alex 從 Etherpad fork 出來的即時協作文字編輯器,會標示誰寫了什麼。 010

Hadoop

Alyssa 舉為開源商業化一直沒做好的例子。 044

Handshake

Glen 創辦的 B2B 電商平台,後來等於「只做批發的 Shopify」,2019 年被 Shopify 收購。 049

Hani Goodarzi

Arc 的 core investigator,也是 Vevo 共同創辦人,和 Dave、Patrick 一起推 virtual cell 計畫。 103

Harrison Chase

LangChain 共同創辦人兼 CEO。 057

Harvey AI

兩位主持人都有參與的法律領域公司,被當作應用層案例。 014

Hearsay

Clara 共同創辦的公司,用 NLP 從訊息中找潛在客戶並偵測合規問題。 043

Henrique

與 Pedro 長年擔任共同 CEO 的夥伴,兩人從先前在巴西的公司就一起做事。 075

Herceptin

早期的精準腫瘤藥物,針對 HER2 陽性乳癌病人。 006

Hill and Valley Forum

主持人介紹 Jacob 時提到的組織,連結 Silicon Valley 與華府的決策者。 129

Howie Liu

Airtable 共同創辦人兼 CEO,本集來賓。 073

Hub

Hugging Face 上放模型、資料集與 demo 的平台;Clem 說模型數剛越過 250,000。 005

HubSpot

Brian Halligan 買下 Elias 的公司 Performable,Elias 之後在 HubSpot 帶工程團隊,一路到上市。 094

Human Cell Atlas

Biohub 資助的單細胞轉錄體資料庫,是最大之一 165

Humanity's Last Exam

向全球教授徵題的封閉式學術基準,Dan 預期成績逼近滿分時,這類題型就走到終點。 105

Humans&

Eric 創辦的新公司,目標是做理解人的目標與長期脈絡、能與人協作的模型。 135

Hunter

Until 的共同創辦人,Laura 形容其習慣從基本原理重新推導。 148

IETF

Cloudflare 與它合作,訂定爬蟲公開行為的標準。 126

IFEval

instruction following eval,Edwin 舉它當 benchmark 脫離真實進展的例子。 124

IL-17 / IL-23 inhibitors

牛皮癬的生物製劑類別,Daniel 用來舉例:前者可能加重 MS,後者安全且耐受良好 130

IMO

針對年輕人的最古老、最具聲望的數學競賽,六題,分代數、數論、組合與幾何。 090

IOI

International Olympiad in Informatics,程式競賽的奧林匹亞,各國派出最強的選手。 062

ITP

Cristobal 在 NYU 念了兩年的藝術學程,說這段讓自己學會把商業、設計、藝術與技術接起來。 002

Illia Polosukhin

NEAR 共同創辦人,Transformer 論文作者之一。 032

ImageNet

Fei-Fei 建的大型標註圖片資料集,上千個類別,對話裡說的是 15 million 張。 117

Imbue

Kanjun Qiu 與 Josh Albrecht 共同創辦的公司,做能推理、能寫程式的 agent。 041

Impira

Ankur 先前創辦的 AI 公司,後來被 Figma 收購。 085

Impromptu

Reid 寫的書,談人與 AI 的放大關係。 045

Inception

G42 旗下的團隊,與 Cerebras 一起開源阿拉伯語 LLM。 031

Inceptive

Jakob 創辦的公司,用深度學習設計 RNA,先從 mRNA 做起。 029

Inferentia

AWS 自己做的推論晶片。 078

Initialized

Garry 先前經營的早期創投基金。 066

Insitro

結合機器學習與生物實驗做藥物發現的公司,聚焦靶點辨識。 006

Instacart

雜貨科技公司,Fidji 說它是由 80,000 家商店組成的網路,也替零售商做自家網站的技術。 022

Instagram

行動相簿 app 那波熱潮裡唯一留下來的;主持人說它強調濾鏡,也採用像 Twitter 的追蹤模式。 014

Instructure

Canvas 學習管理系統的開發公司,跟 Khan Academy 宣布合作。 028

Ioannis Antonoglou

Misha 的共同創辦人,Gemini 1.5 時期的 RL 總負責人。 123

Iron Man suit

Eric 的比喻:不取代業務員,而是替業務員補上自動化工具。 076

Ivan

Simon 的共同創辦人,兩人一起拿到 GPT-4 並決定動手。 153

Ivan Zhao

Notion 共同創辦人兼 CEO,本集來賓。 051

JCPOA

Kushner 說海灣國家因 Obama 簽下這份 Iran deal 而覺得被背叛。 131

Jack Dent

共同創辦人,原本在 Stripe 做工程與產品。 121

Jakob

Noam 說是先想到用 attention 取代 RNN 的同事。 012

Jared Quincy Davis

Foundry 創辦人暨執行長,待過 DeepMind,在 Stanford 跟 Matei Zaharia 讀博士。 077

Jason Kelly

Ginkgo Bioworks 共同創辦人兼 CEO。 034

Jeff Dean

Noam 在 Google 常合作的電腦科學家,Noam 說 Jeff Dean 現在負責 Google 的大型語言模型。 012

Jensen's law

主持人轉述 Jensen 對晶片進步的描述:更多來自記憶體管理與新技巧,而非只靠在晶片上塞電晶體;有人把這叫作 Jensen's law。 054

Jesse Zhang

Decagon 共同創辦人兼 CEO,在 Boulder 長大、念 Harvard 資工,第一間公司被 Niantic 收購。 097

Jim Covello

報告受訪的 Goldman Sachs 全球股票研究主管,主張 AI 一開始就很貴,效率收益也會被競爭吃掉。 072

Jira

被拿來說明「值不值得自己做」的工單系統。 151

John Deere

合作多年的客戶,已推出只對雜草噴藥的噴霧機。 026

John Schulman

Liam 說當時在 OpenAI 主張「保持通用、做 chatbot」的人 155

Johnny Ho

Perplexity 另一位共同創辦人,競賽程式設計世界第一,當過交易員、在 Quora 待過一年,不是 AI 出身。 009

Johnny Yu

Vevo 共同創辦人,在 Vevo 做 single cell sequencing。 103

Josh Albrecht

Imbue 共同創辦人。 041

Josh Goldman

KoBold Metals 共同創辦人兼 president,物理背景、博士研究量子計算。 111

Joshua Meier

共同創辦人,化學背景,投入 AI 藥物研究約十年。 121

Joshua Xu

HeyGen 共同創辦人兼 CEO,本集來賓,曾在 Snap 工作。 069

Joule

SAP 內員工提問的介面,Philipp 用它說明答案要依員工所在地與薪資體系而不同。 158

Justin Spahr-Summers

Anthropic 工程師,MCP 的起頭者。 118

KV cache

推論時快取注意力的鍵值,Tuhin 提到 Baseten 做 KV cache 感知路由。 159

Kalshi

Tarek 創辦的預測市場交易所,受 CFTC 監管,可對未來事件的結果下注。 088

Kanjun Qiu

Imbue 共同創辦人,提出 agent 兩條光譜的框架。 041

Karan Goel

Cartesia 共同創辦人,本集來賓,S4 的合作者;Sonic 的介紹與現場 demo 由 Karan 負責。 070

Karan Singhal

Google 研究者,負責醫療 AI,是 Med-PaLM 2 的帶頭人之一。 017

Karen Simonyan

Inflection 共同創辦人,在 DeepMind 與 Mustafa 共事七年,帶過 deep learning scaling 團隊。 016

Karim Atiyeh

Ramp 共同創辦人兼 CTO,也管行銷等職能。 076

Kawal Gandhi

Google Cloud CTO 辦公室的生成式 AI 負責人,之前長期做搜尋與廣告。 037

Keller Rinaudo Cliffton

Zipline 的共同創辦人,本集來賓。 004

Kelvin Guu

Google Brain 的 Staff Research Scientist,本集來賓。 015

Kevin Scott

Microsoft CTO,本集來賓,2020 年出版 Reprogramming the American Dream。 018

Keytruda

Saji 舉的例子:一個轉手多次的分子,後來由 Merck 全力投入。 140

Khan Academy

免費的線上學習平台,從替表親補習與 YouTube 影片起家,是非營利組織。 028

Khan Lab School

2014 年在 Khan Academy 辦公室樓下開辦的實驗學校,現在是 K-12。 028

Khan World School

跟 Arizona State 合作的線上學校,六到十二年級,以每天的蘇格拉底式討論為核心。 028

Khanmigo

Khan Academy 用 GPT-4 做的 AI 家教,也是老師的教學助理。 028

Kiva

做倉庫搬運機器人的公司,後來賣給 Amazon;Keller 見到那些橘色機器人後,想到會有人做倉庫外的版本。 004

KoBold Metals

Josh 共同創辦的公司,用 AI 加上地質判斷做礦物探勘,目前鎖定銅、鋰、鎳、鈷。 111

Kurt House

Josh 的共同創辦人,兩人在哈佛念研究所時認識,後來一起做油氣私募投資。 111

Kyle Vogt

本集來賓,共同創辦 Twitch,創辦 Cruise,現為 The Bot Company CEO。 102

L4

DoorDash 用它形容 DOT 在 Phoenix 的運作:完全自動駕駛。 169

LAPD

洛杉磯警察局,Rick 當年主持其警察委員會。 099

LLM

Dylan 拿來對應「解決問題」那一面的模型,並認為兩者混合可能重要。 055

LLM Explorer

Stripe 內部的 ChatGPT 式前端,後端可接多個模型,三位工程師三週做出 beta。 050

LLMOps

Lukas 說大家把新的 LLM 工作流程叫做 LLMOps,相對於原本的 MLOps。 026

LMArena

讓使用者在兩個回答之間投票的排行榜;Edwin 批評它獎勵格式與長度。 124

Lab42

過去四年辦小型年度 Arc 比賽的 AI 實驗室。 068

Lamini

在 AMD 上提供模型服務的公司,Sarah 說是自己投資的公司。 053

Lance Martin

LangChain 團隊成員,剛發布一個 benchmark:needle 數量增加、或要求推理而不只是檢索時,模型表現都會下降。 057

LangChain Expression Language

LangChain 的底層串接協定,Harrison 稱為 chaining protocol。 057

LangGraph

針對有循環的圖而設計的協定,不限於 DAG,用來支撐跑迴圈的 agent。 057

LangSmith

LangChain 公司的平台,用於測試、評估與監控。 057

Langlands program

想把數學不同領域連起來的研究計畫,像是數學的統一理論。 090

Lattice

Anduril 從第一天就開發的軟體,用來追蹤並理解環境中的一切。 019

Laura Deming

Until 的共同創辦人暨執行長,先前創辦 Longevity Fund。 148

Leela Chess Zero

以神經網路自我強化學習訓練的引擎,打法有攻擊性、不拘常規 172

Legacy DeepMind

Oriol 用來指合併前的 DeepMind 團隊。 074

Legend Biotech

中國生技公司,Saji 說 Johnson and Johnson 與它合作,作為大藥廠向中國買分子的例子。 140

Lego bricks

Ivan 對文字編輯、關聯式資料庫、權限、留言等底層元件的說法。 051

Leopold Aschenbrenner

去年寫 situational awareness 論文的作者,主張盡量搶先中國取得超級智慧。 105

Liam Fedus

來賓;曾任 OpenAI post-training 副總,更早在 Google Brain 155

Liam Fedus、Barret Zoph

團隊拿「找出兩人合寫的所有論文」當固定測試題。 112

Lichess

Erik 稱它像是開源世界的 Linux,與 Chess.com 並存,服務社群不同的一面 172

Lina Khan

FTC 主席,32 歲上任,是 FTC 史上最年輕的主席。 084

Linus's law

「看的人愈多,bug 愈無所遁形」;Sriram 用它論證開源比較安全。 125

Lip-Bu Tan

Intel CEO,曾任 Cadence CEO,創投 Walden 出身,現在仍在投資。 166

Llama 2

Meta 的開源模型,主持人說已有很多人圍繞它。 035

Loki

主持人介紹 Jesse 先前創辦、後來被 Niantic 收購的公司 132

Longevity Fund

Laura 早年創辦的基金,起點是替該有資金的長壽專案募錢。 148

Lotus

1980 年代的試算表產品,營收快速成長後被 IBM 收購、被 Excel 取代。 151

Luigi

Erik 在 Spotify 寫的 workflow scheduler,Erik 說現在幾乎沒人用。 096

Luis von Ahn

Duolingo 共同創辦人兼 CEO,Carnegie Mellon 電腦科學博士,2011 年創辦 Duolingo 時是教授。 114

Lukas Biewald

Weights & Biases 的 CEO 與共同創辦人,先前創辦 Figure Eight。 026

Lunch Club

Scott 先前創辦、經營了約五年的機器學習公司。 062

M dash

Microsoft 的產品,Satya Nadella 說上線時找到了 Mythos 沒找到的 bug 或漏洞。 164

MAI models

Microsoft 這次發表的一組模型,Satya Nadella 說重點在乾淨的 lineage 與小模型能 hill climb。 164

METR

以模型能自主完成多長的任務來衡量進展的基準,Eric 舉它說明業界重視的指標。 135

MI300

AMD 的旗艦資料中心晶片,有高效能運算與 AI 訓練、推論兩種版本。 053

MLOps / LLM Ops

管理模型開發與上線的工具;Olivier 說過去用例太分散沒做起來,現在每個開發者都在用 LLM,機會變大。 021

MLflow

Databricks 的開源專案,Matei 說會與各種 LLM 工具整合。 011

MMLU

Dan 先前做的評測資料集之一。 105

MP Materials

美國國防部以 7.5 億美元合作、重啟本土稀土磁鐵生產的公司,Jacob 當作價格下限模式的範本。 129

MTS

Inflection 技術人員的統一職稱,不區分研究者、科學家與工程師。 016

MTSS level three

Joe 說這是學校裡後 10% 的學生,學校在這一層彈性最大 133

MacArthur Park

洛杉磯市區的公園,Rick 說附近有全美出勤最多的消防站。 099

Made in China 2025

Jacob 說中國在 2015 年提出的計畫,此後稀土煉製活動快速成長。 129

Magnetar

Neil 任職的 alternative asset manager,三大策略是私人信貸、創投與系統化的公開市場策略 152

Magnificent Seven

主持人用來討論「下一批大型科技股」的指稱。 072

Make-A-Video

Devi 做的文字生成短影片專案,把外觀與動作分開學。 024

Mamba

Albert 提出的 SSM 模型,在語言建模上表現很好。 070

Manny

Long Lake 的共同創辦人與併購主管,來自 GTCR。 160

Mark Papermaster

AMD CTO,本集來賓,2011 年秋天加入 AMD。 053

Market Builder

Kalshi 上讓使用者自己提案新市場的功能。 088

Mars

Foundry 主要為自己做的監控、警示、韌性與安全工具組,打算也開放給別人用在自己的叢集。 077

Matei Zaharia

Databricks CTO,也是 Stanford 電腦科學教授,本集來賓。 011

Matej Balog

Google DeepMind,AlphaEvolve 團隊。 120

Material Security

做雲端信箱安全的公司,從保護 Gmail 帳號起家。 038

Math Academy

Joe 稱讚成果最突出的數學 app,背後有一本 500 頁的學習科學專書 133

Matt Garman

AWS 執行長,2005 年以實習生身分加入,回來後是 AWS 第一位產品經理。 078

Matt MacInnis

Rippling COO,本集來賓。 083

Maze

一家開發龐貝氏症替代藥物的公司,原本要被大藥廠收購,被 FTC 起訴阻止後改和另一家公司合作。 084

MedQA

美國醫師執照考試(USMLE)風格的選擇題基準。 017

Meena

Daniel 在 Google 做的聊天機器人專案,後來改名 LaMDA。 012

Melisa Tokmak

本集來賓,Netic 創辦人暨 CEO,先前在 Scale 帶過多個事業單位。 170

Mellanox

NVIDIA 買下的公司,之後開始大力整合 InfiniBand 與 NVLink,把網路變成運算 fabric。 089

Memo

Sunday 做的第一個通用家用機器人,主持人在開場介紹 141

Mercor

用 LLM 評估並媒合人才的公司,客戶包括各大 AI 實驗室。 110

Meta AI

Meta 的 AI 產品,一次推出多種模態,但還沒大力放進自家既有的產品。 063

Metrodora Institute

Fidji 與一位醫師、一位科學家共同創辦的機構,結合臨床與研究,加速神經免疫疾病的研究成果進到臨床。 022

Michael Strevens

KoBold 的 chief philosopher,研究認識論,著有 The Knowledge Machine,談科學與其他求知方式有什麼不同。 111

Midjourney / Pika / Character

主持人舉的生成式 AI 消費產品例子。 035

Mighty

Suhail 的第二家公司;2022 年時正想在瀏覽器網址列裡做點 AI 相關的東西。 060

Mike Knoop

Zapier 共同創辦人與 head of AI,本集來賓,也是 Arc Prize 的發起人之一。 068

Mikey Shulman

Suno 共同創辦人兼 CEO,物理博士出身,研究過量子運算。 064

Mild / Medium / Spicy

Rivian 自駕駕駛風格的三種設定,Spicy 最積極 150

Miles

Azure 網路團隊為自己的 agentic 系統取的角色名字。 164

Minecraft

一位主持人用它當例子:五到十個人的團隊就被 Microsoft 以數十億美元買下。 171

Mingomba

KoBold 在尚比亞的銅礦床,核心品位超過 5%,Josh 稱是還沒成為礦場的大型銅礦裡品位最高的。 111

MiniMax

中國的 LLM 公司,主持人提到它以 1.2 billion 估值募得 250 million 美元,團隊來自 SenseTime。 020

Minion

Alex 現在做的產品,讓 AI 替人採取行動。 010

Mistral

法國的模型新創,推出 Mistral Large 與聊天產品 Le Chat,並授權進 Azure。 054

Mistral 7B

Mistral 發布的 7 billion 參數模型,Apache 2 授權的開源模型,小到能在 MacBook Pro 上跑。 040

Mittensbot

Erik 提到 2023 年的熱潮之一,與作弊風波一起帶動孩子入場 172

Mixer

只用 MLP 的電腦視覺架構,表現跟 vision Transformer 差不多。 029

Mixtral

上週加進 Cody chat 的小模型之一。 047

MobileCoin

Alex 在進 GitHub 前參與的加密貨幣專案。 010

Modal

提供 serverless 雲端平台,讓人用 Python 函式跑 AI、機器學習與資料應用。 096

Moderna

Flagship 的第 18 家公司,Noubar 以它說明 mRNA 在當時沒有任何前例。 104

Modular Citadel

預鑄混凝土屏蔽塊堆成的生物屏蔽,在鹽湖城的工廠製造。 173

Monte Carlo tree search

AlphaGo 在神經網路之上加的規劃演算法,Noam 認為很依賴特定領域。 001

Mosaic platform

Vevo 把多位病人的細胞合成單一腫瘤,一次篩大量藥物的平台。 103

Mosaic's law

Databricks 團隊提出的看法:同一個能力等級的模型,所需的資本投入每年降到四分之一。 059

Moveworks

Bill 稱為「企業的 agentic front door」的併購對象。 157

Murray Gell-Mann Amnesia

熟的領域發現報導出錯、不熟的領域卻照樣相信的心理;名字取自發現夸克的諾貝爾獎物理學家 Murray Gell-Mann,由《侏羅紀公園》作者 Michael Crichton 命名。 100

Mythos

談自動化弱點發現時反覆提到的模型等級,Maxim 稱之為資安的大轉變。 163

NDR

淨營收留存率;Tuhin 說 Baseten 年度約 400%。 159

NEAR

自稱區塊鏈作業系統,要讓開發者與使用者不必碰底層細節。 032

NPC

非玩家角色;Roblox 想用平台資料訓練出不只是 LLM 的 NPC。 149

NPS

淨推薦分數,客戶衡量顧客滿意度時和滿意度分數一起看。 097

NRC / DOE

NRC 負責商業部署;Isaiah 說 DOE 前身 ERDA 原本就是負責測試的機構。 173

NVIDIA / AMD

主要的 GPU 供應商,NVIDIA 在高階處理器遠遠領先。 027

NVLink

把多顆 GPU 連成像一顆巨大 GPU 的互連技術,用來同時顧到低延遲與高吞吐。 089

NVLink72

Jensen 提到的 NVIDIA 最新創新,說它是成本最低的 token 生成機器 145

Nash equilibrium

撲克中長期不會輸的基準策略,對手出錯時自己就賺錢。 001

National Energy Dominance Council

與內政部長、能源部長密切合作的能源委員會。 125

Neocloud

以出租 GPU 為主的新型雲端業者,Dylan 說他們追蹤到約 200 家 127

Netic

Melisa Tokmak 創辦的公司,用 AI agent 處理大型服務業的客戶互動與營運。 170

Netscape

Lina 說 Microsoft 想排擠它,不是怕它取代作業系統,而是怕它讓用不用 Microsoft 變得無所謂。 084

New England Journal of Medicine

Daniel 提到的夥伴期刊,說 OpenEvidence 是它很大的推薦流量來源之一 130

Next.js

Vercel 的開源 framework,ChatGPT 的網站就是用它做的。 030

NextGen

印度最大的主權雲服務商,Akash 的早期客戶。 093

Nexus

Long Lake 自家的橫向 AI 平台,模型中立,約 80% 的基礎建設在各垂直領域共用。 160

Nima Alidoust

Vevo 共同創辦人,量子化學出身,後來轉做計算化學。 103

NotebookLM

Google 的產品,可上傳文件並生成兩個 AI 用語音討論內容的 podcast 式輸出,也可當成接在資料上的 RAG 介面。 086

Notion Q&A

Notion 以 AI 做問答的功能,Edo 說跑在 Pinecone 上。 052

Nuance

Tuhin 舉的例子:多年把持醫療筆記市場,Whisper 出現後這個市場變得很快。 056

Nuke / Flame

專業影像後製軟體,Cristobal 說 Runway 做到八成後,剩下的可以在這裡處理。 002

Nyquist 取樣定理

主持人用來比喻「要多聰明才能判斷更聰明的東西」,Oriol 以超解析度模型回應。 074

OLAP

分析型資料庫工作負載,Ankur 預期它會受 embeddings 查詢方式衝擊。 085

OTA

透過無線方式更新車上軟體,RJ 說 Rivian 約每個月一次 150

OT(operating technology)

工廠機台、醫療裝置等不一定在網路上的設備;Bill 說併入 Armis 後,IT 與 OT 能在同一平台管理。 157

Office of Strategic Capital

提供低成本貸款的單位,Emil 說有 200 billion 的貸款額度,對象是已存在的公司 146

Olivier Pomel

Datadog 共同創辦人兼 CEO,本集來賓。 021

On the Naturalness of Software

2012 年的論文,發現程式碼可以像自然語言一樣建模,對 Amjad 影響很大。 033

Onyx Security

Maxim 共同創辦的以色列新創,訓練監督 agent 的模型並提供 control plane。 163

OpenChatKit

Together 即將釋出的開放對話模型,建立在 EleutherAI 的 Neo X 上。 007

OpenFold

蛋白質摺疊的開源專案,Stability 是主要推手之一。 003

OpenUSD

Omniverse 使用的語言,Jensen 說會自己做擅長它的 AI agent。 089

Operation Warp Speed

新冠期間政府承諾購買特定數量疫苗,讓投資人有理由承擔不確定性。 104

Operator

OpenAI 的另一個 agent 產品,Isa 說每個寫入動作都要使用者確認。 112

Oriol Vinyals

Google DeepMind 研究副總、Gemini 的技術共同負責人,本集來賓。 074

Overstory

Bill 的基金投資的公司,協助電力公司決定優先修剪哪些樹。 098

POC

概念驗證,Aidan 說 2023 年有許多因為常見錯誤而失敗。 091

PSPS

public safety power shutoffs,高風險天氣前先停電的做法。 098

PTC

Brian 職涯的第一章,以企業銷售與強勢的銷售文化著稱。 036

PaLM

Pathways Language Model,Google 為擴大大型語言模型訓練規模建的基礎設施與模型系列。 017

Palisades Village

Caruso 開發的商場,在 Palisades 大火後仍然完好。 099

Palisades fire

這集談的主要火災,Rick 說燒掉的面積相當於兩個曼哈頓。 099

Palmer Luckey

Oculus 創辦人,對國防很有熱情;離開 Facebook 時和 Brian 等人一起創辦 Anduril。 019

Palo Alto Networks

Nikesh 擔任 CEO 的資安公司,這集談它的平台策略與併購。 134

Pantheon

講 AI 與意識上傳的動畫影集。 116

Paribus

兩位創辦人的前一家公司,2015 年開始做,偵測降價並代寫信向商店要差額。 076

Parker Conrad

Rippling 共同創辦人兼 CEO。 122

Pathways

Jeff Dean 與 Sanjay 的訓練計畫,把超級電腦接成更大的算力單位。 091

Patrick Hsu

Arc Institute 的創辦人之一。 103

Pax Silica

Helberg 稱為有 14 個國家的經濟安全聯盟,用生態系的角度處理供應鏈,特別是 AI 供應鏈 161

PayPal / X.com

主持人舉的合併例子:兩家原本互相競爭,後來決定合併。 116

Pedro Franceschi

Brex 共同創辦人兼 CEO,本集來賓。 075

Penny

Priceline 上的 AI 助理,Glenn 用它規劃過複雜的家庭行程 168

Percy Liang

Stanford 教授,參與創立 CRFM 與 Together。 007

Performable

HubSpot 以 acqui-hire 收購的公司,補上資料庫分群與 email 活動那一塊。 036

Periodic Labs

Liam 創辦的公司,目標是替原子世界打造 AI foundation lab,用 AI 影響材料科學、化學等物理領域 155

Perplexity

Glen 談 LLM 原生搜尋時,跟 Google、ChatGPT 並列的一方。 049

Persona 資料集

一個包含 10 億種虛構人物背景的資料集,用來在合成資料時注入 entropy。 080

Peter

Andrej 談 OpenClaw 時稱讚同時在五個面向創新的人,也是同時開多個 Codex agent 工作的例子。 154

Peter Abbeel

Misha 轉進 AI 時待的實驗室主持人,那是一個機器人與 RL 實驗室。 123

Peter Chen

Covariant 共同創辦人兼 CEO,之前是 OpenAI 研究科學家、Berkeley AI Research lab 研究員。 048

Peter Ludwig

Applied Intuition 共同創辦人,曾在 Google 做 Android。 119

Pew Research

發表研究指出 AI Overview 讓使用者更少點連結。 126

Phoenix Holdings

Kushner 說是 Israel 排名第一的金融機構,Affinity 是其最大股東。 131

Photo Studio

Square 的商品拍攝產品,從實體攝影棚演變成手機 App。 044

Physical Intelligence

Chelsea 與另外四位共同創辦人創立的公司,要把通用 AI 帶進實體世界。 107

Pika

兩位 Stanford 博士生做的 text to video 新創。 042

Pinecone

向量資料庫公司,主打替 AI 應用提供長期記憶。 052

Pinecone serverless

去掉規模限制的 Pinecone,Edo 說是整個資料庫第四次幾乎完全重寫。 052

Pixium

法國小公司,技術源自 Stanford 的一位發明人;Max 說它在 2022 年底的視網膜電刺激成果是業界最先進的,後來被 Science 收購 174

Platonic representation hypothesis

不同 AI 模型的表徵會收斂到相近結構的假說,Max Hodak 說在社群內有爭議 174

Playground 2.5

Playground 最新的開源基礎擴散模型,Suhail 說目標是比 SDXL 好。 060

Posterous

Garry 創辦、後來被 Twitter 收購的公司。 066

Power EMA / offset noise / DPO

Suhail 提到的幾個訓練技巧,用來讓訓練收斂更快,或改善色彩與對比。 060

Priceline

Glenn 2000 年加入的公司,旗下有 AI 助理 Penny 168

Prima

Science 的視網膜植入,是植在視網膜下的晶片,搭配有雷射投影機的眼鏡 174

Project Nova

Valar 先前做到冷臨界的專案,是第一次劈開原子。 173

Project Padawan

Thomas 預告的 2025 年計畫:把 issue 指派給 Copilot,由它開 draft pull request 並照計畫提交。 106

Prompt Builder

讓客戶修改產品經理做好的 prompt 範本,調整品牌語氣、指定模型與資料來源。 043

Prompts

Weights & Biases 為 LLM 工作流程推出的工具。 026

Propeller

Brian 共同創辦的創投基金,$120 million,投資氣候與海洋交會處的新創。 036

Protect.ai

被 Palo Alto 併入平台的公司,做模型評估與持續的 red teaming。 134

Pushmeet Kohli

Google DeepMind,AlphaEvolve 團隊。 120

Q&A

對整個工作區做語意索引,再給出有來源依據的回答。 153

QXO

Brad Jacobs 經營的公司,Kushner 擔任董事。 131

Qasar Younis

Applied Intuition 共同創辦人。 119

Queen's Gambit

疫情期間的影集,Erik 把它列為棋熱潮的推手之一 172

Quiet-STaR

Eric 在 Stanford 的最後一項工作,把類似 STaR 的方法用在一般文字預測,嘗試擴大到預訓練規模。 135

R1

DeepSeek 的 reasoning model,對標 OpenAI o1,主持人認為這才是引爆關注的時刻。 100

R2

沒有 egress 費用的儲存服務,Erik 說可用來降低頻寬成本。 096

RAG / retrieval

讓模型查特定資料來回答;主持人討論長 context 會不會取代它。 054

RCCS

反應爐周圍的水套板;Isaiah 說斷電後靠水沸騰、蒸汽冷凝形成自然循環帶走熱。 173

REALM

檢索增強語言模型的論文,從遮字填空的訓練中學哪些文件有用。 015

RETRO

Arthur 在 DeepMind 共同發表的 retrieval 論文,預訓練時使用大型資料庫當外部記憶。 040

RJ Scaringe

Rivian 創辦人兼 CEO,這集的來賓 150

RLAIF

把評分的人換成 AI 模型,成本低得多。 035

RLAIF / constitutional AI

把人類回饋換成 AI 回饋的做法,Karan 說這條路也有限制。 017

RNN

recurrent neural network,必須依序一個字一個字算。 012

ROCm

AMD 的開源 GPU 軟體堆疊。 053

ROIT

一位主持人提出的 return on invested tokens,衡量 token 預算該給誰、報酬如何。 171

ROME

Kelvin 記得出自 MIT 的實驗室,編輯模型權重來改變特定事實,改完後相關事實也會一併更新。 015

RPS

reactor protection system,反應爐保護系統;三個部分各自表決,有兩個判定不安全就停機。 173

RPT1

SAP 發表的 relational pre-trained transformer,針對表格資料做預測。 158

RSP

Responsible Scaling Policy,模型變聰明時確認有足夠防護才部署的政策。 118

RWKV

無注意力機制的 Transformer 類模型,Emad 說 Stability 在資助,14 billion 參數的版本即將推出。 003

Radar

Stripe 用機器學習偵測詐欺的產品,另有讓使用者自訂規則的 Radar for fraud teams。 050

Radar assistant

用自然語言產生詐欺規則的 beta 產品。 050

Ramp

Jesse 想學習的另一家公司 132

Rasmus

Long Lake 的共同創辦人兼 CTO,與 Taubman 透過早期投資人認識。 160

Raven

Snowflake 內部的銷售資料助手,彙整客戶關係、合約、用量與近期對話。 139

Ray-Ban Meta

會被動收集影像的眼鏡,主持人拿來談新的 AI 硬體形態。 063

Reflection AI

Misha Laskin 與 Ioannis Antonoglou 共同創辦,目標是打造超級智慧的自主系統,這週發表 Asimov。 123

Replit

瀏覽器裡的開發環境與部署平台,開場介紹說有超過 22 million 用戶。 033

Rest in Peace, Good Times

2008 年 Sequoia 為旗下創辦人辦的簡報,請人來講網路泡沫破滅時的經驗,要大家準備裁員過冬。 109

Rick Caruso

Caruso 的創辦人與前 CEO,2022 年洛杉磯市長選舉亞軍。 099

Riemann hypothesis

主持人說明它預測質數按特定模式分布;團隊拿它說明大問題離現在有多遠根本無從估計。 090

Rivian R1 / R2

R1 是旗艦車款,2021 年底上市;R2 是 RJ 說的第一款真正走量的產品 150

Roblox Studio

Roblox 的開發環境,主持人稱它是全世界最大的開發環境之一;Baszucki 說它內建原生助理與程式引擎。 149

Rodney Brooks

Kyle 提到 Brooks 寫過一篇文章,說機器人的外觀會設定使用者對它能力的期待。 102

Rubrik

Arvind 先前共同創辦的公司,Arvind 在那裡管研發;Glean 的起點就是這間公司內找不到資訊的問題。 115

Rwanda

Zipline 2016 年的第一個客戶,政府簽約請其送血到 21 間醫院。 004

Ryan Noon

Material Security 共同創辦人暨董事長,之前創辦的公司被 Dropbox 收購。 038

S&P Global

2018 年收購 Mikey 前一家公司,團隊在那裡做了財報電話會議的轉錄。 064

S-4

Winston 舉的今年想做到的端到端申報任務。 101

S3

AWS 最早的核心儲存服務,Alyssa 說多數 AWS 服務裡都找得到它。 044

S4

Albert 與 Karan 合作的 SSM 模型,證明某種循環模型在部分應用上很有效。 070

SAP

企業軟體廠商,Philipp 形容它是公司的作業系統,涵蓋財務、人資、供應鏈、銷售等。 158

SAP knowledge graph

銜接自然語言與系統內結構化資料的圖譜。 158

SB 1047

加州差點通過的 AI 法案,Sriram 認為通過的話美國的開源就完了。 125

SDXL

Stable Diffusion 的開源模型,Playground 2.5 從它的架構出發。 060

SETI@home、Folding@home

找解很貴、驗證很便宜的分散式計算專案,Andrej 拿來類比全網 auto research。 154

SFT

supervised fine-tuning:用輸入與輸出配對來訓練模型。 110

SFT data

人直接寫出的範例解答,用來微調模型。 124

SIEM

資安事件的關聯分析產品,主持人認為現有產品誤報、漏報都太多,沒人喜歡。 020

SOCOM

美國特種作戰司令部,Brian 說 Anduril 與其簽下 10 億美元的反無人機合約。 019

SPA

share purchase agreement,Winston 用來說明如何把分析拆開再收回單一介面。 101

SPV debt structure

以 SPV 持有 capex、GPU 與合約的債務結構;Neil 說主要擔保是合約現金流 152

SQLite

Notion 讓 agent 用 SQLite 的方式讀寫資料庫,Simon 說效果很好。 153

SQuAD

Percy 的團隊為推動開放領域問答所建立的 benchmark。 007

STaR

Eric 在 Stanford 時的工作:模型自己產生解法,答對就學、答錯就不學,反覆迭代。 135

SaaS apocalypse

主持人與 Bill 討論的說法,指軟體會被模型與生成的程式碼取代;Bill 以成本與責任歸屬反駁。 157

SageMaker

AWS 的機器學習平台,Matt 舉例說企業不必自己管 GPU,可以用它。 078

Sal Khan

Khan Academy 創辦人。 028

Salesforce

原本是 HubSpot 的合作夥伴,買下四家行銷公司後成為對手。 036

Samsara

車隊管理公司;其中一位主持人是股東,用來說明連硬體與銷售都不可能被 vibe code 取代。 151

Scale

標註公司,在自駕市場超越了 Lukas 的第一間公司。 026

Scale AI

替各家大型語言模型供應訓練與評測資料,自稱 data foundry。 065

Schoolhouse

Khan Academy 的姊妹非營利組織,由志工提供免費的線上真人家教。 028

Science

Max Hodak 創辦的公司,自稱基本上是醫材公司,產品線有視覺、生物混合神經介面與 Vessel 174

Scribe v2

ElevenLabs 剛發布的 speech to text 模型,Mati 給的數字是低於 150 milliseconds、前 30 種語言 93.5% 準確率。 143

Second great divergence

Jacob 的說法:率先導入 AI 的經濟體會拉開與其他國家的差距。 129

SemiAnalysis

Dylan 的公司,主持人稱它是晶片與 AI 基礎設施的主要資訊來源 127

SenseTime

主持人描述為與中國政府合作很多的臉部辨識公司。 020

Sergey

Chelsea 的共同創辦人,曾說機器人硬體會有一場 Cambrian explosion。 107

ServiceNow

Bill 擔任執行長的企業 workflow 平台公司,起家於 IT service desk,現在延伸到客戶關係管理與安全。 157

Severin

Luis 的博士生,後來成為 Duolingo 的 CTO 與共同創辦人。 114

Shiv Rao

Abridge 創辦人暨 CEO,心臟科醫師,現在仍定期看診。 108

Shopify

主持人舉的例子,說它把使命與績效文化講得很清楚。 042

Shopify Magic

Shopify 的 AI 功能,產出的內容要使用者確認後才會存。 049

Shyam Sankar

Palantir CTO,第 13 號員工、第一位商務人員,本集來賓。 025

Sidekick

Shopify 的 AI 助手,在 admin 旁邊陪著商家操作。 049

Sigma

Stripe 以 SQL 為基礎的報表產品。 050

Sigma assistant

用自然語言查 Stripe 資料、不必會 SQL 的 beta 產品。 050

Silo

AMD 先前買下的公司,約 $600 million 的 acqui-hire,補軟體端。 081

Simon

Ivan 的共同創辦人,早就相信 AI。 051

Simon Last

Notion 共同創辦人,本集來賓。 153

Smart Dunning

billing 產品裡挑最佳日期與時間重試扣款的機制,Emily 說約減少 30% 被拒的扣款。 050

Snap

Joshua 的前東家,在那裡從廣告機器學習轉做 AI 相機。 069

Snowflake / Databricks

主持人討論的資料與運算平台,要不要自有模型是這段的問題。 063

Snowflake Intelligence

Snowflake 的 agent 產品(簡稱 SI),聚焦從結構化與非結構化資料取得價值,按用量計價。 139

Snowpark

Snowflake 的程式化平台,讓應用在平台的治理邊界內執行。 023

Socket

Ryan 舉的例子,分析 npm 相依套件的資安公司。 038

Sofia Crespo / Scott Eaton

Devi 舉的以 AI 為主要工具的藝術家,在 Midjourney 之前、GAN 的年代就在做。 024

Sonic

Cartesia 的文字轉語音引擎,主打即時、低延遲。 070

Sonnet 3.5

Eric 認為讓 AI 寫出可上線應用成為可能的模型。 092

Sophia

Tengyu 實驗室去年提出的優化器,預訓練效率提升 2x。 067

Sourcegraph

Beyang 共同創辦的公司,2013 年成立,原本做給人用的程式碼搜尋與理解工具。 047

Spaces

Hugging Face 上的機器學習 demo,從一位團隊成員的實驗長出來,過去一年超過 50,000 個。 005

Spirit Airlines

破產的航空公司,其資料被 Google 以 $10 million 買下 175

Square / Block

從小商家刷卡機起家的支付公司,隸屬 Block,Alyssa 帶了將近十年。 044

Square Messages

Square 的訊息產品,用 GPT-2 做虛擬助理回覆客戶詢問。 044

Sriram Krishnan

白宮 AI 資深政策顧問,行動方案的主要作者之一,之前待過幾家大型社群媒體公司,以及 Andreessen Horowitz。 125

Stability AI

Emad 創立的公司,自稱獨立的多模態 AI 公司,推動開源基礎模型。 003

Stable Diffusion

Stability 的圖像生成模型,Emad 說約 2 GB,能把文字確定地轉成圖。 003

StackBlitz

Eric 的公司,原本做瀏覽器內的開發環境,Bolt 是它推出的產品。 092

Stanford HAI

Stanford 的以人為本 AI 機構,Fei-Fei 說創立它是職涯中引以為傲的事。 117

StarCoder

Cody 目前 inline completion 主要用的模型,7 billion。 047

Steve Levitt

以 Freakonomics 出名,親自查證過 Khan World School 的成績。 028

Stitch Fix

主持人舉例的公司,讓造型師自己拍行銷影片。 076

Stockfish

Erik 提到的棋類引擎,下得太完美,棋手爭相模仿,棋局一度變得很悶 172

Strassen

五十多年前提出矩陣乘法反直覺構造的德國數學家,把複雜度降到低於三次方。 120

Strategic Capability Office

修改或補強既有系統、製造 strategic surprise 的單位 146

Streamlit

Python 開發者常用來把機器學習模型做成可操作介面的開源專案,已被 Snowflake 收購。 023

Studio Ghibli

這集開場的話題:圖像生成把畫面轉成吉卜力風格而掀起熱潮。 109

Suhail Doshi

Playground AI 創辦人,之前做過 Mixpanel 與 Mighty。 060

Sunday

Tony Zhao 與 Cheng Chi 共同創辦的機器人公司,做家用機器人 Memo 141

Suno / Udio

這集談的兩個音樂生成模型,可以指定曲風、寫歌詞並加人聲。 063

Superintelligence Strategy

Dan 與 Eric Schmidt、Alexandr Wang 等人共同發表的論文。 105

Surge

Edwin 創辦的 human data 公司,沒有對外募資,一百多人,2020 年成立。 124

Sweatcoin

web2 計步應用,Illia 說有 120 million 安裝量,正轉向 web3。 032

Swiss Re

與 Waymo 合作分析理賠數據的再保險公司。 087

System 2

推論時多花一點時間思考的做法,Oriol 說它慢,但沒有慢到不能用。 074

TAM

可服務的市場規模;CJ Desai 判斷公司前景時第一個看的是 TAM 夠不夠大、夠不夠耐久。 147

TCV

合約總價值;Tuhin 說大型 B200 合約約 20% 預付。 159

TPU / GPU

Google 自研的 AI 晶片與常見的 GPU,Kawal 說要讓客戶有選擇。 037

TRISO 燃料

字幕作 trico。Isaiah 說這座是使用這種燃料、石墨緩和、氦氣冷卻的反應爐,燃料是安全設計的重要一環。 173

TRT-LLM

NVIDIA 的 LLM 引擎;Baseten 與 NVIDIA 合作,也貢獻過程式碼。 056

TSMC

少數幾家主要晶圓代工廠之一。 027

Tahoe 100

Vevo 產生並開源的 single cell 擾動資料集,約 100 million 個細胞資料點。 103

Talent Signal

Rippling 新推出的 AI 產品,讀員工的工作成果並產出表現訊號。 083

Tape Sucks

Frank 寫 Data Domain 經驗的書,自己出版。 023

Tasks

讓外送員蒐集資料、訓練 world model 的新產品。 169

Tengyu Ma

Stanford 電腦科學助理教授,Voyage AI 共同創辦人兼 CEO,本集來賓。 067

Terafab

Elon Musk 想自建的 fab,Intel 以技術與製程協助。 166

Tesla FSD

Tesla 的自駕產品,對話提到搭 V13 版就能感受技術已經到位。 119

The Bot Company

Kyle 的新公司,做家用的消費型機器人。 102

The Market for Silver Bullets

Ian Grigg 的論文,Material 每位新人的必讀;講的是買方、賣方、攻擊者三方之間,買方無法確認自己買的東西有沒有效。 038

The Mythical Man-Month

1970 年代談軟體開發的著作,核心論點是軟體開發很難用工廠式的產出衡量。 047

The Plausibility of Life

Jason 推薦的書,談演化如何讓生物更容易演化。 034

The Wires of War

Jacob 的著作,副標是 Technology and the Global Struggle for Power。 129

Thomas

Clem 的共同創辦人,早期主導開源與實驗,博士讀量子物理。 005

Thomas Dohmke

GitHub CEO,本集來賓。 106

Thucydides Trap

把美國當既有強權、中國當崛起強權的論述,Helberg 不同意 161

Timeback

讓人在上面建學校的平台,包裝好學習科學,使用者再補上下午的部分 133

Titan

AWS 的自家模型,其中 Titan embeddings 是 Bedrock 上最多人用的 embeddings 模型。 078

Toby

主持人稱為帶領 Shopify 的技術型創辦人;code red 由 Toby 發出,Glen 形容意見很強、做決定很果斷。 049

Together

把分散的閒置算力串起來,用於訓練、微調與推論的公司與平台。 007

Tom Knight

Ginkgo 的共同創辦人,1972 年起在 MIT 任教,先做電腦架構、後轉向 DNA。 034

Trabant

東德的汽車,Thomas 說候補名單曾長達 17 年,被拿來比喻稀缺與需求。 106

Transformer Engine

H100 為學習與推論 Transformer 設計的管線。 013

Travis Kalanick

以 Uber 出名,早期常給 Lukas 建議。 026

Trey Stevens / Matt Graham

Anduril 共同創辦人;Matt 是 Brian 的大學舊識,Trey 是在 Palantir 認識。 019

Trilogy

Joe 之前創辦的企業軟體公司,經營了 25 年 133

Tuhin Srivastava

Baseten 的 CEO 與共同創辦人。 056

Turbo

Vercel 讓團隊更容易採用 monorepo 的工具。 030

Turing test

主持人和 Zach 提到的經典測試;Zach 認為已經被通過。 137

Ty Mitchell

Akash Systems 共同創辦人,博士研究是 silicon carbide,曾在 Wolfspeed 工作。 093

UALink

NVLink 的開源競爭對手,AMD 是參與者之一。 081

UL2

去年發表的論文,PaLM 2 的混合式預訓練目標源自它。 017

UMI

Cheng 做的 3D 列印夾爪,用 GoPro 追蹤夾爪與手指動作來蒐集資料 141

US Tech Force

招募大學畢業生做兩年技術服務的計畫,Emil 說由 Scott Kapoor 推動 146

USDC

Circle 的美元穩定幣,一美元換一枚,由短天期公債與現金等支撐 156

USYC

Circle 營運的代幣化國債產品,Jeremy 說是最大的一個 156

Unitree G1

Unitree 的人形機器人,主持人說約 30 grand、自己有一台;Andrej 說大概也會買。 080

Universal Transformer

Jakob 他們很早就試過的自適應計算架構,目前效果還不夠好。 029

Until

做可逆冷凍保存的公司,先從人體器官開始,長期目標是全身醫療冬眠。 148

V3

DeepSeek 12 月釋出的 base model,當時 NVIDIA 股價沒有大跌。 100

VLC

媒體播放器,Olivier 是最早的作者之一。 021

VLM

能吃影像、輸出文字的視覺語言模型;Dmitri 說微調後可直接輸出行駛決策,容易上路但不足以去掉駕駛。 087

VMware of AI

Matthew 的說法,指有人會把 GPU 切得更細、更有效率地租出去。 126

VPC

受管制產業的資料常不能離開的雲端私有環境,Cohere 可部署在其中。 091

Valar Atomics

Isaiah Taylor 創辦的核能新創,做製造出來而非蓋出來的反應爐;這集在猶他的廠區錄。 173

Veeva

主持人說大約 $40 billion 的製藥垂直 SaaS,早年只是建在 Salesforce 上的一個 app。 063

Vercel

web 基礎設施公司,提供 framework、工具與部署流程。 030

Vercel AI SDK

讓開發者接上 OpenAI、Hugging Face、Replicate 等來源、做出串流介面的開發套件。 030

Vessel

Science 的灌流醫學計畫,稿中是第三條產品線 174

Vevo Therapeutics

創投支持的新創,負責產生 Tahoe 100 的資料。 103

Volkswagen Group

RJ 提到的軟體授權合作對象,用 Rivian 的網路架構與 ECU 配置 150

Voyage

在做程式碼用 embedding model 的公司,Sourcegraph 正與其合作。 047

Voyage AI

訓練 embedding 模型與 reranker,用來改善檢索系統。 067

War 250

這集現場那座 100 kW 反應爐,Isaiah 稱它是新創首座發電的先進反應爐。 173

Warp

Zach Lloyd 共同創辦並擔任執行長的公司,產品從終端機長出來,現在定位為 agentic development environment。 137

Watchdog

Datadog 的智慧層,持續盯著每一個指標找統計偏差。 021

Waymo driver

Waymo 自己開發的自駕系統,Dmitri 說目標是打造最受信任的司機,可裝在不同車款上。 087

Weights & Biases

給做機器學習的人用的工具,以實驗追蹤聞名。 026

Whisper

語音辨識模型;Baseten 前一天才讓它跑在 TRT 上,Tuhin 也拿它說明醫療筆記市場的變化。 056

Winston

Gabe 的共同創辦人,原本是律師,GPT-4 到手第一天就重做自己的 associate 工作 142

Work IQ

Microsoft 把 M365 的資料開放給 agent 使用的服務,Satya 示範在 GitHub repo 裡讓它根據會議紀錄提出修改計畫。 164

World Labs

Fei-Fei 共同創辦的公司,目標是發展具空間智慧的 AI,做 3D 生成的基礎模型。 117

XGBoost / AutoGluon

Philipp 舉的傳統機器學習與 AutoML 做法,問題是難以擴張:某家藥廠在 90 個國家營運,光是付款延遲預測就要訓練 180 個模型。 158

XPU

Intel 的運算產品線,與先進封裝、foundry 合起來可做 purpose built silicon。 166

Xerox

Bill 的第一份正式工作所在的公司,Bill 形容當時的 Xerox 是那個年代的 Google。 157

Xilinx

AMD 於 2022 年 2 月收購的公司,帶來嵌入式產品。 053

Y Combinator(YC)

本集談的創業加速器,Garry 現任領導。 066

Yash

OpenAI 的同事,Isa 的朋友,兩人一起做 side project 並討論這個專案的最初構想。 112

Yuki

Figma 的產品長(chief product officer),Dylan 說 Yuki 非常重視設計,主持人接著開玩笑說可以做一個 Yuki GPT。 055

ZT

AMD 的收購對象,補機櫃與資料中心規模的系統設計。 081

Zach Dell

本集來賓,Base Power 執行長,先前在 Blackstone 與 Thrive Capital。 136

Zach Lipton

Abridge 的 chief technology science officer,Carnegie Mellon 教授,全職在公司。 108

Zapier Central

Zapier 的 AI bots 產品,用自然語言設定,不需在編輯器裡一步步配置。 068

Zen

AMD 於 2017 年推出的 CPU 架構,用於 Ryzen 與 EPYC。 053

Zenefits

Parker 先前創辦、後來失敗的公司,這集一再拿來對照。 122

accelerator

由 CTO 辦公室出資 6 個月的小團隊,用來孵化新的 AI 嘗試。 050

account-based marketing

針對單一目標帳號量身做行銷素材,過去只有大客戶才做得起。 075

acqui-hire

以收購公司的方式把整批工程師與研究者請進來。 081

action chunking

預測一段軌跡而不是單一步動作,讓動作更連貫 141

action transformers

Sridhar 最期待的方向:讓 LLM 結合搜尋、計算機、API 等各種工具做事。 008

adapter model

客戶在平台上微調得到的模型,Kawal 說和憑證一樣都留在客戶的租戶裡。 037

adjacency

現有知識圈外一圈的鄰近地帶,大多數創新發生的地方,也容易被商品化。 104

after visit summary

給病人的看診後摘要,是 Abridge 產出的文件之一。 108

age of research

主持人轉述 Ilya 近期訪談的說法:仍相信 scaling,但在規模上測試想法所需的運算有個上得去的下限;手上若有更省運算的點子,就不只是單純拼資源。 144

agent chaining

串接多個語言模型處理資料;Tengyu 視為迭代式、多步的檢索增強系統。 067

agent harness

朋友之一提到,模型周圍的 scaffolding 能讓能力提升一個數量級。 144

agent mining

把 agent 與使用者互動時的決策脈絡記錄下來,由 process mining 延伸而來。 158

agent mode

Copilot 在 VS Code 裡的模式,能協助實作功能,需要裝套件時把終端機指令交給使用者確認。 106

agentic

指 AI 不只回答,而是代人執行任務;Nikesh 認為這比生成式 AI 的影響大。 134

agentic AI

Andrew 提出的說法,把 agent 看成自主程度的光譜,而不是二分的有或沒有 128

agentic development environment

Zach 對 Warp 的說法:一個可以用終端機指令或英文下指令、英文會啟動 agent 的開發平台。 137

air gap

與外部網路隔離的環境;CJ Desai 舉的是銀行應用可能要求的部署條件。 147

alignment faking

Anthropic 的論文,發現被訓練出的欺騙行為能撐過對齊訓練。 118

alternative accommodation

旅館以外的住宿,如民宿、整層出租的房子 168

amortize

債務在期間內逐步還完,Neil 說這類結構到期末餘額為零、沒有 balloon payment 152

amortize compute

把先前花掉的算力分攤到後面的多次訓練,Jakob 拿它解釋用生成資料重訓。 029

answer engine

直接回答問題而不是列出連結的搜尋形式,Aravind 說 Perplexity 是第一個對話式的 answer engine。 009

anthropomorphism

把機器當成有個性或生命的東西,本集談要不要順著這個傾向設計。 102

antibody

抗體,占近期核准藥物的近 50%,暢銷前十大藥物有七個是抗體。 121

apps / agents

客戶要求的、依職能打造的受控應用;Arvind 說當時稱為 apps,現在多被視為 agent。 115

associate

律所裡接合夥人派下任務的資淺律師,Gabe 拿來類比 agent 142

attention

像一張模糊、可微分的 key value 記憶表,讓模型回頭查看序列。 012

attestation

語音複製的一種驗證做法:第一次上傳聲音時,由聲音的主人確認是本人。 059

autonomous agents

把 LLM 放進迴圈,加上規劃、記憶、排序與反思,朝高層目標反覆執行。 014

autonomous delivery platform

他們合作期間建的平台,含 API、調度、商家整合與消費者體驗,供各種機器人與無人機接入。 169

avatar

取代鏡頭前真人的數位角色;用戶可選現成角色,或做自己的 digital twin。 069

baby KJ

去年 CHOP 團隊用 CRISPR 療法編輯突變的嬰兒病例,其中一位來賓用來說明選對疾病的重要性 165

base language

使用者已經會的語言;同一個目標語言會依 base language 分成不同課程。 114

bear thesis

看空軟體的說法:投資人擔心 SaaS、資料基礎建設與 AI native 公司的價值會被模型層吃掉。 147

behavior cloning

照人類示範的軌跡去學,離開示範路徑就容易失敗。 116

benchmark grid

新模型發表時附的那張表,每個 benchmark 只給每個模型一個數字。 167

best of K

平行產生 K 個候選答案,再由 verifier 或 judge model 挑最好的。 077

billable hour

事務所的時薪制,Winston 預期例行任務改固定收費、高階顧問仍算時薪。 101

billionaire tax

加州的億萬富翁稅,兩位主持人認為會推動創辦人離開。 171

bio radar

Ginkgo 的生物監測站:收集入境班機廢水、定序並找病原體。 034

bio stage

Noubar 主張的分子層面疾病分期,可細到 75,000 個階段,取代傳統的四期。 104

biohybrid neural interface

讓活的神經元長進去、形成新的生物連結,而不是插金屬線或改造基因 174

biological software

Inceptive 的說法:用程式描述藥效,再編譯成 RNA 分子。 029

biomarker

生物標記,用來挑出可能受益的病人,也可能被主管機關接受為臨床終點之前的中介指標。 006

biparatopic

針對同一目標的兩個部位各做一個抗體,再組合起來。 121

body shop

Edwin 對只送人力、沒有技術的資料供應商的說法。 124

bolt local

Bolt 的開源版,被拿來測試新出的模型。 092

bounties

Replit 上讓開發者接案賺錢的市集。 033

bring your own capacity

電網連接量有限時,自行加上太陽能、天然氣渦輪等來讓場址可用的做法 152

bundle

多產品組合,被主持人視為防守而非進攻的策略。 151

calibration

主管們在考核時彼此對齊評估標準的會議。 083

canopy

Pinecone 開源的端到端範例,讓人學著建 RAG 產品。 052

capex / opex

Zach Dell 的區分:opex 是日常營運費用,capex 是對電池、逆變器與製造產線的大額投資。 136

cascaded approach

speech to text、LLM、text to speech 分段串接;Mati 說有結構、可追蹤、可呼叫工具,企業場景明年仍會用這種。 143

catastrophic forgetting

Sarah 用來質疑「把全部脈絡直接丟進去就好」的想法。 020

centaur play

人類與 AI 合作下棋;Noam 說在 chess 人類已幫不上什麼,在 Go 偶爾仍有用。 001

chain of thought / tree of thought

被點名的錯誤修正技巧,用來提高可靠性;Imbue 內部還有其他技巧。 041

chemical vapor deposition

從種晶出發長出單晶的製程,長鑽石時是在反應爐裡用電漿長,原理和長 silicon 類似。 093

citation first

Perplexity 的原則:回答只說得出引用來源的內容。 009

cited summaries

Neeva 把多個來源濃縮成一份帶出處的單一答案。 008

claw

會持續循環、有自己的沙盒與較複雜的記憶,能在你不看的時候代你做事的 agent 層。 154

clearing house

集中清算衍生品交易的機構,Tarek 說 Kalshi 今年起持有一家。 088

clinical decision support

臨床決策支援,Daniel 認為它和文書、病歷記錄不同,因為判斷錯了無法重來 130

clinical note / billable note

臨床紀錄與計費紀錄,Abridge 要讓同一份紀錄同時符合兩者。 108

closed loop

實驗資料、模擬與文獻互相核對,再驅動下一輪實驗的迴圈 155

closed-loop simulation

需要互動回饋的模擬;Dmitri 說完全自駕需要它,不能只靠開環模仿。 087

code red

Toby 寄給全公司的信,宣告某件事是最高優先,被找去支援的人要放下手邊工作。 049

codesign

演算法與系統架構來回調整,是 Jensen 說的新擴展方式。 089

colocation

機器歸自己,但放在別人的機房;Jared 認為現在的 AI 雲大致就是這樣。 077

commoditize your complement

Amjad 用來解釋 Meta 開源 LLM 的商業策略。 033

compatibility test suite

Android 用來讓應用程式在不同硬體上表現一致的大型測試集。 119

completion model

補全文字的模型;Amjad 說商業 API 不再提供,所以自己訓練。 033

compound AI systems

把多次模型呼叫與其他元件組成網路的做法,Jared 與合作者用這個詞稱呼。 077

compound startup

一家公司同時經營多條產品線,各自從較小的基數成長。 083

computer use

讓 AI 操作電腦或瀏覽器,Andrew 說有時能用、經常不能用 128

concierge

Jesse 用來形容 Decagon 的詞:成為品牌對使用者的單一對話介面 132

conditional market

條件式合約,例如某位候選人當選後 GDP 或通膨會怎樣。 088

connectome

神經連接組圖,Max Hodak 說離人類的還遠,小鼠的不算太遠 174

constitutional AI

用一份原則清單讓模型批評並修正自己的回答,再拿修正後的版本訓練。 118

context stuffing

把大量資料一股腦塞進 context,Edo 說只是多付錢、不見得更準。 052

contextual reasoning engine

Abridge 的內部機制,整合對話、病歷、保險系統與臨床教科書的資訊。 108

continuation pre-training

接續預訓練,不從頭來,Aidan 說約 $5 million 的規模見過成功。 091

continuing medical education

繼續教育,Daniel 預期它會成為醫學教育的主體 130

continuous batching / dynamic batching

Tuhin 列為軟體層的優化,讓批次處理更容易平行。 056

continuous finance

Brex 的第三個 horizon:即時掌握所有資金流動,不必等季結與年度計畫。 075

control plane

Onyx 的產品,找出企業內的 AI 與自主 agent 並接上來監督。 163

copilot

有人在迴路中盯著的 agent 形式,Kanjun 說能力提升後會逐步變得更自主。 041

copilot stack

Kevin 的說法:像 OSI 網路分層的一整套結構,從介面、plugin、orchestration 到安全過濾。 018

cost per contact

Jesse 說客戶習慣用「每次聯絡的成本」衡量客服,Decagon 的計價沿用這種概念 132

cost plus

國防承包商的定價方式,利潤是成本上加一個固定百分比。 042

counter-drone

反無人機系統,Brian 說這是 Anduril 做得相當成功的領域之一。 019

course of action

從作戰計畫產出的行動方案,案例中以地圖與資源矩陣呈現。 025

crawl walk run

Brian 主張的自主系統導入策略:先讓操作員能信任,再逐步放手。 019

credit assignment

判斷推理鏈裡哪一步對、哪一步錯;Misha 說現行 RL 方法完全做不到。 123

critical minerals

美國二月辦了關鍵礦物高峰會,並與多國簽署 MOU 161

cuDNN

為加速深度學習而設計的領域專用函式庫。 013

curbside consult

向其他醫師請教意見,Daniel 說偏鄉醫師把 OpenEvidence 當成這種諮詢 130

curriculum

資料餵給模型的順序,例如從短而簡單的影片到長而複雜的影片。 024

custom agent

需要授權才能碰資料、可在背景自主執行的 agent。 153

data engine / flywheel

蒐集資料、訓練、評估、再改進的循環,Dmitri 認為是架構以外的關鍵。 087

data parallel

每台機器用同樣的權重、處理不同部分的資料,Cerebras 只用這種平行方式。 031

data product

從資料湖整理出來、可信任、能交給業務單位使用的資料物件。 023

data wall

網路上便宜可得的 token 已經用掉了,接下來得去蒐集更多,或生成合成資料。 063

dataflow

核心等收到 token 才工作、再往下傳的架構。 031

decay heat

反應停止後,剛分裂的原子衰變仍產生的熱,Isaiah 說約為停機前功率的 5 到 6%。 173

dedicated inference

Baseten 三項業務之一,提供客製化模型的推論,SLA 依客戶而定;Tuhin 說 95% 的 token 在這項。 159

deep research agent

Benchling 推出的 agent,在 Benchling 資料與資料模型上回答科學問題。 140

defense in depth

假設壞人已經進來,在後面再設一道防線的概念。 038

defensible space

房屋周圍清除可燃物的空間;Bill 說最內圈的 zone zero 是房子外五英尺。 098

deployed engineering

Harvey 的客戶端工程團隊,Gabe 說近似 Sierra 的 agent engineering,不是 Palantir 式的客製軟體 142

depth adaptive Transformers

主持人提到的 Meta 研究,依每個輸入調整計算量。 029

design gates

Figure 在概念、初步、關鍵三階段做的設計審查。 071

design partner

與 Harvey 一起設計流程的律師與事務所,告訴模型該怎麼想、使用者要什麼輸出。 101

design review

Figure 的概念、初步、關鍵三階段設計審查,全公司參與。 058

detect and avoid

偵測並避開其他飛機的能力;無人機沒有路權,必須自己避開。 004

devops

環境與部署設定,Scott 說這件事對人類其實很難,是 Devin 很擅長的地方。 062

differentially expressed genes

擾動前後表現量有明顯改變的基因,用來評量模型預測能力。 103

diffusion policy

一種模仿學習的演算法,能在同一個觀察下捕捉多種行為,同時保住訓練穩定 141

diffusion transformer

從雜訊一步步去噪來生成影片,並用 transformer 架構讓模型能隨資料與算力擴張。 061

diffusion-based models

Elad 說這是以統計物理為基礎的模型,用在影像生成。 020

digital biology

Jensen 預期會迎來 ChatGPT 時刻的領域,包含蛋白質與化學的理解與生成 145

digital life

主持人提出的問題,Ilya 認為系統夠自主、夠可靠才會更像人工生命。 039

distributed R&D

主持人對 Nikesh 把併購當研發的說法,指創投支持的新創等於替大公司做研發。 134

distributed inference

把推論拆到多個較小的資料中心,Neil 舉例是五個各約四、五 megawatts 的資料中心 152

distributed power plant

Zach Dell 對 Base Power 的比喻:把大量電池裝進各家各戶,用軟體串起來去競標電力市場。 136

distribution center

Zipline 接單、備貨、裝箱並起降飛機的據點。 004

doomers

Reid 對認為 AI 會帶來存亡風險那一派的稱呼,並批評這一派的預測方式。 045

dynamic LOD

讓每個資產依裝置有不同細緻度的做法;貼圖已推出,mesh 在路上。 149

economic Turing test

Ben 提的指標:招聘主管在一個月合約後,選人還是選 agent。 118

economic operating system

Emily 形容 Stripe 可能的方向:從付款資料出發,協助使用者定價、個人化,並看懂總體趨勢。 050

economic security zone

菲律賓贈與的 4,000 英畝土地,第一階段由國務院接管,視同外交財產 161

embedding search

Glean 早期內部對語意比對的叫法,當時還沒有 vector search 與 RAG 這些詞。 115

embedding 模型

把文件、影片、程式碼等轉成向量,供向量資料庫檢索。 067

embodied data

跟物理世界互動才取得的資料,不是瀏覽網路學來的。 048

emergent innovation

突現式創新:創造讓變異、選擇、迭代發生的環境,讓突破自己冒出來。 104

employee graph

Rippling 對員工資料與其脈絡的深入理解,所有產品都建在它上面。 083

epistemology of exploration

KoBold 內部的文件,要求預測可證偽、事先寫下放棄假說的條件、同時保留多個假說。 111

epitope

表位,抗體在目標蛋白上結合的部位。 121

error analysis

系統化地分析 agent 哪裡做得對、哪裡出錯,再決定改什麼 128

essential services

Netic 起步的產業,例如 HVAC、水電、寵物服務與消費型健康福祉公司。 170

evaluation function

使用者提供的評分函式,能對任何候選解判斷好壞,例如資料中心工作排程的模擬器。 120

experiment tracking

記錄模型訓練過程中的表現,是 Weights & Biases 最知名的功能。 026

experiments of nature

把每個人的基因差異當成天然實驗,用基因型到表型的對應,近似治療介入的效果。 006

export controls

對 AI 晶片的出口管制,Dan 認為重點在掌握晶片位置、防止落入流氓行為者手中。 105

fair use

合理使用,Google 的 snippet 最後被認定屬於這一類。 081

featured snippets

Google 把網站中兩三行直接答案放進搜尋結果,Sridhar 說覆蓋率始終有限。 008

federated learning

不把資料集中到一處就能學習的做法,Karan 早期職涯的研究主題。 017

few shot prompting

把好的範例放回 prompt,Harrison 認為是教模型用工具、做規劃的有效方式。 057

force closure

折襪子時兩指接觸形成的力的閉環,用遙控很難感受 141

formal language

用程式碼寫數學的形式語言,證明完成時機器會回報對錯。 090

forward deployed engineering

讓懂技術的人在客戶現場工作,一人兼產品、客戶成功與工程。 025

forward deployed engineers

派駐客戶端協助導入的工程師,以往像 Palantir 那種服務型做法,現在大家都在做 175

forward integrate

主持人用來描述平台提供者往平台上最大的應用整合,例子是 Microsoft 與 Office 132

forward-deployed industrial base

與菲律賓談的前進部署工業基地,被當成可以複製的平台 161

foundation models

CRFM 提出的說法,指不限於語言、也涵蓋影像與多模態的通用大模型。 007

foundation model(蛋白質)

Jason 與 Google 合作想做的模型,像 GPT-4 說英文一樣「說蛋白質」。 034

front office / back office

Ivan 的比喻:Notion 做人面前的前台,後台是資料庫與垂直領域用例。 051

frontier data

監督訊號強的高品質資料,像專家的推理鏈、agent 工作流程、多語與多模態資料。 065

full reserve money

全準備金貨幣,只能持有、不能拿來做部分準備放貸;Jeremy 說這是穩定幣的設計原則 156

full stack builder

LinkedIn 把設計、產品管理、前端工程合在一起的新職務。 164

full stack machine learning companies

Clem 的說法,指自己做機器學習而不只是使用的公司,如 Runway、Grammarly。 005

fund formation

設立基金:替私募或創投設計持有資金的實體,並起草上百頁的 limited partnership agreement 142

genai.mil

部門內部的生成式 AI 平台,60 天上線、過去 30 天超過一百萬位不重複使用者 146

generalist

能處理多種任務、多種環境的機器人模型,與只做單一應用的機器人相對。 107

generative UI

介面由系統依問題動態生成,而不是事先設計好讓人照著點。 158

generative canvas

一個原型:與 copilot 對話時,介面會即時跳出所需的元件與視覺化,Clara 說還不能正式推出。 043

ghost text

Copilot 以灰字顯示建議、按 tab 插入的介面做法。 010

global unified labor market

全球統一勞動市場,Brendan 設想的未來:配對成本降到軟體等級,所有人和公司都在同一個市場。 110

goals and guardrails

取代規則與決策樹的描述方式,說明要達成什麼,以及哪裡可以讓 AI 發揮、哪裡不行。 082

golden billion

Keller 用來指地球上最富有的十億人,說物流服務他們很好,對其餘的人卻很差。 004

graduation problem

Tuhin 的說法:基礎設施產品要能陪團隊一路擴張,不能長大就得換掉。 056

graph context

沿著程式碼的定義與引用關係走,找出相關程式碼放進 context window。 047

green screen

Runway 的去背工具,用人在迴路中的點選引導模型。 002

grounding

把符號式的抽象概念連到真實、物理世界的東西,例如蘋果實際長什麼樣子。 048

group office hours

創辦人每週聚在一起報告進度的 YC 機制,Garry 形容是靠同儕壓力運作。 066

haptics

觸覺資料,Fei-Fei 認為被低估,做操作時必須和視覺整合。 117

hard takeoff

主持人轉述的擔憂:模型能拿來訓練下一代模型,進展速度會失控。 014

head and torso

市值與客戶價值多集中在頭部與腰部,長尾加起來不如想像。 151

healing buffer

團隊預留的 10% 到 20% GPU,故障時頂上,讓訓練不中斷。 077

health check

ServiceNow 用來衡量客戶滿意度到系統表現的一組啟發式指標。 157

heterogeneous computing

異質運算,讓 CPU、GPU 與專用引擎各做擅長的工作。 053

hierarchical interactive robot

當天發表的系統,高階模型負責推理下一步,低階模型負責輸出動作。 107

hill climbing scaffold

圍繞模型建立的訓練框架,搭配 traces 與私有 eval,讓企業把通用模型變成自己的專門模型。 164

hit

能結合目標的候選分子,還不是藥。 121

hockey puck

Keller 形容飛機周圍需要監測的圓盤狀空間,範圍是兩英里。 004

holodeck

Baszucki 形容二十年前計畫書裡的終極高擬真模擬空間,人們能在其中一起做事。 149

honeypots

資料標註市集裡預先設好的錯誤答案,標註者沒標成錯誤就損失押金。 032

host strain

擅長大量產出蛋白質的現成菌株,Jason 把它比作現有的軟體函式庫。 034

hybrid SSM

Jensen 舉為新架構的例子,說 NVIDIA 剛發表新的 hybrid SSM 145

hybrid human AI synthetic data

AI 做大部分工作、人類專家補上判斷的混合式合成資料。 065

hybrid model

把 SSM 層與 attention 層混用的模型,Albert 說最佳比例大約 10 比 1。 070

hybrid search

把關鍵字與 embedding 的分數合在一起,底層關鍵字視為 sparse vector。 052

hyperspectral imaging

KoBold 自製的高光譜成像系統,裝在輕型飛機上,取得 600 色的影像。 111

iPSC

誘導性多能幹細胞,由白血球或皮膚細胞重新編程而來,可分化成神經元、心肌細胞等。 006

ice nucleation

冰形成時的隨機成核;調控它就能調控結冰的機率。 148

imitation learning

蒐集觀察與動作的成對資料,用監督式學習訓練模型,再讓機器人重複同樣動作 141

in-the-wild 測試

下載真實 repo、跑測試、挑出被呼叫的函式讓模型重寫,再看測試是否通過。 010

inbound marketing

讓顧客自己上網找到你,相對於買名單、打陌生電話、買廣告的 outbound;HubSpot 以此造出一個類別。 036

incubation

孵化新公司;一位主持人說通常是壞主意,但現在有例外。 072

incumbent bias

買了之後就一直沿用,不再看市場上有什麼的傾向。 076

inference endpoints

Hugging Face 的推論服務,是付費需求之一。 005

inference time

模型訓練完之後,在推論當下再做樹搜尋等額外工作;主持人認為這在 agent 與推理裡會更重要。 054

inference time compute

推論時投入的算力,Eric 主張應該讓使用者能調整花多少。 079

inference time scaling

模型在回答前自我反思、搜尋、推理,需要極低延遲產生 token。 089

inference-time compute

推論時多花的算力,用來換取更聰明的輸出。 091

influence

Kelvin 剛發表的論文(字幕作 influence),用輕量模型模擬訓練過程來估計每筆資料的影響。 015

inner loop / outer loop

outer loop 是團隊層級從規劃到上線的循環;inner loop 是單一開發者一天內反覆修改的循環。 047

instruction prompt tuning

用少量醫師示範調整參數的做法,比 prompting 更有學習效果,成本又低於完整微調。 017

instruction tuning

在 prompt 裡放範例引導模型行為,不改權重;Ankur 以此對比 fine-tuning。 085

intelligence augmentation

以增強人類為目標,Emad 用它與 AGI 對照。 003

investment grade (IG)

信評為投資等級的客戶,例如 Neil 舉的 Microsoft、Meta 這類公司 152

jagged intelligence

Eric 形容模型能力參差不齊:有些題連博士研究者都覺得不簡單,卻會被陷阱題絆倒。 135

jagged superintelligence

Misha 的說法:超級智慧會先在少數重要類別出現,各自綁著產品。 123

jaggedness

模型在可驗證的領域極強,在其他領域卻表現不穩的鋸齒狀能力。 154

just-in-time rights

不給永久權限,只在需要時給、並依異常行為調整的存取方式。 134

knowledge bases

Bedrock 對 RAG 與知識庫的做法,提供一套有依據的資料來源。 078

large regime

Jared 的定義:模型大到要多台伺服器一起做同一個同步計算。 077

large vision model

Suhail 想做的多工視覺模型,能生成、編輯與理解影像。 060

latent demand

因為太難或太貴而一直沒被滿足的需求,易用性提高後才會出現。 044

long context

這集的主軸之一,Oriol 說模型已能處理數百萬個 token。 074

long context window

Magic 的核心取向,Eric 說一年前公布過 5 million 的 context。 079

low code / no code

Airtable 切入的平台類別,目標是讓更多人(citizen developers)自己蓋 app。 073

manager vibe

主管對員工的整體印象,Matt 認為這會在績效有模糊空間時左右考核。 083

many-shot prompting

Airtable 規劃加入的功能,把使用者既有的好範例塞進 prompt 來生成新草稿。 073

mastery learning

沒學會就繼續練、不跟著固定進度往前走的學習方式,Sal 原本憑直覺做的就是它。 028

maximum suppression

1930 年代起 US Forest Service 的政策,含 10:00 a.m. 規則:野火要在隔天早上 10 點前撲滅。 098

merchant of record

在交易中負責收款與法規責任的角色,Glenn 說旅遊業要當這個角色得遵守大量規定 168

merger guidelines

去年底發布的新版併購指引,說明評估一筆交易是否削弱競爭的主要架構。 084

meta prompt

給模型的常駐指示,讓它貼合應用情境。 018

micro GPT

把 LLM 訓練演算法壓到約 200 行 Python 的專案。 154

mixture of experts

把語料分塊、各訓練一個模型,推論時用路由或加權投票選用。 015

mobile manipulation

一邊移動、一邊操作物品的任務,例如清理餐桌 141

modality

Saji 用來指新型態的藥物類別,例如基因編輯、細胞與基因療法、RNA。 140

model collapse

Andrej 所說的「silently collapsed」:單一輸出看不出來,整體分布卻失去多樣性。 080

model directory

Runway 早期的模型 app store,一度有大約 400 個模型。 002

model distillation

Helberg 稱為保護 AI 投資經濟價值的重要議題,也是還沒解決的政策問題 161

model garden

Google Cloud 上放各種模型的地方,有領域模型,也有開源模型。 037

model picker

Copilot 裡切換多家廠商模型的功能。 106

model switcher

ChatGPT 裡讓使用者挑模型的選單。 113

monorepo

把大量程式碼放在同一個 repo;Guillermo 說寫出最成功軟體的大公司向來這樣做。 030

morphological intelligence

Fei-Fei 實驗室的論文主題:代理的形態會隨任務最佳化而改變。 117

move 37

AlphaGo 下出的一手圍棋新招,圍棋文獻裡沒有,讓棋手意外。 120

multi-embodiment

Jensen 說每個 AI 都能像人一樣進入不同的身體,如車、機械手臂、挖土機 145

mutually assured AI malfunction

仿照核嚇阻提出的嚇阻機制,簡稱 MIM。 105

nanomolar binders

實驗找到的結合分子,Alex Rives 說這是具備治療活性的等級 165

needle in a haystack

在長 context 中找出單一資訊點的測試,Harrison 說無法反映多數 RAG 使用情境。 057

neo labs

新一代的 AI 實驗室,有些創辦人因為怕它們而轉去做利基市場。 171

neocloud

Neil 與 hyperscalers 並列提到的大規模雲端業者,兩者都在蓋大型雲端環境 152

neolabs

今年獲得資金的新研究型 AI 公司,主持人談它們的研究方向與資金。 144

neural architecture search

用程式去搜尋可能的 AI 架構;Mike 說這個領域存在已久,值得在算力變便宜後重新檢視。 068

no woke AI 行政命令

規定聯邦採購的模型要追求真實、不得加入人為的意識形態偏見,有加就要公開說明。 125

noisy neighbors

同一個共用端點上別人的流量暴增,自己的模型呼叫也跟著變慢。 056

non-admitted market

不受費率管制的保險市場,Bill 的基金投資的 Stand 就在這裡承保。 098

non-compete

競業條款;FTC 定案的規則禁止多數雇用合約使用。 084

non-human identity(NHI)

指 agent 這類非人的行動者,數量多、責任鏈難追,帶動一批資安公司 175

number of nines

Dmitri Dolgov 用來形容自駕可靠度要拉到的 9 的個數。 095

o series

OpenAI 專注於回答前先仔細思考的一系列模型。 113

o1

OpenAI 的模型,靠測試時多用運算,適合數學、程式這類要反覆推理的任務。 086

one box

搜尋裡直接顯示答案的卡片,例如股票與天氣;觸發規則以前寫得很累。 008

ontology

描述企業的名詞與動作的語意層,Shyam 說它能壓縮 context,讓 LLM 貼近企業的實際情況。 025

open compute project

Zuck 當年推的專案:不靠賣雲端賺錢的公司把資源湊在一起,合作優化資料中心的電腦。Amjad 拿它向 Zuck 類比 LLM。 033

open weight models

開放權重模型;Lina 認為能降低創業門檻、促進創新。 084

operating domain

以行駛條件而非行政區來定義的運作範圍,Waymo 據此對應城市與部署。 087

ops

靠人工處理的營運工作;Zenefits 太依賴它,後來很難換成軟體。 122

opt-in 資料集

只用創作者同意的資料訓練的資料集,Hub 上越來越多。 005

opt-out

Emad 主張的資料集退出機制,讓創作者能不被拿去訓練。 003

optimal transport

數學框架,這裡用來把 token 指派到裝置,避免單一裝置收到太多。 040

optimized checkout suite

一組前端付款優化,例如依相關性動態排列付款方式。 050

orchestration engine

HeyGen 內部把各個零件組成最終影片的系統,以 OpenAI 的模型為大腦。 069

ore deposit

地質作用把金屬濃縮到可以開採的地點,銅或鋰的濃度約 1% 甚至更高。 111

out-of-domain generalization

面對完全落在訓練資料之外的情境時的表現,Peter 說通用模型才非得依賴它。 048

outcome based pricing

按完成的結果收費,而非按 token。 082

overbet

下注額遠大於底池,例如 4x、10x pot,原本在職業撲克很少見。 001

owner

能對一塊業務的產品、行銷、銷售與競爭全權負責的人。 122

ownership file

Google 等公司用來列出程式碼各部分負責人的檔案,變更至少要其中一人核准;Reflection 也在用。 123

pajama time

醫師下班後在家補寫病歷的時間。 108

parameter store

放在晶片外的參數儲存,需要時串流進晶片。 031

parametric design

Dylan 舉的 3D 例子:用滑桿調整定義設計的變數,直接改變生成的形體。 055

parent document retriever

LangChain 的概念,為每份文件建立多個向量。 057

pegmatite

偉晶岩,鋰礦的母岩,Josh 用它說明模型怎麼預測地表岩石。 111

pentesting

滲透測試,由外部或自動化工具持續攻擊自己的防線來找弱點。 134

permissions / governance

Glean 索引時記錄誰能存取每份資料,使用者只能用有權限的內容。 115

persona-based agents

負責某一個明確職務的 agent,例如法務、coding,範圍窄但深。 082

personal agent

每位使用者都有的 agent,可存取該使用者能存取的一切。 153

personal agents

替個人處理收件匣、行程、會議準備的 agent,Bret 認為是三類裡最早期的。 082

phase 3 RCT

第 3 期隨機對照試驗,Daniel 說答案常在這類論文的方法或受試者段落裡 130

physical AI

Lip-Bu 口中的下一個前沿,Intel 想在這裡與 agentic AI 都占一席。 166

pick and pack

在倉庫拿起商品並裝箱,Covariant 眼前專注的場景。 048

plateau

增加思考量後表現不再上升的點;Noam 說現在的模型要想到數週才會到。 167

poles and wires

電線桿與電線,指輸配電網路;Zach Dell 說 Base Power 的競爭對象更接近它,而不是各種發電方式。 136

policy

機器人的控制模型,輸入畫面,輸出動作;目前沒有記憶。 107

poly intelligence

Noubar 年度信裡的概念,指人類、機器與自然三種智能互相適應。 104

post training

模型訓練完之後的調整,與專用模型、垂直應用並列為 API 之外的出路。 081

power law

少數頂尖者貢獻極大比例成果的分佈,本集用來談投資與知識工作。 110

prediction market

交易的標的是某個事件會不會發生,價格被當成事件發生的機率。 088

preference model

把少量可信的專家偏好聚合起來,在強化學習中當評分依據。 118

prescribed fire

在受控條件下主動點火,清掉地面可燃物,多半在春天而非夏天進行。 098

presets

LLM Explorer 裡可以儲存、分享、投票的 prompt。 050

price dumping

Aidan 對模型降價的解讀:免費、虧本或零毛利地賣,而不是商品化。 091

prior authorization

醫療保險事前授權,主持人舉的例子:可以用模型讀資料、填表單、比對政策的營運流程。 014

private equity

許多客戶的擁有者,這集談它對 AI 的態度與打法。 170

private eval

企業自己的非公開評測,Satya Nadella 認為這是 IP 的主要來源。 164

probabilistic graphical models

機率圖模型,Daphne 寫過這個領域的書;把 AI 帶向數值資料與機器學習。 006

product marketing

從客戶與市場出發,弄清楚競爭對手是誰、要解決什麼問題。 073

product taxonomy

標準的商品分類與屬性,由 AI 判斷類別與屬性值。 049

productivity 與 vertical workflow

前者賣給大量使用者、輸出門檻較低;後者從頭到尾產出成品、門檻高。 101

program management

盯需求與時程,讓工程進度跟得上。 073

program of record

成為國防部預算中的一個項目,規模常是數億到數十億美元。 019

program synthesis

讓程式在可能的程式空間裡搜尋並組合,找出把輸入對應到輸出的程式。 068

program.md

Andrej 描述 auto researcher 該怎麼運作的 markdown 檔;研究組織本身也可以看成一組這種檔。 154

programmable architecture

NVIDIA 堅持的可程式化、相容的架構,說這樣各種演算法都能在同一批硬體上跑 145

prompt caching

Anthropic 做的快取功能,被舉為讓 API 沒那麼像商品的例子。 081

prompt template

Airtable 針對行銷、產品管理等常見用途寫好的 prompt 範本。 073

prompt tuning

凍結大模型,只對向量化的提示做梯度下降。 015

proofs from the book

Erdős 的說法:有些證明優雅到像是出自上帝的書。Albert 用它形容挑問題的標準:有些做法一看就是對的方式。 070

prosumer

介於一般消費者與專業用戶之間的使用者;主持人認為 AI 的第一波大用例多半在這群人身上。 059

protein language model

以蛋白質序列訓練的語言模型,結構與功能是自己長出來的 165

proxy

能用同一個 SDK 查詢多個模型、做負載分流或比較表現的中介層。 042

punctuated equilibrium

演化理論中的間斷平衡,這集用來比喻技術史:爆發、整併、穩定交替出現。 171

put wall

電商出貨的分揀步驟,Peter 稱為實體路由器,把混在一起的訂單分給不同客戶。 048

quadratic step

對所有組合做比對的步驟,Jakob 說這是 attention 的核心。 029

query analysis

RAG 中先分析使用者問題,再決定送去哪個 retriever 或加什麼 metadata filter。 057

r/legal advice

Reddit 上讓人問法律問題的版,Harvey 最初的實驗素材來源。 101

rapid deployment team

Caruso 的快速部署小組,遇到天災就依既定流程出動。 099

rare earths

Helberg 說它們不算稀有,稀有的是精煉設施 161

raw model

沒有為了禁止某些輸出而被調整過的模型,Arthur 主張應該先提供這種版本。 040

reCAPTCHA

Luis 更早創辦的公司,2009 年被 Google 收購。 114

real time dreaming

一個人獨自、即時依個人反應生成的夢境式產品,與多人溝通平台是兩個極端。 149

reasoning

Imbue 用這個詞泛指讓 agent 完成任務的一整組能力,例如何時回頭問人、規劃並比較行動方案。 041

red teamer

受邀測試模型安全風險的人,和藝術家一起是最早的使用者。 061

regulated monopoly

受管制的獨占,公用事業在這個模式下,依投資的設備賺取事先訂好的報酬率。 136

reinforcement learning (RL)

訓練 o 系列與以往模型的最大差別,用目標引導模型解難題。 113

reinforcement learning(RL)

靠獎勵與懲罰反覆試誤的訓練方式,規則清楚的遊戲最好用。 116

rejection sampling

從多個產出樣本中用另一個模型排序、只留較好的,其中一位創辦人說這等於做了一步強化學習。 009

reliability

Ilya 定義的可靠度:問題不比其他題更難時,模型能穩定答對,使用者不必每次驗證。 039

remote assistance / teleoperation

車或機器人遇到問題時由遠端的人協助或接手操作。 102

research taste

判斷研究方向好不好的品味;Noam 認為模型現在還不夠。 167

responsible scaling policies / preparedness frameworks

各實驗室發表模型前評估危險能力的政策,Noam 說多半沒把預算算進去。 167

retrieval

先挑出一部分資料再做回答的做法,Eric 認為不如讓模型直接看全部資料。 079

retrieval augmented generation

把搜尋引擎當成 LLM 可用的工具,Neeva 採用的做法。 008

retrieval augmented model

先用向量找最近的文件,再讓模型讀取並做預測的模型。 015

retrofit

在一般車上加感測器與電腦讓它自己開,Cruise 最早的產品方向;沒有車廠配合就得逆向工程通訊協定。 102

reversible cryopreservation

冷凍保存後能回溫、恢復功能的技術;這集談的是可逆的版本。 148

reward function

判斷產出好壞的標準;在法律裡最終是合夥人的判斷 142

reward hacking

模型為了通過測試而走捷徑,例如直接刪掉程式。 118

rider-only miles

車上沒有安全駕駛、只有乘客的純無人里程,Waymo 用它與人類基準比較。 087

risk transfer

Tarek 對衍生品市場功能的說法:把風險從承擔不起的人移給承擔得起的人。 088

river solver

撲克最後一輪的求解程式,Noam 拿來試每一代模型。 167

robotaxi

無人駕駛的叫車服務,Kyle 說要先達到超越人類的安全水準才有產品。 102

root.near

Illia 的 NEAR 帳戶名,可以用多把權限不同的 key 存取。 032

rotoscoping

逐格把主體從影片中摳出來的工作,是 green screen 工具要省下的時間。 002

rwa.xyz

Jeremy 推薦的網站,追蹤真實世界資產上鏈的狀況 156

safety critical

出錯會有安全後果的系統,對可靠度、壽命與成本都有嚴格限制。 119

sample efficiency

學會一件事需要多少樣本;Noam 說人類遠比 AI 少。 001

scBaseCamp

Arc 用 agent 爬取、整理公開單細胞資料所得的觀察性資料集,約 230 million 個細胞。 103

scaled directed energy

用高功率微波或雷射攔截飛彈與無人機,Emil 說難處在於如何大規模做到 146

scaled hypersonics

Emil 的關鍵技術領域之一,目標是讓 hypersonic 飛彈能以合理價格量產 146

scaling laws

Andrej 說這在很大程度上是 Transformer 的性質,LSTM 時代沒有乾淨的版本。 080

scenario

像 git branch 的一組暫存修改,讓人核可或退回建議。 025

second source

企業想保留的第二個供應商,常常是為了議價。 042

secure enclave

相機與手機裡能替影像簽章的安全硬體,Illia 說據自己所知還沒被攻破。 032

self-amplifying RNA / riboswitch

前者能自我放大,後者遇到小分子會大幅改變結構或自我分解;Jakob 說有了它們,RNA 就有條件判斷與遞迴。 029

self-driving money

Eric 對 Ramp 目標的說法:發卡、付款、核准、記帳都在同一處,繁瑣的步驟自動完成。 076

self-play

讓 AI 和自己對戰來訓練策略,AlphaZero、Dota 2 bot 與撲克 bot 都用這種方式。 001

semantic kernel

Microsoft 自己開發並開源的 orchestration 工具。 018

semantic layer

Eon 在分類資料後,疊在資料之上的語意層 175

semantic parsing

把自然語言對應成可執行的形式語言,例如 SQL 查詢。 007

semantic search

語意搜尋,用來理解一段好幾句的病人描述,而不是比對關鍵字 130

sensor

裝在 endpoint、edge 等位置的偵測與阻擋點,既擋已知威脅也收集資料。 134

serious use

Imbue 的內部原則:做自己每天真的想用的 agent。 041

serverless function

Modal 把使用者寫的 Python 函式轉成雲端執行的單位,容器化由平台處理。 096

service cloud

Salesforce 的客服產品線,Clara 近三年前加入,AI 實驗從這裡開始。 043

settlement finality

結算終局性,Jeremy 說 Arc 的交易不會被 hard fork 或 reorg 推翻 156

shadcn/ui

目前最熱門的 React UI 做法,作者要大家直接從瀏覽器複製程式碼到編輯器。 030

shared endpoint

多個客戶共用的模型端點,會有 noisy neighbors 的問題。 056

shared inference

Baseten 的另一項業務,共用 SLA。 159

shovel selling

「賣鏟子」,Ryan 用來形容 AI 圈一窩蜂做工具的現象,認為被過度炒作。 038

shy kids / Airhead

試用 Sora 的創作者,和他們用 Sora 做的短片,主角是一個帶著氣球的角色。 061

side letter

個別投資人用來修改基金協議的附加文件 142

silicon carbide

Ty 的博士研究主題,用在雷達、電動車電力電子與 LED 等。 093

six-month pause letter

呼籲 AI 研發暫停六個月的公開信,Reid 與部分作者談過。 045

skill issue

Andrej 的口頭禪:做不好多半是指令、記憶工具這些用法沒到位,而不是能力不存在。 154

social license to operate

在當地社區取得的認可;Josh 說沒有它,技術上找到礦也開發不了。 111

software composer

Eric 稱呼 Bolt 使用者的說法。 092

sovereign AI

主持人提到的新客群:各國政府自己的 AI 需求。 065

sovereign cloud

資料必須留在本國境內的雲端服務,這集說世界各國都有這項要求。 093

sovereign wealth fund

主權基金,主持人以挪威為例,建議加州把科技與好萊塢的收益存進去。 099

sovereigns

國家層級的出資者,與 hyperscaler 並列為少數給得起數十億美元的人。 081

spacetime patches

Sora 從影片切出來的 3D 立方塊,角色等同語言模型裡的 token。 061

sparse mixture of experts

把 token 分配給不同專家的架構,Arthur 用 optimal transport 處理分配問題。 040

spatial intelligence

理解、推理、互動並生成 3D 世界的能力,人與動物都有。 117

speculative decoding

近半年才開始實際使用的加速技術,讓每次生成更快,或把一部分工作交給另一個模型。 056

speech to speech

把各段融合訓練的做法;Mati 說更有表現力,但可能出現幻覺語音。 143

spikiness

Liam 形容 AI 系統能力不平整:某個領域世界級,題目稍微改動就大幅退步 155

spot

Foundry 的產品:用較低價格使用別人預訂但閒置的 GPU,原主要用時自動把工作移走。 077

stack trace

程式出錯時的呼叫紀錄;只拿它問 GPT 多半答錯,加上程式狀態才準。 021

staking

Amjad 設想讓人押上資金承諾完成任務,失敗或延遲就被扣款。 033

state machine

Shyam 用來描述企業流程的模型,agent 應從其中一個狀態轉換開始。 025

state space model(SSM)

依序處理序列、把資訊壓成持續更新的狀態的模型家族,被當成 Transformer 的替代方案。 070

steam engine of the mind

Reid 形容 AI 的說法:蒸汽機給人體力上的超能力,AI 給人心智上的。 045

stochastic genie

Shyam 形容 LLM 的說法:輸出帶隨機性,要靠 eval 與 telemetry 管住。 025

stranded power

Neil 說電網上為尖峰需求而建、卻閒置的發電能力 152

strategic finance

財務裡負責決定資源該投哪裡的職能。 076

streak

連續使用 Duolingo 的天數計數;Luis 說有 10 million 位活躍使用者的 streak 超過 365 天。 114

strike

DeepMind 內部對單一 RL 專案(如圍棋、StarCraft)的稱呼,每個都是量身打造的。 123

structure prediction

從序列預測分子的 3D 結構。 121

sub agent

被其他 agent 呼叫、負責某個具體功能的 agent。 041

sub-agent

由較大的模型把搜尋等工作分派出去的小型 agent,可降低延遲。 118

substrate independence

心智不綁定在生物腦這個載體上,是 Max Hodak 長期想做的方向 174

super alignment

OpenAI 的專案,目標是現在就建立科學,讓未來的超級智慧對人類友善。 039

super voting shares

超級投票股。Ginkgo 的做法:員工持有的 B 股有 10 倍投票權,離職即失效。 034

supervisor models

由一個模型監督另一個模型,用來控制語氣與敏感內容。 082

synthetic diamond

在實驗室長出的人造鑽石,Felix 說它是公認導熱最好的材料。 093

system prompt

Bolt 公開的提示詞,Eric 認為它不是公司的祕密武器。 092

tail queries

少見的長尾查詢,Sridhar 說傳統搜尋一直處理得不好。 008

take-or-pay

主持人用來形容這類合約的說法,Neil 說合約的對手是投資等級客戶 152

target identification

找出該調控哪個靶點、用在哪個適應症與病人族群,是藥物研發失敗率最高的一段。 006

task versus purpose

Jensen 用來談工作的框架:任務是做的事,目的是這份工作真正要達成的事 145

task-centric

Eric 批評現有訓練與基準都以單一任務為單位,不考慮與人長期互動。 135

tech-enabled buyout

過去的做法:PE 買下多家公司,包一層薄薄的軟體,拿科技估值去套利私募倍數。 072

technology risk / species risk

主持人的區分:技術被濫用的風險,與威脅人類存續的風險。 014

tender offer

這集提到 OpenAI 員工在意其價值的 86 billion tender offer。 042

test time RL

解不出來時造出許多變體題並從解開的學習,逐步逼近原題。 090

test time search

推論時做搜尋,例如生成程式碼時用編譯結果驗證;Jakob 說是很有效的工程手法。 029

text to SQL

早期嘗試過的方向之一,用自然語言產生資料庫查詢。 009

text-to-audio

由文字描述產生音效,目前約能做到幾秒到幾十秒。 024

theory building

自己發展新定義、新數學物件與理論,目前 AlphaProof 做不到。 090

thermal throttling

晶片溫度升到 80 到 90 度 C 時,系統降低負載來降溫,GPU 因此變慢。 093

three-way matching

把採購單、發票與實際交貨三者對起來,用來查詐欺。 076

tick rate

Valar 衡量自己的指標:從公司成立到第一次、第二次、第三次劈開原子之間隔多久。 173

tiger team

Notion 偏好的小型專案團隊,用來快速做出功能。 153

time series

主持人長期關注、認為還沒解決的問題,應用在異常偵測、基礎設施監測、資安與醫療等場景。 059

time-shifting

把用電時間挪移,用電池與軟體釋放電網上沒被用到的容量。 136

to-do agent

Imbue 內部的通用 coding agent,處理程式庫裡隨機的待辦事項,可呼叫 sub agent。 041

token budget

組織有限的 token 用量,這集談的是怎麼分配給專案與人。 171

token economics

用哪個模型做哪件事、每次要耗多少 token,Glenn 說要仔細計算 168

tokenize

把連續的音訊訊號轉成可以處理的 token,Suno 的創新多半花在這裡。 064

tool use

模型呼叫瀏覽、寫並執行程式等工具。 113

total spend

Brex 的第二個 horizon:把不在卡上的支出也納入平台。 075

trade study

Brett 提到的方法,先比較不同設計的取捨,避免做出走不通的東西。 071

training data attribution

找出模型某個行為是由哪些訓練資料教出來的研究方向。 015

transfer learning

同一個模型用一組資料訓練後可拿去做多種用途;Kevin 說它在語言上開始有效,是 Microsoft 全力投入的轉捩點。 018

tribal knowledge

沒存在系統裡、只活在人腦與聊天頻道的知識。 158

trusted execution environment

模型在其中執行、讓公司內部人員碰不到資料或模型的環境,Karan 稱之為中間方案。 017

trusted tester 計畫

邀請使用者提案、讓 Google 評估 AlphaEvolve 在不同應用上的表現。 120

tutor

家教式的教學;Luis 說很有效但很無聊,數學課程正在往這個方向重做。 114

two-way doors

Andrew 引用 Bezos 的說法,指做錯了可以退回的決定,所以可以快速下判斷 128

uncertainty

離現有知識夠遠、無法估計成功機率的情況,Noubar 把它與風險分開。 104

uncontaminated evals

沒被訓練資料污染的評測,其中一位認為一直很有價值,也常被忽略。 113

unknown bad

還沒被辨識的威脅;Nikesh 說多數資安事件都來自這一類。 134

urban conflagration

火進入社區後房屋一棟傳一棟的燃燒,和一般野火的性質不同。 098

valley of death

新創產品從試作到被採購之間的資金斷層,Emil 列出多種資金工具來補 146

vector search

MongoDB 的搜尋功能之一;CJ Desai 用零售商 CTO 不知道有這項功能當作客戶溝通的例子。 147

vehicle operating system

車上完整的軟體堆疊,從 bootloader、middleware 到應用程式。 119

verifiable

檢查答案比產生答案容易的問題,例如多數軟體工程任務、質因數分解、數學證明。 077

verifiable domains

可驗證的領域,像數學、程式這類有明確回饋的領域,Brendan 說模型會很快學會。 110

verifier

檢查模型產出合不合要求的條件,例如網頁右上角要有登入鈕。 124

vertical software

針對特定產業的軟體;Parker 預期核心系統公司會做出更多垂直版本。 122

verticalization

前沿實驗室把模型和產品整合起來;搜尋是第一個,coding 是下一個。 123

vibe cartooning

Sarah 開場與結尾的說法,指 Duolingo 用電腦加速做動畫與插圖。 114

vibranium advantage

Matt 的說法,指平台底層讓其他公司做不到某些事的核心優勢;Rippling 的是員工資料。 083

virtual biology initiative

Biohub 現在的共同主軸,用獨有的資料集為蛋白質、細胞到整個生物系統建模 165

virtual cell

下一個大挑戰:連結蛋白質、基因、轉錄體各層並對應到表現型,可回答新介入的結果 165

virtual doppelganger

依使用者自願授權的行為資料訓練的虛擬分身,構想中可代替本人與孩子玩一陣子。 149

vision language model

預訓練的視覺語言模型,用來帶入網路上的知識。 107

voice lab / agent lab

公司內部以單一問題組成的團隊,成員含研究員、工程師與營運。 143

voice to voice

語音直接進、語音直接出的模型,延遲低,但有些場景需要額外運算。 097

web container

StackBlitz 做的技術,能在瀏覽器分頁裡跑完整的開發環境。 092

webdiplomacy.net

提供約 50,000 局 Diplomacy 對話資料的網站。 001

wildland-urban interface

住宅與林地交界的地帶,簡稱 WUI,自 1980 年來住宅單位增加約 46%。 098

work cell

機器人在固定位置做一項工作或任務的工作站。 058

world models

Sarah 說的是做出夠豐富、又夠便宜的環境,讓模型在裡面學會解決問題。 116

wrapper

只在 frontier 模型外面包一層的產品,Eric 認為容易隨模型更新消失。 092

xAI

Eric 創業前任職的公司,主持人列出的經歷包括 Grok 2 的預訓練資料、Grok 3 的推理配方、Grok 4 的工具使用與 agentic 基礎設施。 135

yield、defect density、cycle time

Lip-Bu 說 foundry 要盯的三個指標。 166

zero copy

資料留在原處,不搬進 ServiceNow 也能參與流程;Bill 說這樣沒有搬資料的風險。 157

zonal architecture

以少數幾台電腦跑同一個作業系統來控制整輛車的架構,對照傳統的 domain 架構 150

zone of proximal development

讓孩子維持在答對約 80 到 85% 的難度區間 133

串流 avatar

搭配 GPT-4o 等模型、能即時互動的 avatar。 069

五層蛋糕

Jensen 用來說明 AI 的框架:能源、晶片、基礎設施、模型、應用 145

前一家公司

兩位先前創辦的雲端遷移公司,曾整合進 Azure 與 GCP 的主控台,後來賣給 AWS;兩人之後在 AWS 做應用程式遷移服務 175

前向整合(forward integration)

平台往上疊垂直應用,例子是 Microsoft 的 Office 與 Google 的垂直搜尋。 151

印象派

Cristobal 用來說明新工具如何帶出新的藝術運動。 002

合成資料

用模型產生訓練資料;Andrej 認為是必經之路,但要維持多樣性。 080

向量資料庫

Erik 在 Spotify 做過一個;這集討論它與 Postgres 加 pgvector 的取捨。 096

多租戶運算池

把許多客戶的工作放進同一個大型 GPU 與 CPU 池,吸收用量尖峰。 096

影片翻譯

保留使用者原本的聲音與表情,底層是 lip sync 模型加上語音與翻譯。 069

手套

Sunday 用來蒐集資料的裝置,目前版本稱為 V5 141

文字瀏覽器與 Python 工具

目前模型可用的兩項工具,可看嵌入圖片、開 PDF、做分析與畫圖。 112

生成式 AI 組

Meta 幾個月前成立的新組織,涵蓋語言、影像、影片、3D、音訊、音樂。 024

蒸餾

由大模型或大量算力監督小模型,Andrej 說效果出奇地好。 080

認知核心

Andrej 的說法:只負責思考、需要時再去查資料的小模型。 080

長上下文

把大量資料直接放進模型上下文;Tengyu 認為成本遠高於 RAG。 067

顏料管

Cristobal 的比喻:管裝顏料讓畫家能走出畫室,現在的 AI 工具也在這個階段。 002

麥克風陣列

Zipline 用來被動聽飛機聲音、判斷其型號與位置的偵測避讓系統。 004