名詞速查

859 個名詞與人物,同一個詞被好幾場講到就併在一起,各自連回原場。

859 個

harness

模型實際運作的外殼,預設是 system prompt 加工具的迴圈,也可以是 Codex、Claude Code 等 CLI agent 010

專門讀 AI 互動的 trace、反推出可改進 context 的機制,結果交給維護者核准或退回 014

在 agent 之上加了耐久、規劃、平行 sub-agent、skills 等能力的執行環境,Claude Code 與 Codex 是 Sam 舉的例子 028

公開 repo 裡的評估框架,可以接任何 agent 或 LLM 040

讓 skill 順利運行的執行環境,Yogendra 認為這是工程師接下來要出貨的東西 059

包在模型外面的那一層,負責組脈絡、管狀態、排順序、控權限、留收據;Vinoth 認為正式環境的可靠度由它決定 063

開發者用來驅動與管理 agent 的工作環境,這場談的是其中的瓶頸 067

包住整個評測流程、擋掉外在干擾的環境 069

agent 實際跑任務的外層程式與流程,企業常有自己的版本,後訓練要能適應它 074

和模型合在一起構成 agent 的那一層;環境則是任務加世界(Docker image、程式庫、工具、應用程式等)與評分規則 075

包在模型外面的 agent 工具與流程;座談的論點是讓模型針對 harness 調整 089

包住模型的工具環境,現在的版本有 sub-agent、計畫、shell 指令與驗證 092

包住模型、讓它能當 coding agent 用的外層程式;Arjun 主張不要綁死單一組合 096

reward hacking

模型鑽獎勵函數的漏洞,例如刪計時器、把矩陣歸零,而不是真的完成任務 022

Jai 用來形容 QA 與修圖互相拉扯後,agent 退回保守、沒有實質改變的結果 036

agent 鑽評分機制的漏洞;Alex Shaw 把它對應到機器學習的過擬合 037

模型繞過問題本身拿分,例如翻 .git 資料夾或上網找線索 069

目標只有寬鬆的代理指標時,模型找到爬高獎勵卻沒做到真正想要的事的路徑 075

agent 鑽漏洞拿分,例如跳出 sandbox,或看到不該看的隱藏測試 080

模型用偷懶又有創意的方式符合規則的字面,卻違背精神 084

compaction

替長時間任務壓縮長上下文的功能,Codex 需要時先做進 API 003

把龐大的上下文壓縮;Frank 的例子是 token 數超過 150,000 就跑一次 091

把過長的脈絡視窗換成帶必要資訊的新視窗,可手動或自動觸發 098

agent 長時間運作時對 context 的壓縮;Vivek 想查壓縮之後 agent 是否變笨 104

讓 context 盡量小、只留回答需要的資訊,其餘丟掉或存到別處 111

GLM-5.2

一位講者眼中本地的重要時刻,品質到了 Opus 等級 007

Osman 口中目前開源這邊最大咖的模型,744 billion 總參數、啟用 40 billion、支援 1 million context 031

團隊滿意的開放權重模型,便宜很多,越來越多工作交給它 096

開源權重模型,Ben Holmes 說它很適合補強筆記這類任務 106

LLM as a judge

用另一個 LLM 判斷答案是否安全,Erik 說展場裡至少有一百家新創在做 008

讓另一個模型對輸出判定通過或失敗,用在 regex 不夠用的複雜 skill 012

拿大模型當評審;Maor Bril 說它慢、又只跟 prompt 一樣好,需要人工標註校正 040

用 LLM 當評審打分數;Thais 指出它有 reward hacking 與幻覺的問題,不一定是好方法 073

METR

量測模型能完成人類要花多久的任務,Tariq 引用它 50% 與 80% 成功率的兩條曲線 025

這場引用的時間視野 benchmark 出自這裡,以人類完成任務所需的時間衡量模型 080

發表模型任務時長與成功率圖的機構,Denys 建議看 80% 以上的準確率那條線 092

做任務長度預測的機構,這場引用它的預測說明長任務會越來越多 108

Mythos

Theo 稱它為 orchestration 時代:會自己派出其他模型、拆分工作並事後驗證 002

Benoit 提到的新聞:Mythos 檢視一段程式碼,找出異常多的漏洞 020

Tariq 引用 METR 資料時提到的模型,預覽版約可做 16 到 18 小時的任務 025

這場測試中任意程式碼執行成功率最高的模型,紀錄因 NDA 與風險未公開 081

Palantir

拿 FDE 當 go-to-market 做法的公司,Kevin 說它的 ACV 在公開 SaaS 公司裡排第一 047

開場主持人說 forward deployed engineering 是它多年前開創的,把工程師直接放進客戶組織;Eno 稱舊做法為 Palantir era playbook 050

Vinoo 職涯的起點,這場的故事大多發生在那裡 051

Natalie 2016 到 2021 年待的公司,這場拿那裡的 FDE 演變當歷史主線 054

Terminal-Bench

這場示範用的 benchmark,跑的是 Terminal-Bench 2.1 037

Rustem 舉的公開 benchmark 之一,專注在 agent 於終端機中的工作 041

agent 基準測試,Bespoke 是核心貢獻者之一 071

Vivek 舉的難 benchmark,輸出只有通過與否的分數 104

harness engineering

把 agent 看成模型加外圍的 context、工具與檔案系統,harness 讓智慧變成可委派的東西 011

Natalie 說這兩年冒出來、幾乎算是 agent engineering 子集的新領域 054

針對每個 code base 調整 agent 運作環境的工作,Aditya 認為需要團隊與領導層支持 099

調整 prompt、tool、orchestration 這層,不動模型;回饋快,到頂之後才考慮微調 104

progressive disclosure

skill 分層載入:先放 description,需要時才讀本文與參考檔 012

system prompt 只放 skill 的名稱、描述與路徑,agent 選中了才去讀內文 059

讓 agent 在需要的時候才讀到對應的資訊,而不是一次全塞進去 099

需要的時候才載入 skill 或檔案內容,用來節省 context 111

rollout

同一個任務的一次嘗試,例如對「3 加 3」產生的一個答案 009

把沙盒交給 agent 跑完、再由 verifier 打分的一整輪流程 037

一個模型針對一個任務跑完一次的完整嘗試 043

模型對一個任務從頭做到尾的一次執行 074

software factory

harness 與 loop 合起來的形態,agent 在內圈跑,產出證據,人做生產決定 011

辯題裡的目標:由 loops 自主產出、驗證並交付軟體的流程 023

從外部訊號到部署的整條開發流程;Eno 的目標是讓這條流程不被人打斷 050

Keegan 主張的方向:讓 agent 透過 CLI 或 MCP server 接進來,自己蓋這類應用 113

world model

能長時間維持一致、可以細緻控制鏡頭與視角的模型 113

即時生成畫面的另一類工具,Arturo 認為會是不同的媒介 115

Reactor 的定義是即時互動影片,而不是從 Gaussian splatting 出發的那一派 116

LemonSlice 用來生成 avatar 的基礎,Sidney 也說它基本上就是理解物理世界的 video model 118

Claude Tag

近期推出的產品,能主動、多人一起用,Claude 可以自己醒來做事 001

放進團隊協作工具的 Claude,預設多人共用、能主動處理事情,並有以頻道為單位的記憶 015

Anthropic 的組織層級多人 harness,推出時很多人把它當成 Slack bot 033

Codex

OpenAI 的 agent 產品,OpenAI 也用 Codex 開發 Codex 003

Sunny 舉的例子:客戶一催,就想叫它把需求直接補出來 049

團隊目前的預設;過去一個月的 session 數是 Claude Code 的四倍,總花費反而比較低,多數工作是透過它合併的 096

DeepSWE

宣稱修掉 SWE-Bench Pro 作弊與誤判問題的基準,被 Frontier Code 質疑 false positive 過高 022

Datacurve 做的長程軟體工程基準,113 個原創任務,排行榜也列出 token 效率、成本與 context window 等數據 043

拿自家 benchmark 對照 SWE-Bench Pro、算出驗證誤判比例的一方 069

Foundry

Palantir 的軟體平台,讓組織集中資料、建立 ontology,再在上面建應用 047

Palantir 的資料平台,背後是上萬小時的現場經驗 051

Palantir 現在的主平台,重點是把資料變成決策 054

GEPA

Isaac 說是 Berkeley 出的 prompt optimizer,可依指標優化程式 035

Alex Shaw 舉的文字式優化演算法,在對照表裡對應機器學習的 optimizer 037

Mahesh 提到的 prompt 最佳化方法,讓 LLM 靠反思更新系統提示與 harness 071

GRPO

目前主要的強化學習方法,比較同一題的多條 rollout,提高成功的、壓低失敗的 074

無監督 RL 環境那一類做法可以用的 RL loss 109

目前主流的後訓練方法:一組平行 rollout 加結尾獎勵,依相對平均的優勢更新模型 110

KV cache

服務記憶時要顧到的快取,對模型做太花俏的改動會讓它失效 061

推論時存放已算過內容的快取,長 context 與 agent 負載下是主要的優化對象 068

Asma 預期下一步會被壓縮的對象,目前多數人用 8-bit 088

OpenClaw

提到的工具,有 gateway 與 nodes;Peter 覺得它跟 Codex 都還不是最終形態 003

Sam 說 Mastra 研究其功能的 claw 專案之一 028

Vinoth 拿來當公開案例的 agent 專案,它的 issue、程式碼與文件讓 harness 看得特別清楚 063

RSI

recursive self-improvement,模型自己租算力、訓練並部署下一版 007

recursive self-improvement,模型持續改進自己,同場也稱為 recursive model improvement 017

recursive self-improvement;AI 看得出自己的缺點,並能更動從 pre-training、RL training 到 harness 的整套系統 065

SWE-Bench Pro

用語言模型當 verifier、並讓模型拿得到完整 Git history 的程式基準,被 Daniel 批評 022

從公開 PR 撈題的對照基準,這場拿來比較污染、驗證器與 prompt 長度 043

Ali 拿來分析的 benchmark,指令平均 481 個 words,也是 DeepSWE 對照的對象 069

auto research

讓 agent 自動讀資料、跑實驗、提交成果的做法;Zhengyao Jiang 說過去人們也稱它為 machine learning engineering agent 018

讓 AI 去改進某個流程或另一個 AI;Richard Socher 認為這只是 RSI 的弱形式 065

有分數可以推高時,讓 agent 讀結果與 trace、提出實驗並修正的迴路 104

continual learning

要在不遺忘舊資訊的前提下,從新資訊持續更新,並維持長時間穩定的學習 101

把經驗適應性地壓縮成結構供未來行為使用,有經驗、壓縮、結構、使用四個面向 105

這場指 profile 更新再影響對話的迴圈;Shlok 說它目前發生在權重之外 107

dreaming

離線整理記憶的流程,回頭看記憶庫與過往 session 修正錯誤 033

讓 agent 在背景整理客戶的使用 session,壓縮成資料點用來升級系統 067

定期回頭整理新對話、更新 profile 的過程,現在不少人這樣稱呼 107

on-policy distillation

照 RL 的方式做 rollout,但分數來自老師模型的 log probs 而不是 reward 010

讓模型把看過的文字當成就在 context 裡的知識轉移做法;on-policy 指訓練過程中模型持續更新 109

把多個專家模型的能力合併進單一學生模型的做法,團隊正在做 117

ontology

把資料變成有名字的東西,例如用一張「倉庫」表當唯一的資料來源,取代一堆零散的表 047

由名詞(實體)與動詞(操作)組成的共同語言,Vinoo 說是 Palantir 誤打誤撞摸出來的 051

Palantir 的招牌用語,Natalie 說可以當成資料的分類法 054

oracle

CuaBench 任務裡提供標準解法軌跡的函式,內容是 GUI 動作 016

確定性的評分機制,例如判斷程式有沒有崩潰,取代 LLM 當裁判 081

每一輪直接告訴 harness 該取回哪段正確記憶的參考條件,但不強迫模型採用 108

rubric

從多個模型事後判斷的共識裡抽出來的問題,用來便宜地稽核 rollout,也指向該針對的失敗型態 075

從分析路徑樹裡找出不隨路徑改變的節點所建的評分準則,用來補長流程任務結尾獎勵的不足 078

judge 評分用的準則,每個 criteria 底下再分多個 sub-criteria 080

ACDC(agent-centric development cycle)

Sonar 的框架:圍繞程式碼生成,做 guide、verify、solve 025

Sonar 提出的 agent 開發循環,分 Guide、Verify、Solve 三階段 095

AI slop

品質差、有幻覺的 AI 生成影片,例如多出肢體、物理不合理 040

模型輸出千篇一律、品質平庸的內容;Thais 把原因歸為收斂到平均值與重複 073

Arcee

客戶,去年年中開始合作之前沒有自己訓練過模型 070

2023 年初成立,原本做領域專用的客製模型,後來轉成自己預訓練的開放模型實驗室 089

Ask User Question

Claude Code 中讓 Claude 以選擇題對話框向使用者提問的工具 001

Thariq 引進的工具,讓 Claude 反問使用者;很難用 eval 衡量 015

Carter Abdallah

NVIDIA 的 developer tech engineer,關心怎麼讓更多開發者用得起強模型 087

這場座談的主持人,任職 NVIDIA 089

Claude Code

Thariq 任職的團隊所做的產品,Claude 在其中用 bash 等工具自己找脈絡 001

Anthropic 的 coding agent,這場談它的 prompt、工具、code review 與 auto mode 015

Codex harness

Codex 背後的 agent loop,開源;預設用 OpenAI 的模型但沒寫死,也用在模型的 post-training 003

Codex 的 agent 外殼,負責組脈絡、呼叫工具、管沙盒;開源、用 Rust 寫 098

Composer 2.5

Cursor 在 5 月推出的自家模型,Lee Robinson 說它現在是 Cursor 裡最多人用的 017

Varun 說它投進 RL 的算力遠多於監督式學習,是這個方向的極端例子 077

DeepSeek V4 Flash

兩個實驗模型之一(Stefania Druga 簡稱 DS4 Flash),能在 M3 Ultra 上跑,但只能序列查詢 108

Samridhi 延伸實驗用的便宜模型,也是最後選定的模型 111

FDE(forward deployed engineer)

派到客戶端、在平台上替客戶做出解法的工程師;Kevin 的定義是面對客戶的軟體工程師 047

進駐客戶現場的工程師,一邊解客戶的問題、一邊把回饋帶回產品;Jia 說這個角色的定義很模糊 048

Fable

Anthropic 的新模型,當天稍晚開始推出;Thariq 把它跟 Sonnet 3.5 new、Opus 4、Opus 4.5 並列為會讓人記得的模型 001

出來那幾天團隊把預設換過去,之後用不到了又換回 Codex 096

Harbor

Alex Shaw 介紹的 agent 評估與 RL 環境框架,同時是環境格式與 eval 集的 registry 037

標準 post-training 流程裡大家都在跑的東西,Joseph 拿來說明這類流程有多同質 072

InstructGPT

Ross 引的 2022 年結果:1 billion 參數加 RLHF 的模型勝過 175 billion 的模型 076

RLHF 的早期成果,Diogo 是共同作者 079

Kepler

Vinoo 現在用同一套方法建立 FDE 團隊的公司 051

Vinoo Ganesh 共同創辦的公司,做金融領域可驗證的 AI;Vinoo 說 Anthropic 為它寫過案例研究 055

Krea 2

Krea 從零預訓練的圖像模型,Gabriel 簡稱 K2,開源了 pre-trained 與 turbo 兩個 checkpoint 114

Krea 的圖像基礎模型;medium 版是從閉源模型開源出來的 117

Lab

Prime Intellect 的研究流程平台,包含 environments hub、託管訓練、評估、推論與 sandboxes 010

Prime Intellect 以環境為核心的訓練平台,涵蓋託管訓練、評估與推論 075

Lean

定理證明語言;Erik 說實驗室研究人員拿它寫模型的介面,也用它說明 IO 與 real world 型別 008

Benoit 舉為新語言的靈感來源,跟 program proof 一起提到,用意是把正確性的負擔放到模型身上 020

MCP

連接企業資料的協定,Manoj 說它很好用但內建的安全很少 026

讓 agent 連接第三方伺服器與工具的方式,日誌系統、認證閘道都能接 067

NVFP4

跑 GLM-5.2 用的格式;也有模型證明能用它訓練,讓微調與專用小模型更便宜 031

NVIDIA 的 4-bit 浮點格式,每 16 個元素共用一個 FP8 縮放值 088

Nader Khalil

NVIDIA,這場座談的主持 007

NVIDIA,這場座談的主持 087

Nemotron

NVIDIA 釋出的模型,從資料集、權重到 recipe 全部公開,方便客製 087

NVIDIA 的開放模型系列,權重、資料、訓練方法與框架都盡量公開 089

Nemotron 3 Ultra

NVIDIA 的開源模型,Alex 說是 550 billion parameter,在四台 Spark 上跑到每秒 30 tokens 007

Varun 引用的另一份資料配方,把 SFT 型的問答資料放進 pre-training 077

Nubank

拉丁美洲的銀行,Cognition 的公開案例之一,ETL 遷移原本由 50 位工程師負責 048

Aman 任職的公司,這場的實測環境是它的客服 AI agent 058

Prime Intellect

Will Brown 任職的公司,提供開源的後訓練工具與訓練平台,也自己訓練 Intellect 模型系列 010

做 RL 與後訓練基礎設施的公司,目標是讓前沿智慧開放 089

PrimeRL

Prime Intellect 開源的完整訓練框架,從頭就是非同步 RL 010

Prime Intellect 的訓練框架,支撐他們的大規模 RL 與其他演算法 075

RLHF

從人類回饋學習的強化學習流程,Ross 認為是讓 LLM 變成產品的關鍵 076

收集人類偏好、再為偏好最佳化的 post-training 方法,Diogo 說現在幾乎所有 LLM 都用它 079

RLVR

用可驗證獎勵做的 reinforcement learning,Will Brown 說它是這一年多來擴大 RL 的主要方式 075

另一條 post-training 路線,Diogo 說它最佳化的是校準過的決策,也不是下一步 079

Responses API

開發者使用模型的 API,Codex app 用的也是這一套 003

harness 與推論之間的 API,內建 Web Search、Image Gen 等 agent 需要的能力 098

SWE-bench

Kenny 說 Spatial Bench 每一題的結構看起來很像它,早期想法多半借自它 078

實驗一用的 benchmark;pass rate 要同時滿足「有呼叫提交工具」與「通過全部測試」 102

Sonar

Addy Osmani 引用了它的兩份研究:一份 2026 年調查談 AI 程式碼的占比與信任度,一份比較整潔與雜亂 repo 的效率 011

Tariq Shaukat 任執行長的公司,做程式碼驗證 025

Sonar Vortex

Sonar 大約在前一天發表的產品,屬於 guide 這一塊 025

讓 agent 在內圈取得上下文與護欄,並即時呼叫驗證的新功能,本週 GA 095

Temporal

Davis 任職的公司,做分散式系統;它的 signal 概念就是 V2 更新端點的樣子 083

Denys 做重構研究時用的工具,拿它的 activities 與 workflow 重現舊程式碼的行為 092

Trinity

Arcee AI 自家的模型,pre-training 用了網頁規模的合成資料,主要靠改寫 077

Arcee 的開放模型 089

Unsloth

Daniel 所屬的公司,發布量化後的開源模型,也替模型與訓練堆疊修 bug 022

Daniel 所屬團隊,做模型量化與相關工具 088

auto review

Codex 的權限模式之一,Jason Liu 說很好用,搭配 AGENTS.md 就覺得夠安全 038

取代 full access 的自動核准機制,由只讀的子 agent 審查 escalation 098

background agent

沒有人在等回應、可能跑數分鐘到數小時的非同步 agent 032

沒有緊急事件時,依排程、事件或訊息去做營運雜務的 agent,這場的主題 094

bench maxing

針對 benchmark 過度擬合;Dan 與主持人都認為,只要 benchmark 本身有用,這反而是好事 068

實驗室對 benchmark 訓練過頭,偏離人們真正在乎的東西 084

cognitive debt

類比技術債,指對自己專案的理解退化到無法參與的狀態;Margaret Storey 推廣,Simon Willison 也寫過 005

認知債:repo 裡的程式量,與團隊真正懂的量之間的落差 011

company brain

各團隊把自己的 domain skill 集中放進的同一處,通用 agent 從這裡取用 context 014

公司的知識圖書館加上館員;館員挑出該攤在 agent 桌上的那三本書 021

context layer

把人腦裡的知識、專業與規範,轉成 AI 系統能用的 context 的那一層:持續從業務系統挖掘、集中管理、再以多種方式取用 014

三層裡的知識,包含模型、prompt、tool、memory,變動最大的一層 032

context rot

長任務裡 context 越積越亂,模型開始自相矛盾、重做工作或偏離問題 108

context 塞得越多,模型回答品質越差的現象,是這場想解決的核心問題 111

dynamic quantization

只把不重要的層壓到 1-bit,重要的層留 8-bit 或 16-bit,用來在縮小模型的同時保住準確率 022

Unsloth 的做法:多數層壓到 1 或 2 bit,重要的層留在 16 bit 088

heartbeat

claw 每隔一段固定時間會自己醒來做事的機制 028

一種 thread automation,定時把訊息排回同一條 thread,讓它醒來繼續做事 038

host

建立 agent 的地方;可以對 host 設政策,也可以整個撤銷 029

接收並渲染 app 介面的聊天客戶端,掌握要不要呼叫工具的決定權 082

microVM

以輕量 VMM 啟動的虛擬機,靠硬體虛擬化隔離,體積小、開機快 009

ACE 每個 session 在雲端跑的虛擬機器,一個 session 就是 repo 的一條 branch 093

mid-training

介於 pre-training 與 post-training 之間的持續訓練,Thomson Reuters 案例用了 100 billion tokens 070

介於 pre-training 與 post-training 之間,讓模型提早接觸 RL 會遇到的資料分佈與長上下文 077

orchestrator

驅動 rollout 的元件,持有任務規格,負責送題給模型、呼叫工具、把結果交給 grader 074

編排 AI pipeline 的框架,當年評估了五個開源專案 092

production traces

線上真實使用者與 agent 互動留下的紀錄,免費,但實驗得在真人身上做 058

production agent 實際跑出來的軌跡,是這場所有蒸餾的原料 102

rephrasing

DatologyAI 的合成資料做法:把高品質文件改寫成多種格式,Ari Morcos 稱之為進階版的資料擴增 070

合成資料的一種做法,把種子資料換不同說法重寫,讓模型從多種角度看到同一份資訊 077

sandbox

讓 harness 替模型安全執行工具呼叫與程式碼的環境,可在筆電或雲端 009

後端臨時起的遠端機器,agent 帶著工具與 skills 在裡面剪片 112

session

只能附加的事件日誌,harness 與沙盒掛掉也不會遺失 033

agent 的一段軌跡或一次動作,Cognition 用它推算產出的工程時數 048

signature

署名:作品上的名字,指的是人、團隊或機構,站在已上線成果之後的那一方 011

DSPy 裡宣告輸入與輸出介面的寫法,也放自然語言的 instructions 035

skill

由團隊裡最強的人撰寫的某一領域做法,例如 SEO、競品情報,集中放進共用 repo 014

教 agent 把特定任務做好的標準做法,核心是一份 SKILL.md,可以再帶檔案參照與可執行腳本 059

skills

讓 agent 載入的技能檔,Manoj 提到的研究發現超過三分之一帶惡意程式或漏洞 026

組織的獨門配方,agent 靠它走正確的流程解決 production bug 067

subagent

平行處理獨立任務的 agent,一棵 worktree 裡的 agent 也能再派出多個 067

只做一件事、只拿到所需資訊的子 agent;例子是只收主張與證據的 critic 091

verifier

環境裡判斷 agent 有沒有完成任務的部分,可以是程式測試、rubric 或另一個 agent 037

分析環境最終狀態、trace 與產出檔案並算出指標的評分程式 041

/goal

讓 harness 反覆注入 continuation prompt、直到目標達成的迴圈功能 098

A-roll / B-roll

A-roll 是影片主體,例如 avatar 旁白;B-roll 是圖片等輔助素材 030

A2UI

生成式 UI 標準,由 app 回傳建構介面的指示、交給聊天端去建;已有與 MCP Apps 互通的指南 082

ACE

即時多人協作的開發原型,團隊與 AI 在同一個聊天介面裡規劃與動手 093

ACV

average contract value,單一客戶在一家廠商身上花多少錢 047

AGENTS.md

不替 Codex 另創格式,而是挑一個其他 agent 也能用的指示檔名稱 003

AI Core

Android 高階手機上,內建的小模型隨它一起出貨 042

AI Edge Gallery

完全開源的 iOS 與 Android App,用來在手機上試跑小模型 042

AI business advisor

以上述模型為基礎的產品,目前在研究預覽,主動提出機會並說明依據 062

AI psychosis

Theo 開場自嘲的狀態,說大概是從 Opus 4.5 開始的 002

AI skill

替模型或 agent 打包指示與脈絡的東西,任何人都能建立並分享給別人 060

AI software factory

Cursor FDE 使命裡的說法,指與客戶共同設計並打造整個軟體生命週期的做法 013

AI tutor

依課程內容回答學員問題的 agent,是整場實驗的基準,程式與實驗都公開在 Hugging Face space 111

AIDEN

Weco 的多 agent、能自我改進的 auto research 原型,會讀論文與別人的 PR、自己跑實驗,成果過品質門檻才送 PR 018

AIP bootcamp

Palantir 的 FDE 或 deployment strategist 進場教客戶用軟體的訓練營,Natalie 放了一張 Alex Karp 親自帶營的照片 054

Adaption

Sara Hooker 所屬的公司,這場介紹的是它推出的 Autoscientist 100

Agent Auth Protocol

這場介紹的開源協定,替 agent 處理發現、授權與身分三件事 029

Agent SDK

以程式方式呼叫 Claude Code 的介面,等於 Anthropic 提供一套 harness 033

Agent builder

熟悉平台背後各種模型、盡量在介面裡替企業客戶調好 agent 的職務,介面做不到的就提出來 049

Agent software engineer

前線工程師,接企業客戶的產品需求,並確保需求回到產品裡 049

Agentic AI Foundation

MCP 現在歸屬的組織 083

Agentic Workflows

用 markdown 描述任務、編譯成 GitHub Actions workflow 的背景自動化,目前是 public preview 093

Alan Kay

個人電腦先驅,五十年前寫了《A Personal Computer for Children of All Ages》 005

Alex Atallah

OpenRouter,談 auto router、Pareto Code 與 Fusion 087

Alex Cheema

EXO Labs 共同創辦人兼 CEO,這場講 Spark 優化經過的人 007

AlphaLab

Morgan Stanley 團隊做的 auto research agent harness,用來自動化量化研究,1.0 版已開源 056

AlphaZero

只靠自我對弈就成為超人類圍棋與西洋棋選手的系統,用來說明程式模型也能走同一條路 020

Amazon AGI Lab

Antje Barth 任職的實驗室,perception agent harness 由這裡開源 034

Amplify

Barr 任職的投資公司,投資由 AI 工程師打造、也為 AI 工程師打造的公司 027

Andrej Karpathy

他的 gist 是 LLM knowledge base 這個想法成形的地方,Ben Holmes 生成 wiki 就是照那份做法 106

Andy Matuschak

研究者,說過 books don't work;與 Michael Nielsen 試過在文章裡內嵌間隔重複的測驗 005

Angie Jones

Agentic AI Foundation 負責 developer experience,5 月的部落格寫了 V2 的方向 083

Antikythera mechanism

Sean Cai 的用語,指把雜亂的商業脈絡轉成 evals 的客製化系統 044

Apache Lucene

Atlas Search 底層的全文檢索引擎,取代原本在 token 陣列上跑的 regex 053

Apex

讓 agent 讀檔案再回答問題的 RAG benchmark,資料看起來是合成的 084

App Server

UI 與 harness 之間的協定,Codex app 與第三方專案都靠它接上 harness 098

AppShots

擷取目前 app 的整個 accessibility tree,帶有頻道 ID、使用者 ID 等資訊,Jason Liu 說是自己最愛的功能 038

Apple FastVLM

0.5 billion 參數的視覺語言模型,場上示範在 Android 裝置上跑得很快 042

Applied Compute

Samuel 任職的公司,自己在那裡帶 platform research 團隊 102

Arek Borucki

Hugging Face 的 machine learning platform 與資料庫工程師,這場的講者 053

Argyle paper

這個領域的開創性論文,用文字補全模型以「我是⋯⋯」的自述提示模擬選民 057

Arize

Rustem 舉的工具,用來記錄實驗與收集 production 的失敗 041

Asset Tag System(ATS)

資產只用標籤描述用途,系統再查詢帶特定標籤的資產去處理 115

Astro

Idan 個人網站使用的 web framework,這場用來示範升級自動化 093

Atomic provenance

第一項原則:記下數字從哪裡來,模型只寫參照,由系統寫入數字,通不過確定性檢查的就剔除 055

Auditoria AI

Ramana Siddanth Emani 擔任 data scientist 的公司,替金融業打造 production agent 067

Aura

Liad Yosef 共同創立的研究實驗室,研究 agentic web 082

Automation Bench

測 agent 在企業環境裡呼叫工具的 benchmark,驗證器用寫死的字串比對 084

Autoscientist

Adaption 幾週前發表的工具,用來自動化模型本身的訓練,從資料到對齊整個流程一起最佳化 100

BF16 / FP32

兩種數值精度;M.1 的 unembedding 累加原本用 BF16,改成 FP32 後恢復收斂 045

Barr Yaron

這場講者,Amplify 的投資合夥人,每年主持這份 AI 工程調查 027

Baseten、Fireworks

Saoud 舉例的推論託管商,靠專用硬體、快取、批次處理等手段互相壓低成本 090

Bespoke Labs

Mahesh 共同創辦的應用型資料研究實驗室,提供後訓練用的資料與 RL 環境 071

Better Auth

Paola Estefania 所屬的公司,協定第一版與 agent auth plugin 由他們發布 029

Beyond Neural Scaling Laws

Ari Morcos 在 Meta 寫的論文,拿過 NeurIPS 最佳論文,指出選對資料可以改變 scaling law 的指數 070

Beyond Web

DatologyAI 的合成資料平台,目標是能套用在任何人的專有文件上 070

Bloomberg 與 FactSet

Vinoo 舉的資料終端例子,說明分析師只讀資料、再自己產出成果,工具本身是唯讀的 055

Boris Cherny

Anthropic 的 Claude Code 創建者,已經不手寫 code,最近也在談 loops 004

Bounded context

交易、帳戶、裝置、付款各自擁有資料、彼此不共享的領域邊界 066

Brev

一位講者提到的自家產品,讓人輕鬆租到 GPU,現在也開始服務 agent 007

Bugcrowd

Brumley 擔任 chief AI and science officer 的公司,在這裡負責資料合作 081

Böhm and Jacopini

Frank 引用的 1966 年證明:循序、條件、迴圈三件事就足以圖靈完備 091

CATE

conditional average treatment effect,Udi 用來衡量某個動作對結果實際影響的指標,目的是扣掉「本來就比較成功的公司才有辦法漲價」這類偏差 062

CDC / change feed

事件儲存有變更時通知下游,把變更推到各個 read model 的機制 066

CLAUDE.md

Claude Code 的 markdown 設定檔,可分專案頂層、專案資料夾與子目錄三層 091

CLIP score

既有的單格指標,判斷單一畫面符不符合生成它的 prompt 040

CUDA kernels

訓練與測試時大量使用的 GPU 程式,這場拿 NVIDIA benchmark 網站的排行榜來比 065

Cast.ai

負責 Kubernetes 節點層級的自動擴展,pod 排不進去時補節點 053

Charlie

Jason Liu 在場的同事;有個 skill 是照這位同事過去一年給的 PR review 意見做的,現場的隱私問題也轉給 Charlie 回答 038

ChatGPT memory v1

2024 年 2 月的版本,把使用者要求記住的事存成事實清單,可以在設定裡檢視與刪除 107

China Resources Holdings

Shawn Chan 所屬的公司 064

Chris Alexiuk

NVIDIA 的產品研究工程師,負責支援 Nemotron 系列 089

Citadel

Vinoo 離開 Palantir 後建立同一套計畫的避險基金,目標是幫投資組合經理做出對的資料與軟體產品 051

Claude Certified Architect Exam

Anthropic 的認證考試,3 月推出,情境式、計時、有監考;個人付 $99 可考,每六個月一次 091

Claude Fable

這場反覆談到的新模型,很多功能能一次做完,Thariq 也拿它剪影片 015

Claude memory v1

2025 年 8 月的版本,沒有 profile,模型靠兩個工具依關鍵字或時間段搜尋過去對話 107

Cline

Saoud 創辦的開源 coding agent,可自帶 API key,支援 CLI、VS Code、JetBrains 090

CloudBox

Emulated 替「把雲放進盒子」取的另一個名字,指環境真的去配置基礎設施 072

Cloudflare Workers

Kenton 從 2017 年開始做的 serverless 應用託管平台,現在有數百萬開發者、每天處理數兆個請求 086

Codex app

Jason Liu 整場使用的桌面 app,投影片、plugins、threads 與 automations 都在裡面 038

Cognition

做 Devin 的公司,Jia Wu 在這裡擔任 Deployed Engineering Lead 048

Colossus

SpaceX 在 Memphis 蓋的超級電腦,Lee Robinson 說 122 天建好 10 萬張 GPU,再用 92 天加了 10 萬張 017

Compaction

生成到 context 末端就摘要、再接著生成的做法,RL 可同時作用在摘要和任務上 076

Conductor

啟發這個實驗的那位前同事現在任職的公司;Eve 期待用 Conductor cloud 在移動中派出多個 agent 019

Continual Learning Bench

Parth 團隊的持續學習 benchmark,這場介紹的是 1.0 版,涵蓋六個領域 101

Continued Learning Bench

Lance Martin 跑的開源 benchmark,其中一項任務是對 SQL 資料庫連續問答並在每步之間寫記憶 033

Cosmos DB

這個系統用來當事件儲存的 NoSQL 資料庫 066

Credit Karma

Intuit 的應用程式,會說明信用卡為何被推薦,是這場的企業案例 071

Critic(value model)

用來降低梯度變異數的價值模型,代價是要和 policy model 一起訓練 076

CuaBench

Cua 的 computer use 評測資料集,任務由 setup、oracle、evaluator 組成 016

CuaBench KiCad

與 Snorkel AI 合作的電子工程任務集,evaluator 會模擬電路 016

CuaDriver

Cua 開源的驅動層,讓任何 AI agent 在 macOS、Windows、Linux 上背景操作電腦 016

CuaFleet

Robert 負責的訓練基礎設施,替 RL 訓練預備沙盒 016

Curator

Bespoke 去年推出的合成資料整理工具,可從資料集或日誌出發取得回應再微調 071

Cursor

Pauline 任職的 AI coding 平台,產品線涵蓋從自主編碼到非同步與同步 agents,一路到 AI software factory 013

Cursor SDK

團隊替客戶在上面建應用的開發套件 013

DAW

數位音訊工作站,Todd Fisher 形容是音樂人的 IDE,這場用的是 Logic Pro 119

DGX Spark

NVIDIA 的桌上型機器,跟資料中心一樣是 Grace Blackwell 架構,這場一再拿來當本地的例子 007

DGX Station

可以放在桌下的機器,現在就跑得動 GLM-5.2 031

DSPy

開源的 Python 框架,把函式的性質帶給 AI 程式,提供定義與優化任務的工具 035

DSPy.Flex

DSPy 4 預告的新模組,替任一函式學出客製的 harness 035

Dafny

能自動證明簽名條件的語言,Erik 用它示範「proper 問題進、safe 答案出」 008

Datacurve

James Shi 任職的公司,替程式碼等高天花板領域做訓練資料 043

DatologyAI

Ari Morcos 共同創辦的公司,自比資料的煉油廠:不採購新 token,而是把現有資料變好 070

Decagon

提供 24 小時、多語言、全通路 AI 客服 agent 的公司,Sunny 是負責 forward deployed engineering 的 CTO 049

DeepGEMM

開源的 FP8 kernels,Laguna S 的 FP8 訓練用到它,競態就出在這裡 045

Delta summarization

Louis-François 說 Claude Code 用的做法:持續更新一份摘要,適合 sub-agent 回報給主 agent 111

Dependabot

GitHub 的相依套件更新通知工具,Idan 想做的是能連程式碼一起改的升級版 093

Derivation chains

第三項原則:記錄一個數字經過哪些步驟算出,讓過程可以重播與倒回 055

DesignMD / FrameMD

該 skill 用來記錄設計、主題與品牌的格式,Russo 說他們用的是 FrameMD 030

Devin

Cognition 的軟體工程 agent,有 CLI、IDE 與 Devin cloud agent 三種介面,最為人知的是 cloud agent 048

DiT

diffusion transformer,Gabriel 團隊的研究員把許多 LLM 研究搬到這種架構上 114

Diagnoser

統整各種回饋的上層診斷 agent,判斷該調整哪些 agent 的設定並轉交 036

Discovery / Verification

前者找出候選漏洞、追求 recall;後者獨立確認是否真的可利用、追求 precision 024

Droid

Factory 的 harness,不綁單一模型,客戶握有流經它的資料,可以隔離網路運行 050

Durable Object

gadget 伺服器端程式碼的執行形式,同樣被限制不能連外 086

Dynamo

NVIDIA 講者推薦自架者試用的工具,裡面有很多 prefix cache 優化 087

EQ 模型

長期押注的端到端模型,直接吃使用者影音並輸出 avatar 影音,不負責深度思考與工具呼叫 118

Emulated

Joseph 與 Sid 共同創辦的資料實驗室,目標是提高 AI agent 的可靠度與自主性 072

Engram

Jack Morris 所在的新創,上週剛公開,研究怎麼在 context 上縮放算力 109

EnrichNote

Ben Holmes 寫的 agent skill,替筆記加標籤、來源與反向連結,並標上處理時間 106

Entity Component System

遊戲開發裡資料導向設計的做法,物件由元件組成,ATS 的靈感來源 115

Eureka machine

Richard Socher 想做的機器,把科學發現自動化,最終替人類做出未來的各種發明 065

Eve Thoughts

Eve Bouffard 在 YC Slack 開的頻道,用來倒出自己的意識流,只開放給少數人 019

Event sourcing

使用者指令當成業務事實附加進事件儲存,不直接改狀態,這場的資料基礎 066

Evo

Snyk 去年底提出的系統概念,之後陸續加上各種 agent,目標是讓 AI 安全工程師有自己的工具 026

ExplainDiff

Geoffrey 寫的 skill,讓 agent 為一次程式改動產出附背景、直覺、互動圖與測驗的解說文件 005

Ezra

同台做兩段示範的 Snyk 同事 026

FDE

forward deployed engineering;Ramp 的 FDE 隸屬工程組織,讓核心產品與新的 agentic 功能在最大型的企業客戶那邊好用 052

FDE Requests

Ramp 內部的 Slack 頻道,客戶經理、solutions 與業務在客戶或潛在客戶卡關時貼需求 052

FDE(Forward Deployed Engineer)

嵌入客戶組織、與客戶並肩開發的工程師;Pauline 把它跟專業服務、人力外包、solution architect 的工作區分開來 013

FDE(forward-deployed engineer)

進駐客戶公司、看懂現況並重新設計流程的工程師 046

Fable 5

當天回歸的模型,Shape of Minds 的設計語言取材自它的宣傳活動 019

Fable、Mythos

Anthropic 的模型,Alex 拿來問這套框架在更強的模型下是否還成立 004

FactSet

Yogendra 任職的金融資料與研究公司 059

Factory

Eno 共同創辦、擔任 CTO 的公司,替企業團隊做自主軟體工程 agent 050

Fan-out pattern

同一個事件同時分給風險分析與行為分析兩個 agent 066

FastMCP

Davis 的 demo 兩端都用的 MCP 框架,也是 Davis 打算放進 client 端實作的地方 083

Firecracker / Cloud Hypervisor

兩個 Rust 系的 VMM,前者用在 Amazon 的 Lambda 等無伺服器負載 009

Forward Deployed Engineering(FDE)

Vinoo 眼中的產品策略:工程師到客戶現場,把看到的問題歸納成通用產品 051

Forward Deployed Engineer(FDE)

坐在客戶身邊、對客戶負責的工程師;Natalie 說這個詞涵蓋的事太多,沒有一致的定義 054

Forward deployed engineering

替客戶設定 agent,並把客戶的需求帶回產品;Sunny 說這個詞其實涵蓋所有形式的前線部署 049

Francois Chollet

發了「agentic coding 是一種機器學習」那則推文的人 037

Frontier Code

Cognition 發布的程式基準,由團隊人工檢查題目、涵蓋更多語言 022

Function Gemma

針對 function calling 模式額外預訓練的 Gemma,起點為 270 million 參數 042

Fusion

Cognition 與 OpenRouter 各自推出的多模型路由產品;Cognition 的版本由 Fable 規劃、較便宜的模型實作 087

G2i

Ali 任職的公司,五條出題原則是 Ali 和這裡的團隊這兩個月在訂的 069

GBrain

Garry Tan 公開開發的開源檢索層,形容為給 agent 用的 Postgres,負責替每個任務決定載入哪三本書,可搭配任何 harness 021

GDPval、BankerToolBench、APEX-Agents

Rayan 檢視的三個以金融為主的 benchmark 080

GLM

開放權重模型,Cline 實測中以較低花費與較完整的收尾勝過 Opus 090

GPT-5.5 extra high

Denys 用來試一次重構的模型設定,只做出 scaffolding 092

GPT-5.6 Sol

5.6 系列的前沿模型,跑在 Cerebras 上可達每秒 750 tokens 003

GPU Mode

有 kernel 排行榜與 hackathon 的社群,Daniel 以它的排行榜舉出模型作弊的例子 022

GPU poor / GPU rich

Sara Hooker 引用一則推文裡的玩笑說法,指有沒有足夠算力,造成進入前沿 AI 的障礙 100

Gadgets

Kenton 在 Cloudflare Workers 上做的側專案,每個 gadget 是一個可分享、可協作的 vibe coding 應用,用起來像辦公室套件裡的文件 086

Galactica

Ross 在 Meta 時期參與的語言模型,比 ChatGPT 早兩週釋出,在科學領域勝過 PaLM、Chinchilla、GPT-3.5 076

Gemini 3 Flash

團隊拿來當設計夥伴的小模型,用來驗證小模型能不能寫出框架可用的程式 030

Gemini 3.5 Flash

第一輪評測與 tutor 示範用的模型 111

Gemini CLI

這個案例裡由 Python 腳本驅動、用來跑 skill 評測的 coding agent 012

Gemini Interactions API

Google 與 Gemini 模型和 agent 互動的新介面,發布時間晚於 Gemini 最近一次訓練 012

Gemma

Google 的模型系列;Cormac Brick 的團隊與 Gemma 團隊合作,讓它在各種裝置上跑得好 042

Gemma E2B

Gemma 的 2 billion 參數小模型,以混合量化壓到純文字版權重 841 MB 042

General Agent

Prime Intellect 近期的一篇部落格,示範工具使用上生成、解題、合成新任務並依通過率篩選的線上迴圈 075

General Reasoning(GR)

Ross 與 Chengxi 的公司,位於倫敦的強化學習公司;Ross 是 CEO,Chengxi 是共同創辦人兼 president 076

Genie 3

Google 的模型,給圖與文字就能操控角色,Ahmed 拿它代表第二類 116

Gergely Orosz

本場主持,The Pragmatic Engineer 作者 085

Git worktree

隔離的資料夾,讓平行的 agent 各寫各的程式碼、不互相衝突 067

GitHub Next

GitHub 的實驗團隊,做過 Copilot,也探索過 spec-based programming、natural language to app 093

GitHub for context

Prukalpa 提出的問題:公司的 context 也需要像程式碼那樣的生命週期、協作與版本管理 014

Goodhart's law

Sean Cai 的說法:指標一旦變成目標,而且目標由不是真正領域專家的人來定,就不再衡量任何真實的東西 044

Google X

Benoit Schillings 加入 DeepMind 前任職的單位,Waymo 與 Glass 都出自這裡 020

Gradescope

Arjun 與共同創辦人在 Berkeley 念博士時一起創辦的公司,協助老師批改作業,後來被收購;Superconductor 團隊幾乎都來自這裡 096

Guardian Angels

Gwern 最近寫的文章,細談每人一個模型的未來 107

Guide / Verify / Solve

引導 agent、驗證結果、解決問題三步 025

H-Index

學術界的影響力指標,大致是有 X 篇論文各被引用 X 次就是 X;這場用來衡量其他參賽者採用 AIDEN 成果的程度 018

HPA

Kubernetes 的 horizontal pod autoscaler,只依 CPU 與記憶體伸縮 pod 053

Handshake

Sean Cai 與 Mercor 一起點名,說兩家的營收有相當大一部分已來自企業 044

Handy

開源的語音輸入工具,用本地模型,資料留在裝置上 106

Harbor format

Rustem 說是目前最普遍的任務格式之一,由維護 Terminal-Bench 的同一團隊做出,檔案分成指示、環境、Oracle 與 verifier、metadata 041

Harvey

與 LangChain 合作的公司;雙方在 Harvey 的法律 benchmark 上比較開源模型與 Opus 的 trace 評審能力 104

Heartbleed

OpenSSL 的漏洞,Eugene 以它說明一個底層函式庫出事的影響有多大 024

Helios

uRun 有提供的即時、長時間影片生成模型,WAN 2.1-14B 的蒸餾版本,3 月推出 113

Hemingway Bench

Surge 做的寫作評測,由專業寫手盲測比較模型 084

Hermes Agent

NVIDIA 在 Spark 上現有 playbook 用的 agent,這次的優化就在這套上面做 007

Hertz

Decagon 的客戶,先用在複雜的進線客服,後來也用 Decagon 在租約到期時主動聯絡客戶 049

HeyGen

Russo 任職的公司,使命是用影片解決溝通,從 AI avatar 起家 030

Hive

poolside 生成合成資料的基礎設施,用佇列、orchestrator 與 supervisor 管理多個 agent 045

Home Assistant

大型開源專案,第一個 agentic workflow 是判斷 issue 的 bug 是否出在自家程式 093

Hubble

Ben Holmes 自己做的 Markdown 筆記 app,用來瀏覽與撰寫筆記,免費開源 106

HumanLayer

Dex 的公司,主持人介紹 Dex 是 CEO 023

Hyperframes

HeyGen 的開源框架,把 agent 寫的 HTML 轉成影片,名字來自逐格(frame)渲染 030

IFEval

指令遵循 benchmark,Heiner 舉出無解題,以及換成 Cyrillic 字母就能過的驗證器 084

IO

型別簽名裡代表會產生副作用的計算;Erik 說加上 tool call 後,LLM 的簽名多了這個標記 008

IOI

International Olympiad in Informatics,國際資訊奧林匹亞,Simon 高中時參加 085

Ido Salomon

MCPUI 的創作者,MCP Apps 的共同作者與維護者,也在 MCP Steering Committee 082

InfiniBand

讓不同機器的 GPU 互相溝通的網路;Gabriel 認為大規模訓練沒有它的指標就是做錯了 114

Inngest

Dan Farrelly 擔任 CTO 兼共同創辦人的公司,產品是 AI agent 用的 durable execution 032

InsightSciences

Ishan Anand 任職的公司,替市場研究團隊建構 LLM 合成受眾 057

Intuit

Udi 任職的公司,旗下 QuickBooks、TurboTax、Credit Karma、Mailchimp 等產品的財務資料是這套模型的來源 062

JD

Vasuman 介紹的 head of engineering,帶平台團隊,講 FDE agent 的技術部分 046

JSON render

同屬宣告式生成介面的規格 082

JUCE

Todd Fisher 推薦給做音訊軟體的人的框架 119

Judith

Sai Krishna 做的 agent,在朋友與家人的群組裡跑了八個月,這週也放進了大會參加者的群組 061

Justine

Simon 在 Shopify 的同事,後來成為 turbopuffer 共同創辦人 085

KEDA

Kubernetes event-driven autoscaling,打算用來取代 HPA,可依每秒請求數、event loop 使用率擴展 053

KL divergence

Q&A 裡一位講者偏好用來比較量化版與 BF16 輸出差距的指標 088

KV compaction

把很長的 context 壓成一小組 KV,讓模型好像讀過全部內容;Claude Code、Codex、OpenCode 的 compaction 也是這個思路 109

Karl Popper

科學哲學家,Richard Socher 引用 Popper 把理論的競爭比作演化 065

Karpathy style

單一 agent 在迴圈裡反覆改進的做法,團隊在訓練 LLM 的速度任務上拿來當對照 056

Kelly Bench

General Reasoning 做的長視野基準:讓 agent 建模型下注英超比賽,時間尺度一年 076

Keycard

主持人介紹 Ian 是這家公司的 CEO 兼共同創辦人,主持人自己也在此任職 023

Kimi

與 GLM 一起被 Coinbase 設為內部 LLM gateway 預設的開放權重模型 090

Kimi K2

規模更大的模型,在整份 pre-training 資料裡廣泛用改寫產生的合成資料 077

Kimi K26

JD 提到偏好的開源模型,用來做 post-training 046

Kueue

開源的 Kubernetes 排隊專案,提供 gang scheduling 與 workload priority,這裡用來排訓練工作 114

LLM as judge

用 LLM 當評分員,這場主張要持續對照人類評分的一致率 039

LLM leaderboard

Sonar 網站上的模型評測榜,用約 4,000 個寫程式任務,從正確性、複雜度、可維護性、可靠性、安全性等面向評分 095

LLM wiki

把內容存成互相連結的 chunks、連回原始檔,再給 agent 一份小 index 的外部記憶做法 111

LM Arena

靠群眾投票排名的模型榜單,幾乎不過濾投票的人,Heiner 舉了多個被玩弄的例子 084

Laguna M.1

poolside 的第一代開放權重模型,初版訓練在大約 50,000 步碰到 BF16 累加精度問題 045

Laguna S

118 billion 總參數、8B 啟用參數的新模型,這場是預覽,還沒公開 045

Laguna XS.2

新一代、33 billion 參數的開放權重模型,主攻 agentic coding,也是放大成 Laguna S 之前的試驗場 045

LangSmith Engine

LangChain 的產品,自動讀大量 trace、找問題並整理出 evals 或給人看的資料 104

Latch / LatchBio

Kenny 共同創辦並擔任 CTO 的公司,定位是做 benchmark 與 agent 工程的垂直 AI 實驗室 078

Laude Institute

Alex Shaw 任職的單位 037

Learning What Not to Forget

Sai Krishna 引的論文,學一個持續評分的相關性評分器 061

LemonSlice

Sidney Primas 創辦並擔任 CTO 的公司,做即時互動的 avatar,主要以 API 提供 118

Liad Yosef

MCP Apps 規格的共同作者與維護者,最近共同創立 Aura 082

Librarian

Upside 產品裡的元件,agent 回答前先問它,取得文件、知識條目、schema 與過去失敗的查詢 006

LiteLLM

每天約三百五十萬次下載的 Python 套件,被入侵後發出夾帶竊取程式與後門的版本 090

Log4Shell

Java 日誌函式庫的漏洞,Eugene 提到比利時國防部數日內被入侵、一個 fintech 平台外洩 2 million 名使用者資料 024

Long horizon bar

判斷長時程的門檻:強制的步驟長度、不可互換的異質工具呼叫、會限制後續動作的狀態轉移、必須有失敗復原 044

Loom

Geoff 早先用 Ralph Loops 蓋一個軟體平台的實驗,目前放在 GitHub 上,已半年沒有進展 023

Lucas Atkins

Arcee 的 CTO 089

MAI Thinking One

Varun 引用的報告,刻意不用合成資料或其他模型的資料,網頁文字佔比降到 15% 077

MBARI

Monterey Bay Aquarium Research Institute,最近發現新魚種,用 Roboflow 處理深海影片 007

MCP Apps

MCP 的官方擴充,讓伺服器回傳介面,並標準化介面與 host 之間的溝通 082

MCP Tasks

MCP 裡讓工具在背景長時間執行、先回傳 handle 再取結果的機制 083

MCP server

Justin 說 Resolve 的能力都能經由它接進其他 agent harness 094

MCP vector

Lucas Palma 提到針對 MCP servers 的同類檢查,風險類型不同 060

MCPUI

Ido Salomon 在去年 5 月做出的開放協議,是 MCP Apps 的基礎之一 082

MTP

Cormac Brick 提到 Raspberry Pi 的速度是未啟用 MTP 的數字,啟用後依任務可能快約 2 倍 042

MVCC

資料庫引擎上的機制,這場拿它當例子:可能造成資料損毀,也是幾個月前 DynamoDB 故障的根源之一 072

Managed Agents

Anthropic 四月起推出的 API,把 harness 與託管的部署基礎設施一起打包 033

Manoj Nair

Snyk 的 chief innovation officer 兼 CTO,也參與策劃這場大會的安全軌 026

Marc Andreessen

techno-optimist manifesto 的作者,Richard Socher 引這份宣言談技術與經濟成長 065

Margin Labs

每天抽 50 題追蹤 Claude Code 與 Codex 準確率變化的單位 022

Mario Zechner

Pi 的作者,主張非關鍵程式放手,關鍵程式每一行都要讀 004

Mastra

Sam 共同創辦並擔任 CEO 的 TypeScript agent framework 028

Maya

Prukalpa 虛構的資料分析師,進公司一年,用來示範人是怎麼在工作中累積 context 的 014

Mercor

跟 Surge、Scale AI 並列的大型資料公司;Sean Cai 說在 AI 公司工作的人,最近可能被它找上門想買 Slack 或 Jira 紀錄 044

MiniMax M3

MiniMax 的開放權重模型,這場的主角;跟 M2 系列比,新增多模態,context 拉到 1 million 068

MiniMax sparse attention

M3 採用的稀疏注意力設計,Dan 說跟 DeepSeek、GLM 的不太一樣 068

Missions

Factory 的長時間 harness,幾乎只在規劃階段需要人,靠驗證系統推進到任務完成 050

Mobile Actions

開源在 Hugging Face 的資料集,可重現 voice-to-function calling 的示範並從 Function Gemma 微調 042

MongoDB Atlas

Hub 中繼資料的唯一真相來源,存倉庫、模型、資料集、設定、帳務與權限,不存模型檔本身 053

Moravec's paradox

對 AI 來說難的事容易、容易的事難;Yu Su 說現在是它的現代版本 105

Mythos preview

METR 約一個月前評估的前沿模型,成功率在四小時附近明顯下降 092

NBD

讓沙盒內看到區塊裝置,背後是分層快取並寫回物件儲存的網路區塊裝置 009

NVIDIA Model Optimizer

NVIDIA 的模型最佳化團隊與工具,在 Hugging Face Hub 上發布量化檢查點 088

NVLink

單一節點內 GPU 之間的連線,團隊自己收集它的錯誤指標 114

Nano Banana / Nano Banana 2 / ChatGPT Images 2.0

過去一年推出的圖像生成模型,Barr 拿來解釋圖像生成的使用率為何翻倍 027

NanoChat

不到五分鐘就能訓練完的小型聊天模型,以 bits per byte 比成績 065

Napkin Math

Simon 在 GitHub 維護的一張表,列出 DRAM、SSD、S3 等的頻寬與價格,用來估算系統「照理要多久」 085

NeoCognition

Yu Su 擔任 CEO 的公司,專注在 agent 與持續學習 105

Neolab

Sean Cai 認為資料公司最終都要變成的形態,價值落在服務與應用層 044

Nereu

Arturo 正在做的遊戲引擎,用描述與標籤做遊戲,目前是封閉 alpha 115

Notion agents

Ramp 拿來做追問 agent 的工具,需求本身也放在 Notion workflow 裡 052

ODS

一位講者自己做的開源部署工具集,在各種硬體上設定 agent 與整套本地環境 007

OPSD(on-policy self-distillation)

把 hint 放進老師的 prompt,讓沒有 hint 的學生對齊有 hint 的自己 110

Obsidian

Markdown 筆記工具;這場用它的 Headless CLI 把筆記同步進雲端沙箱 106

Ollama

Parth 所屬團隊,讓人在本機執行模型的工具 088

Open Compute Project

Facebook 公開資料中心與伺服器硬體設計的計畫,Saoud 拿來類比開放權重模型 090

OpenAPI

多數常見服務都有的規格,過渡期拿來轉成 capabilities 029

OpenClaw / Hermes agent

GBrain 特別適合搭配的兩個 agent harness 021

OpenClaw RL

可以直接套用 OPSD 的開源專案,用來做簡單的聊天機器人,從非結構化的使用行為中學習 110

OpenMDW

Nemotron 與 Trinity 採用的模型授權,講明可以拿模型輸出來訓練模型 089

OpenReward

General Reasoning 的環境平台,單一 API 端點提供超過 350 個環境 076

OpenThoughts

與多所大學合作的推理資料集與論文,整理出一套可隨資料量放大的配方 071

OpenThoughts agents

OpenThoughts 的延伸,改為整理訓練 agent 用的資料與 RL 環境 071

Opus 4.5

Theo 稱它為長任務時代:不用逐步指示,能長時間做事而不會迷失 002

Opus 4.8

跟 Fable 比較的模型;新模型要在 eval 上嚴格優於它才換上,它也用了瘦身後的 system prompt 015

Oracle solution

由 benchmark 作者自己建的標準解法,用來證明任務確實解得開 041

Oz

Warp 做的雲端 agent 平台,可以設排程,或用 Slack、iMessage 之類的訊息觸發 106

POC

proof-of-concept,用來證明漏洞真的可被利用的攻擊程式 024

PTQ

post-training quantization,拿釋出的 BF16 模型直接做量化 088

Paper

Eve 喜歡的新設計工具,網站背景用了它的 shader 019

Papers with Code

Ross 原本的團隊,2019 年在倫敦的新創,同年被 Meta 收購 076

Parallel Kernel Bench

Together 近期發表的 benchmark,收的是還沒解決的 kernel 問題 068

Parameter golf

OpenAI 出的 benchmark,測模型做 ML 研究的能力:用 8 張 H100 在不到 10 分鐘內訓練一個小模型 033

ParameterGolf

OpenAI 在 4 月辦的招募賽,目標是訓練出最好的語言模型,有檔案大小限制,成果以 PR 提交並經 OpenAI 審查才能進排行榜 018

Pareto Code

OpenRouter 的路由之一,依可調門檻給出 coding 任務的 Pareto 最佳模型 087

Pareto frontier

這個 benchmark 同時比 reward、gain 與成本,用來呈現取捨 101

Parquet viewer

為了讓反對遷移的工程師能直接打開檢視資料,當晚做出來的工具 051

Phoenix

2013 年左右 Palantir 關起門做的交易資料儲存系統,一碰到真實資料就垮 051

Ping

Theo 帶去 Y Combinator 的 startup,讓實況主在既有的 OBS 軟體裡做高品質的合作 002

Pipeline RL

生成序列的同時就開始訓練,換取 GPU 使用率但會有 off-policy 076

Piper

這場用來做文字轉語音的工具之一 119

Pitchfork

2018 年在 X 開始的專案,目標是用 ML 改善程式的撰寫方式、縮短小改動的審查循環 020

Princeton 研究

幾週前發表的模擬研究,測試前沿模型能否在 500 天內做長期的經營決策並獲利 062

Process-based data

軌跡、推理過程與一連串決策,描述一件工作怎麼從空白頁做到完成品;相對於 ERP 裡存下來的狀態資料 044

Project Frontline

Vinoo 在 Palantir 建立的輪調計畫,把軟體工程師訓練成 FDE 051

Provenance ledger

記錄每個數字來源的帳本,來源包含財報、衍生計算與使用者的內部文件 055

Pwn2Own

Brumley 稱為頂尖的資安競賽,fluorescence 在這裡拿到 $375,000 與一台 Tesla 081

QA gate

修圖迴圈裡的多面向檢查,看擺盤、忠實度、顏色等,沒過就把回饋送回去重修 036

QAD

quantization-aware distillation,較小模型用來補回準確度,需要合適的資料 088

Qualitative Learning

研究中的方向,讓模型把環境裡的文字回饋轉成 evals,持續改進 035

Qwen

Maor Bril 選來做小型 VLM 的基礎模型 040

Qwen 3.5

實驗一用的 thinking 模型 102

Qwen 3.5 / 3.6

這場反覆拿來比的模型:3.5 的 27B 勝過 Llama 3 405B,3.6 的 27B dense 勝過 3.5 的 397B MoE 031

RL environment 公司

為 lab 建強化學習環境的公司;Sean Cai 認為成功的話更像研究加速器 044

RTX 3090

Osman 家裡有八張,從 Llama 2 一路跑到現在的 Qwen 031

RTX 5090

32 gigabytes VRAM 的顯卡,Osman 預測 GLM-5.2 等級的智慧會落腳在這裡 031

Raindrop

Ben 共同創辦、擔任 CTO 的公司,做 production agent 的問題偵測、修復驗證與上線前模擬;Ben 說可以想成專門偵測 agent 問題的 Sentry 103

Ralph Loop

Geoff 提出的做法:把 prompt 用 `cat` 丟進 while true 迴圈、以檔案系統當狀態、每圈重開 context window 023

Ramp

Leo Mehr 任職的公司,FDE 的目標是幫它打進大型企業市場 052

Rayan Garg

Theta Software 的共同創辦人兼 CEO,負責收尾的 rubric 測試與金融 benchmark 那一段 080

Reactor

Ahmed 任職的 series A 公司,替即時 world model 做基礎設施與開發者平台 116

Read model

為查詢最佳化的資料視圖,這場有時間線、客戶資訊、風險視圖三種 066

Readwise

存文章再搜尋的加拿大公司,Simon 替它做推薦引擎時發現向量儲存太貴 085

Recursive Language Models(RLM)

一位 MIT 博士生的論文,用來處理某些長 context 問題,DSPy 可以一行加入 035

Reducto

Thais 拿它的品牌當拆解範例,因為喜歡它的網站 073

Reelful

Ekaterina Deyneka 創辦的公司,產品是手機優先的 agent 剪片工具 112

Ref

Matt 的公司,要解決個人很快、團隊卻沒有變快的落差 097

Remediation Agent

用來處理積壓的問題與技術債的 agent,本週 GA 095

Remotion

開源框架,用 React 程式碼描述影片的素材、軌道與順序 112

Renderers

Prime Intellect 釋出的獨立函式庫,重新處理 tokenizer 與 chat template;Will Brown 說這種抽象是 OpenAI 隨 gpt-oss 推出的 Harmony 開的頭 010

RepoAssist

一組協同運作的 agentic workflow,負責找出並修掉容易處理的問題、提醒需要回覆的 issue 093

Resolve AI

Justin Smith 任職的公司,做的是替 production 營運工作的 agent 094

Reward hacking

模型靠翻 Git 歷史、查評估的 fork 等捷徑拿高分,而不是真的解題 017

Richard Zhu

Brumley 的學生,也就是 fluorescence,Pwn2Own 的贏家 081

Rippling

Kevin 加入時是 FDE 團隊的第一位成員,一年內團隊長到大約 25 人;演講裡也拿它當可設定工具的例子 047

Robert

Cua 的 chief infra officer,講沙盒基礎設施的部分 016

Router

多模態的路由 agent,先描述圖片並輸出結構化結果,再決定修圖或保留原圖 036

Ryan Lopopolo

在 OpenAI,主張重點是 prompt 與護欄,檢查系統而不是每一行 004

SAM3

Joseph 提到的視覺模型,強項是 open vocabulary,所以不建議直接微調 007

SAP S4 HANA

Leo 舉的例子裡,業務說客戶非要不可的整合對象 052

SARIF

掃描結果的輸出格式,讓其他安全工具讀取並納入漏洞管理 060

SLM

小型語言模型,這場用 LoRA 微調來偵測資料裡的惡意內容,也拿來評分記憶的重要性 061

SSR

self-service rate,自助服務率;客服圈常說 TNPS 要拿它來換,Aman 說 Nubank 兩者都有進步 058

SWE-Bench Pro、Terminal-Bench

這場舉出的前沿基準,任務都限在程式碼庫裡 072

SWE-Marathon

Ali 舉來說明「格式好卻沒有經濟價值」的 benchmark,那一題是用 Rust 寫 C compiler 069

SWE-bench Agentless Multilingual

poolside 在預訓練期間拿來代表 agentic 表現的基準 045

SWE-bench Verified

公開的程式 benchmark,Surge 的調查認為 Opus 記住了其中很多內容 084

Saga orchestration

orchestrator 經訊息佇列協調各服務的流程,agent 的裁決也發回這條流程 066

Sakana AI

Stefania Druga 任職的公司,在東京 108

Sandbox

隔離、可重現的測試環境,讓 agent 能放心執行不受信任的程式碼與引爆 POC 024

Scope determinism

第二項原則:模型決定要算什麼,實際計算由確定性的程式完成 055

Seedance

Keegan 舉來代表今年畫質水準的影片生成模型 113

Semantic layer(materialized view)

把各 context 的資料整理成一份給 agent 查的視圖 066

SemiAnalysis

Saoud 引用其圖表,內容是以訂閱方案跑長時間 coding 任務的 API 用量實驗 090

Sev2

嚴重事故的等級,Aditya 用來指 AI slop 上線後冒出的那批事故 099

Seymour Papert

教育家,提出「活在 math land 裡學數學」的想法,孩子用程式操控 turtle 機器人畫圖來學 005

Shape of Minds

當天早上做的工具,比較歷史上傑出人物在不同面向的特質 019

Shawn Chan

自己不做這些系統,而是坐在桌子另一邊,決定要不要相信它們與推銷它們的創業者 064

Ship It

Aditya 團隊投資的高價值 skill,負責從程式寫完到 PR 可審之間的所有事 099

Shopify

Isaac 舉的企業案例,換成便宜模型並沿用同一套 evals 035

Sid

Joseph 的共同創辦人,這場講解 etcd 叢集環境的範例 072

Sierra

Natalie 現在的公司,職位是 head of agent engineering 054

Simon Willison

這場的訪談者,希望 Claude Code 的 prompt 能正式公開 015

Simulmatics

當年宣稱能用統計與電腦算力模擬、預測選民的公司,Ishan Anand 拿它提醒大家對這類說法保持謙虛 057

Sister Corita Kent

「Nothing is a mistake」那段話的出處,Frank 用來開場與收尾 091

SkillVector

Nubank 自製的 skill 安全檢查工具,在 skill 上架 PR 的 CI 步驟執行,也可以在本機跑 060

SkillsBench

公開的 skills 評測,約 100 個涵蓋程式與生產力的任務,有排行榜,並開放社群貢獻 012

Slate

Palantir 的拖放式儀表板工具,把頁面元件對應到資料來源,現在仍是平台的一部分 054

Slow Death of Scaling

Sara Hooker 寫的論文,主張預訓練規模不再是報酬最高的擴張軸 100

Slurm

團隊用來管理 GPU 叢集的工具,讓模型只要寫設定檔就能申請硬體並送出任務 056

Snorkel AI

Rustem 任職的公司,自述是販售並大規模製作 benchmark 的服務公司 041

Snowglobe

Shreya 擔任 CEO 的公司,提供替 agent 跑模擬的 SDK 與基礎設施 058

Snyk

Manoj 任職的資安公司,說自己協助約 5,000 家企業客戶,Fortune 500 有一半在用 026

SonarQube

Sonar 的 zero trust 多層驗證平台,涵蓋語法、資料流、架構與控制流等問題 095

Sonnet 3.5

Theo 稱它為 tool call 時代:第一個在程式庫裡穩定可靠地呼叫工具、能拿來做日常寫程式的模型 002

Sonnet 4.6 / Opus 4.8

重跑同一任務的新模型,前者多一輪疊代解決,後者基本上一次到位 092

Sonority Peak Syllabifier

找出語音裡的母音來辨識音節,用來補 energy gap 的不足 119

Spatial Bench

LatchBio 去年 12 月發表的 benchmark,146 題,涵蓋不同的實驗套件與分析任務 078

Spatial Bench Long

長流程版本,模擬整篇論文的結果章節或藥物計畫的 go / no-go 決策,每題要三個人約一週才做得出來 078

Stanislav Lem

Richard Socher 說 Lem 很早就看出科學的指數成長會被人力不足擋住 065

Startup School

YC 的活動,Garry Tan 舉例要一次為 800 人排出最適合彼此認識的座位 021

Steinberger's Law

Sam 取的名字:每個 harness 都會擴張,直到變成 claw 028

Studio

Snyk 把安全脈絡放進 agent 開發迴圈的產品 026

Sung Hyun Lee

Brumley 的學生、現任 Pwn2Own 贏家,Brumley 稱為目前 Chrome 安全的領頭人;這 41 個漏洞由 Sung Hyun Lee 驗證 081

Superconductor

Arjun Singh 的公司與產品,讓團隊與 agent 共用雲端 session;這場的示範與數字都來自自家團隊 096

SwallowCode / SwallowMath

一篇論文產出的資料集,Varun 舉它們當合成資料的早期例子 077

Swiss cheese model

層層疊加的把關設計,每一層都有漏洞,疊起來降低失敗進入線上的機率 036

TNPS

衡量客戶滿意度的指標,Aman 的成果圖用的是它的平均值 058

Tab

Cursor 早期訓練的專用模型之一,用在程式碼自動補全 017

Tanay Varshney

NVIDIA,做模型評估並參與打造 router 087

Taste Labs

Thais 創辦的公司,幾週前才從 stealth 出來,目標是終結 AI slop 073

TeraFab

SpaceX 自己做晶片的計畫,Lee Robinson 拿來說明 Cursor 的合作從資料中心延伸到晶片 017

Terence Tao

數學家,也是 AI 的重度使用者,他對 AI 的觀察被拿來說明廣度與深度的差別 109

Textual feedback

針對 rollout 中的特定片段給模型提示,再調整相關機率的方法 017

Theta Software

Rayan 與 CTO 共同創辦的公司,這場談它做長時程任務環境與資料的方法 080

Thomson Reuters

客戶,有自己的高品質法律資料,post-training 的基礎設施也很成熟 070

Threat model

針對自家 code base 或系統寫的威脅文件:重要資產、入口、可能的攻擊途徑,以及哪些不用擔心 024

Tier one / tier two

第一層是規則引擎與 ML 模型,第二層是處理灰色地帶的 agent 066

Together AI

Dan 任職的公司,用 GPU 服務開放模型,這場談的是怎麼服務與優化 MiniMax M3 068

Token maxing

以 token 用量當績效的做法,Vinoo 認為這不是解決問題的正確方向 055

Tool search / deferred loading

工具標成 deferred 後不進脈絡,改由模型用 tool search 找;Dominik 說自 GPT-5.4 起可用 098

Torch Compile

PyTorch 的編譯功能,Daniel 稱寫 kernel 前應先用它 022

Towards AI

Louis-François 與合夥人創辦的公司,旗下 academy 替 AI 工程師開技術課程,AI tutor 是給學員用的功能 111

Toxiproxy

Simon 在 Shopify 寫的 proxy,放在應用程式與資料庫之間,可用 API 讓連線中斷或變慢,測試失敗處理 085

Trajectory

Ronak 創辦的公司,做持續學習平台,把生產環境的 agent trace 轉成模型與 harness 的改進 110

Triage

去重並依衝擊與可能性挑出最該處理的少數漏洞,避免淹沒產品工程師 024

Trinity Large

Arcee 以 17 trillion tokens 訓練的 hyper-sparse MoE,完全開放的美國製模型 070

Type one data

真實工作流程的原樣紀錄,例如 GitHub commits 或 session replays,幾乎沒有非專家加工過的 reward 044

Type two data

把專家放進人為設定的情境裡產出的資料,也就是 contrived data 044

TypeSafe AI

Diogo 所在的公司,還在 stealth,要為可靠度與自動化重新設計 AI stack 079

UK AI Security Institute

發布資安版 time horizon 基準的機構,任務涵蓋逆向工程與 web exploitation 024

Uber Eats

Uber 的外送市場,Jai 說規模已經和出行業務一樣大,修圖 agent 就是為它上的餐點照片服務 036

Upside.tech

Alex Bauer 的公司,自稱是 agentic go-to-market 時代的資料層 006

V8

Chrome 執行 JavaScript 的引擎,也跑在 Edge、Node.js 與 Cloudflare Edge Workers 上,這場用來當高價值目標 081

VLM

視覺語言模型,能直接看畫面;這場拿小型 VLM 來蒸餾評審、快速評分 040

VMM / KVM

VMM 是管理 guest 的軟體(如 QEMU),透過 /dev/kvm 呼叫 Linux 的虛擬化 API 009

Varick OS

Varick 自家的平台,用來建立、監控 agent,內建治理與 eval 046

Vasuman Moza

Varick Agents 的 CEO,自稱 Voss,講前半段與收尾 046

Veo 3 / Sora / Seedance 2

現有的批次影片生成模型;第一類模型就是它們的即時、無限長、可互動版 116

Verdict agent

第三個 agent,綜合兩個分析 agent 的結論做最後裁決 066

Verification(驗證)

在這場的意思是能確定性地證明某個數字正確,並符合公司自己的來源與轉換規則 055

Verifiers law

引用自 Jason Wei:訓練模型做一件任務的難易,與這件任務的可驗證程度成正比 044

Vincent

Prime Intellect 的創辦人暨 CEO 089

VirtIO

guest 驅動與 host 之間較有效率的半虛擬化溝通方式 009

Virtual Kubelet

開源專案,在 Kubernetes 裡建一個行為由自己決定的假節點,這裡用來把 pod 轉到其他叢集或供應商 114

Vocal Set

錄了一批歌手歌聲的素材,Todd Fisher 拿來當唱歌的樣本 119

WAN 2.1-14B

Helios 蒸餾的來源模型 113

Walden Yan

Cognition 共同創辦人,公司做 Devin;談 Fusion 與 sidekick 設計 087

Warp

Ben Holmes 任職的公司,產品是給人與 coding agent 用的終端機,以及用來建 software factories 的雲端平台 106

WebMCP

Google 的標準,規範 agent 怎麼與 web view 互動;MCP Apps 這邊對應的是讓 host 操作 app 的機制 082

WebRTC / ICE / TURN

蓋即時影片應用時要處理的連線技術 113

WebSocket mode

Responses API 的持久連線模式,帶狀態、只送變動的資料 098

Weco

Zhengyao Jiang 共同創辦並擔任 CEO 的 auto research 公司,約兩年半前成立 018

WeirdML

Daniel 認為較穩的基準,reasoning 並未改變它的趨勢,用來比較開源與閉源 022

When Safe Skills Collide

Sai Krishna 引的論文,指出表面無害的兩個 skill 一起執行可能變成有害 061

Whisper

這場用來把麥克風收到的話轉成文字的語音辨識 119

Windsurf

Ronak 先前任職的公司,在那裡帶研究團隊、訓練出 SWE1 110

Wisedocs

Denys Linkov 任職的公司,處理超過 10,000 頁的複雜醫療理賠 PDF 092

Workshop

Raindrop 做的開源追蹤工具;Ben 說想試 self-healing loops 用它最合適,缺的功能可以讓 agent 自己加 103

World

能做 pitch shifting 的專案,用來把歌手樣本移調到吉他的音 119

XBRL

Vinoo 提到的財報結構化格式,由程式解析,用來取出數字而不經過模型 055

XBench

測長時間任務記憶的既有 benchmark 108

YOLO mode

自動核准 agent 動作的模式;Arjun 的意思是有了網路沙箱,開 YOLO mode 也不怕重要資料外洩 096

You.com

Richard Socher 這邊做的網頁搜尋,對象是 LLM 與 agent 065

Z/L continuum

Alex Volkov 取名的光譜:Zechner 那端逐行讀關鍵程式,Lopopolo 那端把 code 當成免費 004

Zig

禁止在 PR、issue、留言使用 AI 的程式語言專案,Saoud 說 Bun 就是用它寫的 090

`/goal` / UltraGoal

`/goal` 定一個驗證步驟、跑到通過為止;UltraGoal 是 monorepo 裡的 skill,把目標寫進檔案,中途可以改 038

ablation

逐項拿掉改動看影響,用來證明某個改動是否真的有價值 039

ablation tests

同一批 evals 分別在有 skill 與沒有 skill 時各跑一次,用差異判斷 skill 有沒有用 012

accessibility tree

作業系統提供的視窗元件結構,CuaDriver 優先用它在背景執行動作 016

advantage

獎勵減去某個 baseline、可能再做縮放的值,用 rollout 算出來,拿去更新 policy 075

agent bankruptcy

開了一堆 agent 做了一天,隔天全部丟掉重來,同樣的工作與 token 都花兩次 097

agent engineering

Natalie 2024 年主張的 AI engineering 子領域,這場改說它是 FDE 的一種 054

agent harness

LLM 周邊的 prompt、工具等一切設定,Aman 說改它最快也要幾小時 058

agent readiness

程式碼庫裡有多少確定性的驗證迴圈,決定 agent 能獨立工作多久 050

agent tiers

Alex Bauer 的 agent 分級,第二級要有 sub-agents、plan mode、完整 MCP 與檔案編輯 006

agentic dev security

Snyk 前一天正式上市的產品,檢查 coding agent 的環境、產出、技能、MCP 伺服器與行為 026

agentic harness

讓模型能自己跑工具、驗證結果的執行框架,Eugene 說這是降低誤報、讓掃描能擴大的關鍵 024

agentic loop

agent 一邊呼叫工具一邊算答案的迴圈,過程中可能產生副作用 008

agentic map reduce

在大量沙盒上平行跑 agent,再把結果彙總起來 037

agentic video editing

使用者給素材與方向,由 agent 自己理解素材、挑片段、組合並出片 112

agentic workflow

取代原本 pipeline 的作法,agent 用工具檢查自己的輸出、邊做邊修 040

alpha / decay

alpha 是你與現行模型能力之間的差距,decay 是這個差距消失的時鐘 011

anchor assets

Alex Bauer 維護的一組公司核心文件,讓 agent 先知道這家公司的事 006

annotation(標註)

Chrome 擴充功能,可在畫面上選取元素、寫下修改意見,整理成 agent 能執行的摘要 034

anti-pattern

該避開的做法;Frank 說知道不該做什麼,常常是答對考題的關鍵 091

app server

把 harness 帶進 app 的開源層,讓使用者用現有 Codex 訂閱登入,OpenAI 自己的產品也走這條路 003

apply patch

模型訓練時學會的改檔工具,用 diff 修改或建立檔案 098

artifacts

agent 以截圖、影片等形式交出的成果,在 Slack、app、GitHub 都看得到 096

assistance 與 automation

這場的主軸:前者的目標是討好迴圈裡的人,後者是把人移出流程 079

audit task

Brumley 提出的任務設計:不指定漏洞,改問「找出所有漏洞」並用 precision 與 recall 計分 081

auto mode

由分類器判斷每次工具呼叫或 permission prompt 能否放行的模式,Claude Tag 也建在它上面 015

auto router

OpenRouter 做了快兩年的模型自動選擇功能,OpenClaw 出現後才真正被大量使用 087

automixer

在昂貴實驗之前,先便宜地掃過各資料叢集的混料工具 045

autonomy ratio

被打斷之前,人做的動作與 AI 系統做的動作的比例;Eno 說 Factory 自己的在 80% 後段 050

avatar Turing test

LemonSlice 的目標:avatar 在視訊通話裡讓人分不出是不是真人 118

avatar 模型

第三類,即時互動的虛擬人物,可以用在客服、訓練、銷售、遊戲與串流服務 116

back pressure

Geoff 用 pre-commit hook 等回饋擋住 loop 的說法,在達標前不讓它收工 023

base model

靠 next token prediction 訓練出來、還沒做 post-training 的模型,這場談它的角色怎麼變 077

benchmark decontamination

用很低的 n-gram 門檻,把訓練資料裡跟下游 benchmark 重疊的內容去掉 070

benchmark maxer / floor raiser

Ben 拿來問客戶的兩種取向:衝基準分數,還是把最差情況往上拉 103

bitter lesson

Sutton 提出的觀點,Diogo 說它在遊戲裡成立、在現實不成立,自己的版本是資料比算力重要、做對的任務又比資料重要 079

blast radius

處理即時流量時,一次變更出錯會波及的範圍,agent 要一併考慮 072

blind spot pass

請 Claude 掃過程式碼庫與相關脈絡,列出使用者沒想到的 unknown unknowns 001

blueprint

把某個 gadget 的程式碼匯出、不含資料的版本,別人可以據此建立自己的 gadget 086

blueprints

Yogendra 去年在這個大會講過的做法,一組交給 agent 的固定步驟,後來改用 skill 059

brain / hands

Managed Agents 的分法:brain 是 harness,hands 是執行用的沙盒容器 033

campfire

turbopuffer 的做法:幾個人在某地聚集,其他人自願加入 085

capability

切到單一動作的權限,agent 的意圖對應到一個或數個 capability 029

capability drift(能力漂移)

模型能力提升,審查的位置跟著往上移 004

capability overhang

模型有些能力要給對工具(如程式執行)才會顯現,進展是不均勻的 001

capability skills

教模型目前做不穩的事,屬暫時性質,模型變強後可退役 012

chief of staff thread

每天早上檢查各 connector、整理今天該注意什麼的那條 thread 038

claw

harness 再加上 heartbeat、外部資料來源、多種聊天管道與持續學習後的形態 028

clean, curate, create, compose

DatologyAI 的四個步驟:清理、策展、做合成資料、組合與安排順序 070

click-through

Shawn Chan 主張的標準:指著一句話問出處,要能點一下就到原始段落 064

client backchannel authorization

示範寄信時用的批准方式,不必跳轉,直接在原處批准 029

cloud agents / long-running agents

Cursor 團隊交付給客戶的 agent,用來把整段流程自動化,例如客服工單、理賠處理 013

co-optimize(共同最佳化)

這場反覆出現的做法:資料與模型一起調整,而不是把資料當成獨立的選項 100

code gardener

每晚執行、檢查 code 組織是否正確的 agent,什麼叫正確由各個 code base 決定 099

code mode

原本在 MCP 脈絡下的做法,Ben 建議套到 traces 上,寫 classifier 放進 sandbox 跑 103

code owner

重要區域的負責人,碰到該區域的 PR 一定要經過 code owner 批准 015

cognitive surrender

認知投降:在形成自己的意見前,就把 AI 的答案當成自己的答案 011

collapse to the mean

模型傾向給最可能的輸出,在主觀領域裡把結果壓回平均、失去分布兩端的好作品 073

commander's intent

源自軍隊準則,意思是先告訴執行者「為什麼」,而不是只下指令 006

compute layer

三層裡的手,包含 sandbox、runtime 與被自動化的瀏覽器 032

computer use

讓 Codex 在背景操作任何桌面 app,用的是你自己的登入狀態與檔案系統 038

concept drift

任務過程中環境改變,例如資料庫遷移,系統要分辨哪些舊經驗已經過時 101

contamination

測試題與答案流進訓練資料,被模型記住 084

context compaction

把長 context 壓縮後交給下一段 agent 或另一個模型;一位講者強調它本質上有損 087

context engineering

決定 agent 的 context 裡該放哪些內容,也就是挑出哪三本書攤在桌上 021

convergence engineering

主持人說是 Geoff 約十天前提出的詞:把 loop 的 slop 當成待測系統,跑到收斂為止 023

copy-on-write

先零成本複製基底映像,寫入時才改動區塊,快照時用 FIEMAP 取出變動範圍 009

credential injection

agent 發出請求時才由代理換上真正的 credential,agent 本身拿不到 015

critic agents

評估建構階段的兩位檢查者,一個看概念錯誤與前視洩漏,一個寫單元與整合測試 056

critique agent

獨立的批評 agent,搭配 remediation loop 補上基礎工具的不足 039

crosvm

第一個 Rust 寫的 VMM,Abhishek 在 Google 時的團隊為了在 Chromebook 上跑 Linux 虛擬機而寫,後來被 Firecracker fork 009

data attribute

加在 HTML 上、放時間等資訊的少量屬性,這套框架基本上只多了這個 030

data room

募資時提供給投資人的資料室,簡報裡講出口的每個數字都會拿來對照 064

decision layer

規劃階段的那一層工作:思考關鍵決定、表達工程師的品味,和實作是不同的檔位 097

decisions ledger

一種 recall 模式,記下每一輪做了哪些決定,再排出優先順序 108

deduplication

先用 p-hash 或 md5-hash 去重,再用 SSCD 這類 embedding 方法找近似重複 117

demo

一份乾淨文件進、一個流暢答案出,目的是讓現場驚嘆五分鐘 064

dependency graph

Varick 用來表示公司運作的單一事實來源,每一步要等前面的步驟核准 046

deployed engineer

Factory 對前線部署工程師的稱呼,把大客戶的現場訊號帶回產品,協助客戶蓋出 software factory 050

deployment monitoring

依每次變更內容擬定專屬檢查計畫並持續追蹤,補 CI/CD 檢查不到的地方 094

descheduler

taint 加回去之後,把不容忍它的 pod 慢慢搬回叢集的元件 114

design MD

用 Markdown 寫下顏色、元件、版面等設計規則的檔案,驗證時拿來當標準 034

design partnership

新創早期跟客戶緊密合作、一起摸索需求的做法,FDE 把它放大到企業規模 047

deterministic check

確定性檢查,Manoj 拿來和 LLM 對照,認為兩者要分工搭配 026

dev loop velocity

開發迴圈的速度,這場認為是修 production bug 的關鍵 067

device flow

示範讀信時請使用者批准的方式,把 agent 當成另一台要連線的裝置 029

directional templates

預設的剪輯方向(對鏡頭講話、加 B-roll、加旁白),選了就不用寫提示 112

directory

像電話簿的目錄,列出服務能做的事,讓 agent 依意圖找到工具;不是 proxy 029

distillation / SFT

把大模型跑出來的好 trace 整理成資料集,微調小模型去模仿,例如從 GLM-5.2 降到 9B 或 13B 的模型 104

distillation(蒸餾)

用比 student 更聰明的 teacher 帶出更好的模型,這場把它當成持續學習的核心工具 102

durable

規格要求 task 啟動後要撐得過 client、server、網路與人的中斷 083

durable execution

狀態存在外部、失敗後可從中斷處續跑的執行方式 032

dynamic workers

Kenton 說這套系統用它建構複雜應用,沒有用到容器 086

emotion engine

依音訊、avatar 與要說的文字預測當下該做的動作與情緒的模組 118

energy gap segmentation

靠字與字之間的靜音來切字,缺點是有些字之間沒有靜音 119

engagement agent

FDE agent 第一階段,整理會議筆記、文件與投影片,回答誰負責哪個流程 046

environment

這場的核心概念:固定格式的資料加評估,同時作為強化學習的訊號,Brendan 認為價值都編碼在這裡 056

environment fidelity

訓練環境與正式環境有多像,和 reward hacking 被 Raymond Feng 視為同一個問題的兩個名字 074

error accumulation

只看過去生成時,每個區塊的誤差會被後面沿用並越疊越大的問題 118

etcd

Sid 拿來示範環境的共識叢集,早期的環境只操作它的原始碼 072

eval awareness

模型意識到自己正在被測試,讓評測失去意義 084

execution layer

三層裡的大腦,負責流程、狀態、持久性、重試,並與底層基礎設施無關 032

expertise

累積且貼著情境的能力,能在特定領域穩定做出好表現,跟只管推理的 intelligence 相對 105

exploitbench.ai

放 V8 這套環境的地方,以 Docker 映像與 MCP 介面提供 081

extensions

V2 把協定切成核心與 extensions,Tasks 屬於 extension 083

faithfulness

修圖後是否忠於原圖與菜名,例如不能多出原本沒有的食材 036

floor / ceiling

地板是 agent 最糟會做的事,天花板是產品最驚人的能力 103

fluent bluff

Udi 的用語,指前沿模型在金錢問題上流暢又有自信、實際上卻可能有害的回答 062

free monad

Erik 說模型應該回傳的表達式型態,代表一段計算,可以在執行前做分析 008

gVisor

把系統呼叫攔下、在 user space 實作 Linux API 的沙盒,由 Sentry 與 Gopher 組成 009

gain

同一個系統保留狀態與每題重置狀態兩種跑法的 reward 差,用來隔離出學習帶來的好處 101

generative agent-based modeling

讓多個合成受眾彼此互動、模擬群體動態,Ishan Anand 認為是最令人期待的方向之一 057

generator-validator separation

這場的核心主張:產生程式碼的系統和驗證它的系統不該是同一個 026

gentleman scientist

Sara Hooker 用來指早期科學家:有足夠財富、獨立做研究的人 100

go-to-market(GTM)

行銷與業務等對外團隊,這場的聽眾與例子都在這個領域 006

goal 與 loop

先給 agent 目標,再讓它自己反覆執行,不必一直盯著 067

gold 與 no-op variants

驗證 rubric 的基本測試,Rayan 說不管怎樣都該對 verifier 做 080

golden answer

蒸餾研究常預設手上有的標準答案;Samuel 希望做到不依賴它 102

golden patch

當初合併進 repository 的標準答案修改,模型若從 git 歷史撈出就等於作弊 043

golden set

評估用的黃金資料集,一開始可以很小,之後隨用途擴大、涵蓋更多案例 039

gpt-oss 120b

去年夏天的開源模型,最早能順利做 tool calling 的開源模型之一 031

ground truth

把模糊任務拆解後得到的可對照標準,例如品牌的顏色、字體、動態、質感 073

grounded in real outcomes

以相似企業做過什麼、結果如何的真實紀錄訓練出來的模型,對照只靠文字學到知識的前沿模型 062

grounding

手上有素材,並能比較有沒有素材時的表現,用這個落差當作學習訊號 075

half-life(半衰期)

Dan 借科學名詞,形容架構各層能撐多久不必重寫 032

harbor exec

為 agentic map reduce 這個意外冒出來的用法做的指令,Alex Shaw 說它不久會拿掉 037

headroom

任務要有只靠線上適應才能進步的空間,若離線訓練就能進步,就不適合測持續學習 101

hidden node

叢集裡對應用程式不可見的分析節點,只負責報表與重型查詢 053

hint leakage

學生推理時直接搬用 hint 裡的答案,是 OPSD 版的 reward hacking 110

hint(privileged information)

關於環境或解法的額外資訊,最簡單的形式是一份標準解答 110

hint(提示)

讓 teacher 比 on-policy 模型更聰明的資訊,分成來自靜態資料的離線提示與來自這次 rollout 的線上提示 102

holdout set

不公開的私有題庫,用來避免污染 084

human in the loop

流程裡真的有人核准;Lucas Palma 提醒,AI 自問自答不算 060

human-in-the-loop approvals

人工核准,控管 agent 最常見的手段之一,與權限限制並列前兩名 027

hybrid search

結合 embedding 語意搜尋與 BM25 這類關鍵字搜尋,合併後重排 111

idempotency key

稽核第四題要記錄的欄位之一,與工具或 API 呼叫、參數、嘗試次數、外部結果並列 063

impact per parameter

Ahmad Osman 衡量模型的角度:每個參數換到多少能力、需要多大的硬體 031

inductive architecture

Benoit 的用語,指把一個領域的知識搬到另一個領域、找出兩個概念交集的能力,Benoit 認為模型現在還不擅長 020

input required

task 生命週期的狀態之一,表示正在等外部輸入,例如人工核准 083

inspect agent

Sai Krishna 拿來測試守衛的 benchmark 資料集之一 061

intent to adopt ratio

Barr 自創的指標:目前沒在用某模態的人裡,有多少說打算導入 027

interception server

給 harness 一個假 base URL 並攔截請求,讓 harness 不必為 RL 改寫 010

investment committee

投資委員會,Shawn Chan 參加過大約 200 場,學到核准與否取決於信任 064

judge model(critic model)

沒有確定性驗證器時,用來判斷環境最終狀態與軌跡是否正確、並給 reward 的模型 080

jury(陪審團)

派出多位獨立分析師各自引證,再權衡推理品質、整合出結果的流程 006

latent diffusion model

先用 autoencoder 在空間上壓縮,在壓縮後的 latent 空間生成,訓練比較有效率 117

latent space / deterministic space

前者是模型負責的品味與判斷,後者是程式碼負責的確定性運算 021

launch readiness

上線前的檢查:找出退步,分辨可接受的取捨與嚴重的失敗 039

leaky prompt

Ali 的說法:指令直接指向測試檔或給出完整介面,等於洩題 069

learning system

記錄並隨環境演進更新對系統理解的記憶機制,讓不同任務共享學到的東西 094

lethal trifecta

Simon Willison 提的說法:agent 同時有私人資料、不可信內容與工具 008

level of detail

遊戲裡近的東西用高品質、遠的用簡化模型的做法,Arturo 拿來決定給助理多少場景資訊 115

literate code diffs

Geoffrey 的說法,指不直接丟檔案清單,而是依合理順序、每個檔案前先用文字說明的程式改動導讀 005

llama.cpp

本地推論專案,Merve 說 Hugging Face 已收購(原話為 kind of acquired) 088

loop

持續或定時對照目標評估系統狀態、決定下一步的系統 032

loop engineering

設計會持續提示、檢查、記憶並決定下一步的系統,不只是提示單次執行 011

loops

像排程的 cron job:找任務、寫 prompt、執行、自己驗證、失敗再試 004

manager agent

Peter 現在主要對話的長期運作 agent,判斷要不要做、派工給 worker、把結果帶回來 003

marketplace

Nubank 內部分享 skills 與 plugins 的地方,也是這套安全審查守的邊界 060

meeting bot

受邀進 Google Meet、Zoom 或 Teams 後全程旁聽,自動開 ticket、連到既有工作的 bot 096

mega kernel

想把整個模型 forward 寫成一個 kernel 的做法,Daniel 說 attention 讓它很難做 022

memo

錢真的要動時用的內部文件,要整合多份互相矛盾的來源並經得起質疑 064

memory harness

包在模型外面的記憶控制迴圈,由 core、recall block、archival block 組成 108

meta harness

由 LLM 讀軌跡與結果、回頭改進 harness 本身的做法 056

micro world

Yu Su 的用語,指每個領域、職業、公司各有自己的結構、限制與動態 105

micro-world

agent 替某段程式量身做的小環境或模擬,目的是讓人憑直覺感受它怎麼運作,不是拿來出貨 005

mini-SWE-agent

DeepSWE 用來測模型本身表現的精簡 agent;James Shi 說另外跟各家原生 harness 比過,表現相近 043

mode collapse

為了輸出穩定而犧牲多樣性,例如每次都把一個平均長相的人放在畫面正中央 117

model harness

調度 GPU 與 CPU 多執行緒、處理 interrupt 與 queue 的系統,讓影片即時不卡頓 118

model harness task fit

Vivek 借 Scikit-learn 的說法,把 model、harness、task 配適在一起,讓任務都通過 104

model-invoked / user-invoked skills

前者由模型依 description 判斷是否使用,後者由使用者用指令主動觸發 012

mongot

包著 Lucene 的 MongoDB 程序,MongoDB 核心本身不提供全文檢索 053

monitor thread

負責發現問題、再開新 thread 去處理的 thread 038

monorepo

把 10 個舊 repo 併在一起的新程式庫,現在幾乎每位開發者都會提交 092

multi-tenant LoRA

多位使用者共用同一份基礎模型權重、各自掛自己的 LoRA 做訓練與推論 010

multi-touch attribution

多重觸點歸因,go-to-market 裡沒有經驗上正確答案的難題 006

namespace / cgroup

container 的兩個基礎:前者隔離資源視野,後者限制 CPU 與記憶體用量 009

nanoGPT speedrun

比誰訓練得快的 benchmark,這場的成績是 70 秒 065

network sandbox

可設定 agent 能連哪些地方的限制;碰到未允許的目標時會詢問是否放行,可依 ticket 或整個專案授權 096

no-ops

對 agent 行為沒有影響的指令,AI 生成的 skill 常夾帶,只會多花 token 012

noise floor(雜訊底線)

真人資料自己的不一致程度,等於模型準確度的上限 057

non-replayability

無法重放:正式環境的互動沒辦法退回初始狀態再跑一次 074

non-verifiable tasks(不可驗證任務)

沒有標準答案可以驗證的任務,Sara Hooker 認為是日常任務的大宗 100

null origin iframe

gadget 介面所在的沙盒,加上 content security policy,讀不到 cookie,只能用 post message 跟外層溝通 086

o3

當年交付 Temporal 重構任務的模型,來回三小時,犯了 10 個重大錯誤 092

on-call agent

Resolve 最早做的 agent,對每個警報做分流與根因調查 094

on-policy

由目前這個模型自己產生的 rollout,相對於事先錄好的 production trace 102

online evals

拿線上真實資料做的評估,讓 eval 貼近實際使用 039

open weights

公開模型權重的模型,這場的主軸,Saoud 認為它會因成本優勢成為業界標準 090

open-weight models

開放權重模型;調查顯示多半與閉源模型搭配使用 027

orchestration tax

協調稅:同時跑很多 agent,合併、驗證、整合都要人的注意力,而注意力無法平行 011

outcome-based pricing

依成果計價,Natalie 說 Sierra 認為這個市場的定價多半會走向這種 054

outcomes / goal

Managed Agents 與 Claude Code 裡設定可量測終點的機制,由獨立 verifier 判定是否達成 033

package health check

示範一用到的工具,回報套件有沒有 CVE、是否持續維護與下載量 026

pairwise comparison

比對輸入圖與輸出圖,判斷輸出是否更好,結果是 yes、no 或 unsure 036

pairwise 訓練(A 對 B)

讓模型判斷兩支影片哪支比較好,取代 1 到 10 分的絕對評分 040

parametric / non-parametric learning

兩種學習形式;Yu Su 相信持續學習兩者都需要,難題是怎麼協同 105

parametric / non-parametric space

問答中的取捨:知識存進模型參數裡,還是存在參數之外 100

pass@k

修圖在第 k 次迭代內通過 QA 的比率,用來看迭代是否有效 036

perception agent

Antje Barth 團隊的稱呼:能像使用者一樣讀畫面、確認自己的成果,並在使用者操作時同步反應的 agent 034

perception agent harness

Amazon AGI Lab 開源的一套工具,目前釋出標註與驗證兩塊 034

persona

驅動模擬的人物設定,包含身分、使用情境、語氣與一致的底層資料 058

picoCTF

每年約有一百萬名高中生參加的資安競賽,fluorescence 在這裡拿到第二名 081

pinned thread

pin 在側邊欄的長期 thread,Jason Liu 把每一條當成一位隊友 038

plan mode

Matt 認為是更豐富的聊天訊息,仍然孤立、短暫,不是這場要談的東西 097

pre-commit hook

commit 前自動跑的檢查,Geoff 用它往 agent 回灌規則與提示 023

preference skills

記錄團隊專屬的流程、風格或語言偏好,較持久,要用 evals 保護 012

preference vector

Thais 提的做法:替每個人建立偏好向量並附到偏好資料上,保留多元偏好而不是混成雜訊 073

preset / task / bundle

Omar 的評測用語:一種 tutor 設定、一類任務、一次跑完存下的 JSON 結果 111

primitives

平台提供的共用基本元件,FDE 拿它們組出應用,而不是從零寫 047

private holdout

不公開的保留測試集,用來避免污染 069

process supervision

逐行給推理軌跡分數,而不是整條軌跡共用一個分數 022

product capabilities reference

產品能力參考表,每張卡片寫明功能、對各 persona 的價值與引用來源 006

production context

對自家系統的理解,例如服務如何互動、熱點在哪,用來判斷某個訊號重不重要 094

prompt caching

provider 存下已送過 token 的計算結果,重送時用很低的價格重用;壓縮或改寫 context 會讓它失效 111

prompt expander

一個小型 LLM,把使用者的短 prompt 擴寫成長而詳細的 prompt,比較貼近訓練資料的分布 117

proof-carrying code

程式附帶安全證明的做法,Erik 說是學界在 1990 年代發明的 008

proteomics(蛋白質體學)

量測蛋白質的一大類技術,資料量比前兩者少 078

prototype gravity

做出東西就急著發出去,只沿著點子迷宮的一條路走下去的狀態 097

qualitative feedback ingestion

把客戶給的意見回饋(而非二元的對錯分數)拿來更新模型;自我蒸餾是 Applied Compute 正在試的一種做法 074

quantization

以較少位元存權重,用來壓縮記憶體用量 042

recall block

harness 裡用來測試不同取回模式的區塊 108

receipt

跨輪留下來的證據,記錄系統允許了什麼、嘗試了什麼、執行了什麼、使用者可見的邊緣有沒有確認;有別於 transcript 只記 agent 說了什麼 063

recursive language models

把 context 當成模型可以反覆查詢的外部物件的研究方向 033

relevance mass self-distillation

用 LLM judge 取樣並挑出要從 teacher 學哪些 token 的做法 102

reliability vs plasticity

可靠的系統抗拒改變,可塑的系統喜歡改變;agent 兩者都要,人類就是兩者並存的活證明 105

remediation loop

critique agent 找出問題後讓 agent 自己修正的迴圈 039

remote control

用手機或瀏覽器連到本機正在跑的 Claude Code session 015

residual guidance

把半份 hint 的老師與完整 hint 的老師做線性組合,避免把模型推得離原分布太遠 110

resolver table

像是「要改測試時載入 tests.md」這類對照表,任務進來時決定交給誰處理,Garry Tan 稱之為組織圖 021

reward hack

agent 發現並鑽模擬環境的漏洞來過關 041

reward model

RLHF 裡給輸出打分的模型,Diogo 說它的不對稱會鼓勵模型顯得有把握 079

router replay

大型 MoE 訓練要記錄每層的路由資訊,儲存量是 token 與 log probs 的好幾倍 010

routing table(路由表)

Alex 整理的清單:依改動的風險決定該用哪種方式證明它沒問題 004

running profile

Shlok 對 ChatGPT「User Knowledge Memories」的簡稱:系統定期整理新對話、更新一份使用者檔案,再放進每次對話的 context 107

safe outputs

front matter 裡限定 agent 能寫出哪些東西的區塊,例如只能開單一 PR 或什麼都不做 093

scale with tokens

Leo 的第二條原則,把 FDE 流程的每個階段交給模型與 agent 052

scaled raters

大規模的人工評分員,要有 rubric 與範例才不會一直回頭問團隊 039

scaling compute on context

資料固定時,靠加算力讓模型對這份資料知道得更深;Jack Morris 說它可能是持續學習的子問題,也可能就是答案 109

scope

粗顆粒的權限,例如 read;這場主張用 capability 取代 029

scoping

接需求前先釐清誰要用、急迫從哪來、有沒有替代做法,確認要做的是對的東西 052

seccomp

過濾 container 能呼叫的系統呼叫與參數,以縮小 kernel 的攻擊面 009

self evolution

Olive 提到 M2.7 發表時談過的做法:用模型加速內部開發,並從中建出貼近自身工作的內部評估 068

self-distillation

自我蒸餾,較新的技術,已能誘發特定的新行為,適用範圍仍窄 074

self-play

模型自己出題、判斷答案並反覆練習,類比 AlphaZero 不靠人類知識就成為頂尖棋手 020

self-study

cartridges 論文的做法:依資料 D 產生問答,訓練模型像看著 D 一樣回答 109

session key

控制層把事件對應到的鍵,決定狀態的邊界 063

session lane

讓同一份可變狀態同一時間只有一個寫入者的通道 063

sidecar 容器

與 agent 主環境並行的容器,裝 API 服務、資料庫、MCP 工具等 041

sidekick

Cognition 用來取代多個 sub-agent 的設計:單一個持續保有 context 的 sub-agent 087

simulated user

用 LLM 加上專屬 prompt 與額外 context 來模擬真人使用者的行為 041

simulation

用模擬使用者與 mock 好的工具,對真實 agent 跑出大量多輪對話當評估資料 058

single cell biology(單細胞生物學)

把細胞拆開後量測裡面的 RNA,一次可產生 2 到 6 TB 資料 078

skeuomorphism(擬物)

讓數位介面模仿過去實體物品的外觀,Theo 用它比喻現在開發者對終端機的依賴 002

skill / plugin

skill 是幾個檔案加腳本;plugin 是一組 skills,可以從側邊欄安裝 038

skill file

一項能力、一份工作,寫到別人能照著執行的程度,Garry Tan 稱之為員工 021

skill library governance

管理大量 skill 的五個面向:admission、ownership、boundaries、lifecycle、coherence 059

skill registry

把 skill 的名稱、描述和路徑收在一起的清單,agent 靠它找到 skill 059

skillify

任務做完、滿意結果之後,把剛才的做法轉成可重用 skill 的動作 021

smart zone / dumb zone

Dex 的說法:context window 前段模型表現好,塞太滿就進入 dumb zone;給新手的建議是控制在約 100,000 tokens,用久了有直覺,這條就只是訓練輪 023

sovereign AI

個人與企業自己掌握模型與硬體,不會被收回,也能針對自己的用途優化 031

sparse autoencoder(SAE)

訓練在視覺模型上,當作免標註的標籤系統,用來篩掉簽名、浮水印等資料 117

spatial biology(空間生物學)

跟單細胞一樣量 RNA,但保留 RNA 在組織上的幾何位置 078

specs / code / evals

定義任務的三種語言:該發生什麼、一定要成立什麼、說不清的長尾行為 035

speculative decoding

用小模型近似大模型來加速推論的做法,最近冒出好幾種新作法 007

stability / plasticity

穩定性是把學到的東西留住並用於後續任務,可塑性是從新資訊學習,Parth 認為多數失敗落在其中一邊 101

staff augmentation

人力外包;Pauline 視為 FDE 專案最該避開的狀況 013

state owner

持久狀態被視為事實來源的那個系統,例如行事曆事件歸行事曆、程式碼變更歸 repo、使用者偏好歸 memory store 063

stateless baseline

每個任務之間重置系統,讓模型沒辦法累積經驗的對照組 101

state、action、outcome

從總帳、損益表、現金流量表與發票推出的企業狀態、動作與不同時間範圍的結果,是訓練資料的基本單位 062

stop reason

模型回應停下來的原因,例如要用工具或 token 用完;agent 迴圈靠它決定下一步 091

strategist agent

看過前面階段的脈絡後持續提出實驗點子的 agent,會根據各實驗的事後分析調整方向 056

studio

隨 Hyperframes 釋出的編輯器,用來手動拖拉微調,並支援 keyframes 030

superweights

一篇論文的概念:量化整個模型中的某一個數字,模型就會明顯變差 088

synthetic personas

用 LLM 扮演特定人物或族群,當作受訪者來測產品概念與訊息 057

system integrators(SIs)

系統整合商;Pauline 建議把 change management、已成熟產品的大規模導入交給他們 013

system of record

Udi 認為各領域贏家所擁有的資料底座,用它做出獨特資料集再訓練模型 062

systems of record

企業既有的記錄系統,例如 NetSuite、Dynamics、SAP、Salesforce,Varick 的 agent 架在上面 046

taint

Kubernetes 用來禁止 pod 排進某個節點的標記,這套系統靠它決定推論要不要轉出去 114

taint analysis

對程式追蹤不可信資料流向的分析,Erik 轉述 Geoff Huntley 的提醒:可以用它解 trifecta 008

talk box

Peter Frampton 的做法:把吉他聲音經一條管子送進嘴裡,用口型做出字 119

task list

V1 的端點,列出 server 上的 task,沒有過濾;V2 拿掉 083

task result

V1 取回結果的端點,也被拿來傳 input required,需要長連線 083

task set

與 agent 無關的資料與規則,Harbor、NemoGym、OpenEnv 這類既有環境都歸在這一類 010

the world's smartest novice

只放大模型、不累積專長的 agent:什麼問題都敢碰,卻每題都只能暴力解 105

thin index

CLAUDE.md 與 AGENTS.md 該有的樣子,只負責指路,讓 agent 一開始就知道去哪裡找 099

tldraw

自動關閉所有 PR 的專案,不管是否為 AI 產生 090

token max

強制大家把 token 用到最大量,Aditya 稱這是「galaxy brain」的做法 099

token maxing

沒有明確方向就部署 agent、只把 token 用量衝高;Jia 拿它形容早期的部署目標 048

trace

agent 每次運作留下的 tool call、輸出訊息、API 與 CLI 呼叫紀錄,是這場所有分析的原料 104

trending score

搜尋結果的排序依據,每五分鐘算一次,用的是下載數與按讚數,Arek 憑印象說是近七天 053

trigger evals

驗證 resolver 有沒有真的載入對的 skill 的測試,Garry Tan 稱之為績效考核 021

turbo credit

在外演講、寫文章等額外貢獻可得的點數,用來升等機票 085

turbopuffer

Simon Eskildsen 創辦的搜尋資料庫,資料放在 S3,熱的部分才載入快取 085

uRun

Keegan McCallum 創辦的推論服務,主打互動式媒體 113

unknown

計畫沒寫到、Claude 在真實程式碼庫裡撞上的決策點 001

value maxing

對照 token maxing 的說法:重點是從 agent 拿到價值,不是拚用量 003

velocity sickness

Matt 的用語,指 AI 讓產出暴增帶來的壓力,結果是有產出、沒影響 097

verdict

Addy Osmani 用來指工程師對 agent 成果的決定:上線、擋下、改方向或接受風險 011

verification debt

預設的 AI 程式品質與應用所需品質之間的差距,上線前要靠工程師補齊 095

verification layer

檢查合成乾不乾淨、能不能順利渲染的環節,有問題就讓 agent 重改 112

verification(驗證)

讓 agent 依設計規範檢查自己的成果,含視覺檢查與走使用流程,最後產出報告 034

verifier / rubric

替解答評分的機制,Ali 把它和 harness 一起當成 benchmark 的基本零件 069

verifiers

Prime Intellect 開源的環境函式庫,v1 版把環境拆成 task set、harness、runtime 010

vibe review

評估 AI 輸出的各種方法中,Barr 說一如往常排第一的做法 027

video DiT

LemonSlice 自己訓練的影片生成模型,是整套系統的起點 118

vitest evals

Sentry 做的套件,在 vitest 上加一點語法糖的 eval 工具 103

vocoder

把合成音符與語音疊在一起,讓聲音跟著吉他的音高出聲 119

voice-to-function calling

先用 ASR 把語音變文字,再由微調的小模型轉成函式呼叫 042

voice.md

模型根據 Eve 在網路上的文字蒸餾出的語氣檔,描述語氣與特色 019

warm pool

預先備好的沙盒池,讓 GPU 不用等沙盒啟動 016

website to video skill

Hyperframes 的 skill,給一個網站就抓素材與品牌,產出影片 030

well-known agent configuration endpoint

仿 OIDC 的 well-known 設想的公開端點,讓服務公布怎麼互動與有哪些 capabilities 029

willingness to pay

受訪者願不願意買、願意付多少,價格實驗與文字換分數兩個例子測的都是它 057

worker agent

接手看板上的卡片,負責寫程式與 Slurm 設定、送出任務、看訓練曲線並寫事後分析 056

workerd

Cloudflare Workers 的開源執行環境,可自行架設;這場的示範就跑在 Kenton 的筆電上 086

workflow agent

第二階段,嵌在平台內,確認 FDE 建的流程有照實反映要重整的流程 046

workflows

讓 Claude 編排多個 sub-agent、各自拿到詳細 prompt 的工具,也被拿來做旅遊與行程研究 015

zero trust 驗證

不管程式碼是人或 AI 寫的,都用同一套可稽核、可重複的方法檢查 095

個人 monorepo 模板

Jason Liu 公開的 Git repo 模板,有 projects、people 等目錄與一批 skills,用來累積個人記憶 038

原子事實(atomic facts)

從群組對話抽出、日後可能用到的最小資訊單位,取代整段存下再壓縮 061

可驗證性三軸

驗證的不對稱性(驗證有多難)、真確性(對「正確」有多少共識)、擴散性(真實世界多常給出新的已驗證範例) 044

外圈與內圈

外圈是上線、回饋、資料、再訓練;內圈是評估與獎勵設計,用來衡量每個 checkpoint 017

專家式評審

第一版那組逐格指標加 LLM judge 的評審組合,後來被蒸餾成小型 VLM 040

批次推論與即時推論

前者送請求拿回檔案,後者要串流像素、維持 session 記憶,批次那套不能直接搬來用 116

抽象與 eval

Zhengyao Jiang 的框架:程式碼的抽象決定 agent 能探索什麼,eval 決定它朝什麼最佳化 018

模型副本雜湊

對分散式訓練各副本的權重算雜湊、定期比對,不一致就中止訓練 045

零信任多層驗證

混用不同模型與技術,結合演算法式與 agent 式檢查 025

驗證器(verifier)

判定模型解答對不對的測試,這場主張它應看可觀察行為,不綁特定實作 043