← 回Software Factories @ AI Engineer
Notion004 · AI Engineer World's Fair

Your Supplier is Your Competitor

從「AI 富翁」到「Token 窮人」的永續策略

Sarah Sachs(Notion,AI Engineering Lead) · 2026-07-23 · 23:55

Notion's Token Town — Sarah Sachs, Notion

23:55長度
4金句
6名詞
12段落

Notion 的 Sarah Sachs 用採購談判的角度看模型供應商:對方同時是競爭者,所以架構要能隨時換人。

重點摘要

5 件事

供應商即競爭對手向 Frontier Lab 購買 token 再轉售,本質上是以很差的成本結構在做轉手生意;建立單一供應商依賴不僅成本高昂,更失去任何談判籌碼,是 AI 原生公司最貴的決策之一。

兩件不同的事:別用最強的模型,跟根本別用模型收件匣分類這種活拿 Opus 去做,講者說那是在坑客戶也坑自己——它仍然是模型任務,只是不該用最貴的那顆;而 deterministic SQL 查詢、CSV 轉 PDF、工具呼叫這類根本不需要 LLM,分不清楚這兩者就是變成 token poor 最快的路。Notion 的 auto model 承接約 75% 的流量。

模型不可知是核心槓桿將模型選擇從架構中解耦,讓 Notion 可以快速切換供應商;談判中若無法「威脅離開」,折扣永遠比不過喪失的定價主導權。開放權重模型則在 Frontier Lab 構成的寡頭壟斷外提供另一個向下施壓的力量。

安全性的 Lethal Trifecta接觸私有資料、暴露在不可信內容下、具備對外通訊能力——三者同時存在就形成致命風險,agent 系統越自主、監督越少,這個風險就越不受控;這才是接下來六個月的核心挑戰,不是能力問題。

Notion 軟體工廠實作透過任務規格自動生成、多 agent 協作(Claude + Codex + Decagon)與可觀測的協作文件,讓 PR 生成到品質審查都在同一個系統內完成,客戶平均每個任務節省超過三分鐘。

時間軸 · 金句在右

12 段 · 時碼連回 YouTube

開場:token town破題問的是怎麼從 AI 富有走到 AI 貧窮,也就是這套東西怎麼做得起來又撐得住。
AI 轉型的四個階段人與人、人與 agent、agent 與 agent 逐層推進;講者說 88% 的人連 assistant 這一關都過不去。
成本是規模化的結構性障礙模型定價不透明加上頻繁升級,讓應用層公司陷入「不更新被甩開、更新成本飆升」的困境。
供應商即競爭對手Frontier Lab 同時是你的供應商與產品競爭對手,以差的 token 成本轉售是無法長久的商業模式。
07:28
「your supplier is your competitor.」你的供應商就是你的競爭對手
「if you tie yourself to one provider, you have no exit.」如果你把自己綁在一個供應商上,你就沒有退路了
能力過剩與任務適配不同任務對模型的需求天差地遠;Citadel 研究指出簡單模型可能是最符合成本效益的生產力工具。
09:34
「Not all traffic is equal. It is a huge miss to send all of these to the latest opus model.」不是所有流量都一樣,把所有請求都送到最新的 Opus 模型是很大的失誤
定價結構的寡頭邏輯Frontier Lab 的定價激勵與能力成長脫鉤,最好的模型定價最高、次好的只需便宜一點就搶走剩餘市場,導致價格競爭不激烈。
11:09
「that optionality is your leverage if you don't have the capability to walk at any point you are stuck.」那個可選擇性就是你的槓桿,如果你隨時沒有能力離開,你就被困住了
Notion 的 AI Switzerland 策略維持模型不可知,自動路由 75% 流量到成本較低的模型,保留對所有 Frontier 模型的即時切換能力。
開放權重模型的策略價值開放權重模型不只是降低成本,更是對寡頭壟斷供應商施加定價壓力的談判籌碼。
CPU 優先:別用 LLM 做確定性任務確定性 SQL、CSV 轉換、工具呼叫這類任務不需要 LLM;Notion Workers 正是為此而生,許多公司在這裡白白消耗 token。
安全性的 Lethal Trifecta私有資料 + 不可信內容 + 對外通訊能力三者並存就形成高風險;agent 系統越自主,這個風險越不受控。
Notion 軟體工廠 DemoClaude 自動生成任務規格、多 agent 接力處理 PR 與品質審查,可觀測的協作文件讓整個流程在同一系統中完成。
結語:靠理解模型贏得市場AI 市場不透明且快速演進,真正的競爭優勢來自理解哪些任務需要哪種模型,而非盲目押注特定供應商。

名詞與人物

6 個

Sarah Sachs講者,Notion AI 工程負責人,負責 AI 合約談判與模型策略。
AI SwitzerlandNotion 的模型不可知策略,同時提供多家 Frontier Lab 模型並讓客戶自選,避免供應商鎖定。
Auto ModelNotion 產品裡放在最上面的預設選項,承接約 75% 的流量,由系統決定實際用哪個模型。
Notion WorkersNotion 推出的確定性運算服務,用 CPU 處理不需要 LLM 的任務(如 SQL 查詢、CSV 轉換)。
Lethal Trifecta安全風險框架:私有資料存取 + 暴露於不可信內容 + 對外通訊能力三者並存時形成的高風險組合,講者說是 Simon Willison 提出的。
Frontier Lab指頂尖模型實驗室,一邊把 Frontier 模型賣給應用層公司,一邊自己做下游產品競爭;講者刻意沒有點名。

延伸

演講裡沒展開的

  • 演講引用了「Citadel 備忘錄」關於簡單模型與 Frontier 模型分流的分析,未說明完整來源與研究方法。
  • 講者提到與 Parallel(網頁搜尋供應商)的合作評估案例,說明以整條搜尋軌跡而非單次呼叫延遲評估供應商的方法,未展開評估框架細節。
  • Notion 的多 agent 軟體工廠整合了 Claude、Codex 與 Decagon,演講以 Demo 方式展示,但未說明各 agent 的分工決策邏輯。

標籤

原片

產業觀察開發工具Agent

在 YouTube 看原片 ↗