Sierra

082 · 公司專屬 agent 與成果計價

48:31YouTube 上架 2024-09-19Bret Taylor（Sierra CEO）

No Priors Ep. 82 | With CEO of Sierra Bret Taylor

Bret Taylor 把 agent 分成三類，說明 Sierra 為什麼專攻替品牌做客服 agent，也談 AI 市場為何會像雲端一樣分層、成果計價，以及語音與裝置的下一步。

082 講了什麼

• 三類 agent 的成熟度不同Bret 把 agent 分成 personal agents、persona-based agents 與 company agents。Personal agents 最早期，需要的技術比現在能用的還多；persona-based 像 Harvey 與 coding agents，範圍窄但做得深；company agents 是 Sierra 做的，Bret 認為現有技術已經「shovel ready」。
• 對話成本掉一個數量級Bret 說客服打一通電話的全部成本大約 $13，用 AI 可以壓到遠低於一美元。Bret 認為這對消費者客戶多的公司影響最大，之後公司可能反過來讓對話變成客戶體驗的一部分。
• 只讓 agent 回答問題不夠Bret 說多數客戶互動是要採取行動，例如退貨、改訂閱、申請理賠，要動到 10 個以上的 systems of record。Sierra 的做法是讓客戶用「目標與護欄」描述流程，而不是一棵決策樹。
• AI 市場會像雲端分層Bret 認為 pre-training 會集中在少數公司，中間有 Scale AI 這類工具公司，最上層是替企業解決問題的 solutions。模型每次更新都讓自己價值下降的新創，可能只是在模型上加了一點東西。
• 照成果收費Sierra 採 outcome based pricing，也就是做完一件事才收錢。Bret 拿廣告從 impression 轉到按點擊計價來類比，認為軟體價值會比過去更容易衡量。
• 客戶體驗團隊要能管 agentBret 認為 AI 不該只歸技術團隊管，所以 Sierra 做了讓客戶體驗團隊檢視與調整 agent 的工具。Bret 也談到品牌個性、語言、等待時間與未來的裝置形態，並希望 agent 能代使用者處理事情。

從哪一段開始看18 段

1. 00:05開場與 agent 定義主持人介紹 Bret 的經歷與 Sierra。Bret 先給學術定義：能自行推理並採取行動的軟體。
2. 01:07三類 agentpersonal agents 最早期，需要的技術比現有的多，Bret 認為大概是 Apple、Google、OpenAI 這類大消費品牌的戰場；persona-based agents 像 Harvey 和 coding agents，範圍窄但深，每個領域都會有像樣的公司。
3. 03:45company agentsSierra 做的是品牌自己的對話式 agent。Bret 用 1995 年有網站、2025 年有品牌 AI agent 來類比。
4. 05:52Sierra 的客戶例子Sonos 的 AI 協助設定與除錯，SiriusXM 的 Harmony 處理升降級訂閱。Bret 預期三四年後 agent 會涵蓋公司的所有服務。
5. 07:58對話成本降一個數量級客服一通電話約 $13，AI 可壓到遠低於一美元。消費者客戶多的公司受益最大。
6. 10:02RAG 不夠用把模型接上內容資料庫只是回答問題；實際互動多半要在 10 個以上的系統裡採取行動，還要符合商業與法規目標。
7. 12:05目標與護欄從規則引擎走向目標與護欄。控制太死會很死板，放太開可能出現幻覺或違反政策。
8. 14:40AI 市場像雲端少數公司做 pre-training，其上有工具公司與 solutions。Bret 說自己不完全同意主持人對延遲與安全的看法。
9. 19:41模型進步對 Sierra 的意義模型變好，Agent OS 跟著變好；Bret 認為所有用例都來自基礎模型的說法大概是錯的，並以 SaaS 的歷史類比。
10. 24:41成果計價照做完的工作收費而非照 token。Bret 以點擊計價類比，說軟體價值會更容易衡量。
11. 28:33實際案例與應用領域主持人舉一家公開談過客服自動化成果的公司：滿意度上升、每位客戶花的時間變少，團隊也少了約 700 人。主持人接著說企業採用最多的是 coding、customer success 與銷售行銷，問 Bret 下一波在哪裡。
12. 29:51分析師角色Bret 期待 agent 成為分析師的「Iron Man suit」，但提醒語言模型對數值與表格資料需要額外功夫。
13. 31:24讓客戶放心與評估先把流程形式化，再用 proof of concept 面對真實使用者；客服團隊要能親手檢視與調整 agent。
14. 32:56長尾與隨時在變的系統從分類選單變成自由輸入的文字框，就像從 Yahoo directory 走到 Google search，會冒出連客戶自己都沒預期的用例；客戶體驗團隊要跟著客戶行為持續調整，這不像跑 A/B test。
15. 35:49品牌個性與語氣agent 是品牌大使，語氣靠 prompt、post-training 與 supervisor models 控制；醫療與財務建議這類敏感內容要多一層把關。
16. 39:12等待、語言與教育訓練Bret 認為壞體驗的第一名原因是等待。主持人補充一個 agent 就能支援多種語言；Bret 再舉新產品上線的例子：不必重新訓練 call center 的 5,000 位客服，按個鈕就好。
17. 41:18裝置形態Bret 認為手機大概不會消失，但會搭配 AirPods、CarPlay，透過不同的模態互動；也好奇螢幕時間會不會因此減少。
18. 46:47agent 代替人處理事情Bret 希望加上護欄的 agent 替人做事，讓人能放下手機專心生活。

值得記的話5 句

• in 2025 existing digitally will probably mean having a branded AI agent that your customers can interact with到了 2025 年，在數位世界存在大概就代表有一個客戶能互動的品牌 AI agent04:01

• now we're moving to a world of goals and guardrails現在我們正走向一個講目標與護欄的世界12:20

• I think the AI Market will rhyme with the cloud Market of the past 15 years我認為 AI 市場會跟過去 15 年的雲端市場很像；前面先引了 Mark Twain「歷史不會重演，但會押韻」14:59

• the solution to every problem in AI is more AI我們辦公室的玩笑：AI 每個問題的解法，都是更多 AI37:22

• instant gratification is actually one of the main values of these systems馬上得到回應，其實就是這類系統最主要的價值之一39:59

名詞與人物11 個

Bret Taylor

Sierra CEO。主持人介紹時提到 Google Maps、Facebook CTO、Salesforce co-CEO，也當過 Twitter 董事會主席，現在是 OpenAI 董事會主席。

Sierra

Bret 與共同創辦人創辦的公司，替企業做品牌專屬、面向客戶的 agent。

personal agents

替個人處理收件匣、行程、會議準備的 agent，Bret 認為是三類裡最早期的。

persona-based agents

負責某一個明確職務的 agent，例如法務、coding，範圍窄但深。

company agents

Bret 的用詞，指代表公司品牌、與客戶對話並採取行動的 agent。

Agent OS

Sierra 平台的名稱，客戶在上面定義客戶體驗的目標與護欄。

Harvey

本集用來代表法務領域的 persona-based agent。

RAG

retrieval augmented generation，把模型接上內容資料庫當依據；Bret 認為只靠它不足以支撐有意義的客戶體驗。

goals and guardrails

取代規則與決策樹的描述方式，說明要達成什麼，以及哪裡可以讓 AI 發揮、哪裡不行。

outcome based pricing

按完成的結果收費，而非按 token。

supervisor models

由一個模型監督另一個模型，用來控制語氣與敏感內容。

提到但沒有展開

• Bret 提到 Sierra 客戶多為消費者公司，B2B 公司也能用，差別主要在客戶數量，影響與決策的重點不同。
• Bret 認為 instruction tuning 讓模型自然會反映對方的情緒與語氣，品牌可以決定要不要順著調整，也能反映使用者的語言。

在 YouTube 看原片 ↗