客服 AI agent 的透明與可量化

097 · 客服 AI agent 的透明與可量化

30:09YouTube 上架 2025-01-16Jesse Zhang（Decagon CEO）

No Priors Ep. 97 | With Decagon CEO and Co-Founder Jesse Zhang

Jesse Zhang 談 Decagon 為什麼把客服當成 AI agent 的黃金場景，以及透明度、instruction following、語音延遲，還有哪些 agent 場景短期內很難落地。

097 講了什麼

客服是找出來的場景Jesse 和共同創辦人 Ashwin 一開始只是對 AI agent 有興趣，和一批客戶談過之後，才認定客戶互動是最貼合 LLM 長處的場景。當時還沒想到什麼願景，只想讓眼前的客戶滿意。
賣點是不當黑盒子Jesse 說大型客戶很在意看得到 agent 用了什麼資料、怎麼得出答案，也要能給回饋。Decagon 因此做了觀察、解釋與控制的工具，並認為這是目前最大的差異。
模型之上才是主戰場Jesse 認為大家用的是同樣的模型，真正的差異在 orchestration layer 和周邊軟體，例如讓 LLM 讀完每一場對話、找出知識缺口並分類。
客服要的是 instruction followingJesse 說程式與數學推理的進步有幫助，但對客服最關鍵的是照著 SOP 一字不差地執行。
語音的瓶頸在延遲Jesse 說客戶看到文字 agent 的成果後開始想要電話客服，voice to voice 延遲低，但有些情況需要額外運算，各客戶的取捨不同。
短期對多數 agent 場景偏保守Jesse 認為能落地的場景要能慢慢上線、不必一開始就完美，而且投資報酬容易量化。text to SQL 是反例：最後只成了需要人盯著改的 copilot，很難替「AI 資料科學家」定價。

從哪一段開始看14 段

00:03開場與背景主持人介紹 Decagon 與 Jesse。Jesse 從在 Boulder 長大、念 Harvard 資工、第一間公司被 Niantic 收購，講到透過共同朋友認識 Ashwin，以及一路談客戶才走到客服這個場景。
02:28Decagon 做什麼提供客服端的 AI agent，特色是透明：大型客戶要能看到決策依據、用了哪些資料，也能給回饋；目前已有不少大客戶上線。
03:16Klarna 案例與效益主持人引用 Klarna 執行長的推文數字。Jesse 說客戶看的永遠是兩件事：AI 能做掉多少比例的對話，以及顧客滿意度與 NPS；受監管的行業還會要求準確度。
06:09Bilt Rewards 案例用戶成長快、客服量跟著暴增；開始用 Decagon 約一個月就不必再擴編，快一年時已經重整客服團隊，公開的案例算出來省下約 65 位客服人力。
08:14模型之上做了什麼大家用同樣的模型，差異在 orchestration layer 與周邊軟體：依客戶商業邏輯組合模型，並做出能看資料、看步驟、分析海量對話的工具。
10:38缺的是哪種智力近期模型多在量化推理上進步，對 Decagon 有幫助但不是關鍵；客服 SOP 最需要的是精準的 instruction following。
12:15語音客服主持人問語音的影響。Jesse 說影響很大，客戶先從文字看到成效，才想把同樣的事做到電話上，並與語音模型公司密切合作。
15:09延遲的取捨voice to voice 延遲低，但有些場景需要取資料或多次呼叫模型；先轉成文字、算完再生成語音的路線一定多一點延遲，可以先開口說「稍等，我查一下」。各客戶的取捨不同。
16:28數學競賽圈與 AI主持人問為什麼這群人這麼多在做 AI 公司。Jesse 說大家年紀相近、早就認識，而且近幾年新創變主流，原本會走學界或量化交易的人轉進來。
19:49招聘與社群活動同樣背景算是好訊號，但招聘流程基本上沒變；辦競賽或解謎活動是聚集工程師、認識人的好時機。
21:06未來 12 到 24 個月期待多模態：agent 看得到整個畫面、能帶人操作；Jesse 覺得 Anthropic 的 computer use 示範還不到 production ready。另一個判斷是人的工作會變成監督與編輯 agent。
23:56差異化與評估客服成效容易量化，客戶會先放 1% 的量試，可能同時試 Salesforce 這類老牌廠商，再拿數字一起比。Jesse 說目前表現很好，主因就是觀察、解釋與控制這一塊。
25:30哪些 agent 場景做得起來Jesse 認為以現在的模型，多數場景短期不會有真正的商業採用。第一種卡在得一開始就近乎完美，例如資安，模型本質上不確定，買方很難信任。
27:18投資報酬算不出來第二種是投資報酬難算，例如 text to SQL 最後變成要人盯的 copilot。回頭看這一年，能落地的場景要能慢慢推、不必一開始就完美，又能清楚量化，coding agent 與客服都是。

值得記的話5 句

we see ourselves very much as a software company我們很把自己當成一間軟體公司08:14
in our use case the type of intelligence that matters the most we would probably describe it as instruction following在我們的場景裡，最重要的那種智力，我們大概會說是 instruction following11:10
there's going to be a lot more people that are supervising and editing agents會有更多人在監督與編輯 agent22:38
the results are very quantifiable成果很容易量化23:56
it has to be able to be something that can be rolled out slowly它得是可以慢慢推出去的東西28:50

名詞與人物9 個

Jesse Zhang: Decagon 共同創辦人兼 CEO，在 Boulder 長大、念 Harvard 資工，第一間公司被 Niantic 收購。
Ashwin: Jesse 的共同創辦人，在印度長大，也參加過很多數學競賽。
Decagon: 提供企業級客服 AI agent 的新創，成立於 2023 年 8 月。
orchestration layer: 把多個模型組合起來、貼合客戶商業邏輯的那一層。
instruction following: 照指示精準執行的能力，Jesse 認為這是客服場景最需要的智力。
voice to voice: 語音直接進、語音直接出的模型，延遲低，但有些場景需要額外運算。
Klarna: 歐洲的先買後付服務，執行長在 X 上發文談 AI 對客服團隊的影響。
Bilt Rewards: Decagon 的客戶，用來累積點數或付款；Decagon 拿它發表過客服人力節省的案例。
NPS: 淨推薦分數，客戶衡量顧客滿意度時和滿意度分數一起看。

提到但沒有展開

主持人引用 Klarna 執行長推文裡的數字：頭四週處理 2.3 million 場客服對話，滿意度與真人相當，重複詢問比真人少 25%，解決時間是 2 分鐘對真人的 11 分鐘，並馬上在 23 個市場、35 種語言 24/7 上線；主持人記得的是 700 位全職客服轉去做其他工作。
數學競賽圈的互助很非正式：主持人點名的那幾家公司，Jesse 天使投資了不少，那些創辦人也是 Decagon 的天使投資人；招人、做銷售、訂薪酬這類問題都能互相參考。

在 YouTube 看原片 ↗

Decagon