Shopify 把 AI 放進商家工具

049 · Shopify 把 AI 放進商家工具

38:48YouTube 上架 2024-01-31Glen Coates（Shopify）

No Priors Ep. 49 | With Shopify VP of Core Product Glen Coates

Glen Coates 談 Shopify 的 code red 與組織重整、同一層堆疊重複造輪子的代價，以及 Sidekick 與 Shopify Magic 為什麼只准建議、不准直接存檔，還有商品資料與搜尋的改造。

049 講了什麼

code red 是系統問題的症狀Glen 說 2020 年 checkout 以好幾種方式在壞，高峰期大概有兩三百人投入。那一年結束時 Toby 回頭追問為什麼會走到這一步，帶出了組織重整：原本 12 到 15 個零碎的業務單位，現在只剩三四個。
Shopify 為什麼留得住創辦人Glen 底下九或十位主管各帶兩百人上下的 R&D 組織，其中很高比例也當過創辦人。Glen 說 Toby 這幾年不再避諱直接表態，很多前創辦人也把那種「有觀點、敢硬推」的決斷力帶回來。
同一層堆疊不該有兩份Glen 以 checkout 與後來長出來的訂單編輯、開發票為例：一開始只是補一個小功能，最後變成第二套議價引擎，一個月的功能拖成六個月。解法是培養看出重複的直覺，發現之後就認命合併。
AI 只提議、人來存檔Glen 說 Shopify Magic 的功能目前只能提出修改，使用者讀過、按下儲存才算數。這也讓團隊拿到三種回饋：直接接受、小改後接受、直接拒絕。
商品資料與搜尋是另一條主線商品資料模型要支援更多變體，並加上標準分類與屬性，由 AI 猜類別與屬性值；店內搜尋則從字面比對改成懂意思，Glen 舉 LBD 和「參加婚禮穿的」為例。
從 75% 到 95% 很辛苦Glen 說 agent 類的東西 10 分鐘就能做到 75%，往 95% 爬是一段殘酷的長坡；好在新模型不斷出現，同一批訓練資料與 evals 可以直接拿去套。

從哪一段開始看16 段

00:05開場與背景主持人介紹 Glen 帶領 Shopify 的核心開發者平台與 AI 產品。Glen 從遊戲業講到環保購物袋公司，再到創辦 Handshake，2019 年被 Shopify 收購。
02:12什麼是 code redToby 寄信給全公司，宣告某件事是第一優先，被找去支援的人要放下手邊的事。Glen 帶的是 2020 年的 checkout code red。
03:15組織重整那一年結束時 Toby 回頭問問題為什麼會發生，公司從 12 到 15 個小型業務單位變成三四個，帶人的方式也得跟著改。
04:02創辦人在 Shopify主持人問為什麼被收購的創辦人留得下來、還能升上去。Glen 說很多前創辦人回到「有觀點、敢硬推」的做法，Toby 也重新擁抱這點。
07:10整合收購與重複的堆疊主持人問怎麼整合收購來的技術。Glen 說同一層堆疊不該有兩份，並以 checkout 與訂單編輯、發票為例說明重複的代價。
12:13Shopify 與 AI主持人問 AI 怎麼導入。Glen 說 Shopify 的使命是讓更多人跨過創業的門檻，AI 像是一位懂得所有開關的駕駛，幫人把寫商品描述這類卡關的事做完。
15:54輸出不確定，怎麼敢上線AI 功能只准提議、不准直接存，使用者要自己按儲存。Glen 說這樣風險可控，還能累積三種回饋；哪天接受率夠高，才可能考慮全自動。
18:46商品資料模型與分類Sarah Guo 請 Glen 介紹最近的新功能。資料模型要支援大量變體，API 得從不分頁改成分頁，影響整個 app 生態；新的標準分類會用 AI 判斷類別與屬性，也讓商品在 Google 等平台更容易被找到。
21:41圖片編輯第一版 AI 圖片編輯可以替換商品圖背景，讓辦不起昂貴攝影的人也能呈現專業的樣子。
22:30語意搜尋現在的 Shopify 搜尋很字面，Glen 搜 sweater，卻因為店家只寫 sweatshirt 而零結果。新的搜尋能處理 LBD、聖誕主題的鞋、婚禮穿什麼。
24:06embedding 與多模態要替不同品類挑 embedding、做 fine-tuning，也還在試文字、圖片、分類屬性各給多少權重。店裡有 10,000 個商品要補屬性時，90% 正確的猜測就是一大幫助。
25:5975% 到 95%Glen 說 Sidekick 這類東西很快做到 75%，往 95% 爬很辛苦；但訓練資料、使用者回饋與不斷出現的新模型都在幫忙。
28:40rabbit 與以畫面為介面的 agentGlen 談 CES 上的 rabbit 把 GUI 當成介面，連到 Sidekick 該呼叫 admin API 還是直接操作畫面。Glen 認為這招若做得成，等於一次擁有整個網路上的 app。
32:05LLM 原生搜尋Glen 觀察 Perplexity、Google、ChatGPT 的三角角力，好奇使用者究竟要事實還是意見，又能容忍多少摘要壓縮帶來的失真。
34:27童書與 Nike 的測試Glen 用「適合六歲女孩的經典童書」測試：Google 與 Amazon 的結果很糟，ChatGPT 的推薦卻很好；但問特定尺寸、特定門市的 Nike AF1，ChatGPT 就很糟。
35:47搜尋分型與市場切分Elad Gil 說自己在 Twitter 時帶過搜尋團隊，做搜尋的人習慣把查詢分成導航型、資訊型等類型；Glen 接著談事實與意見的分界。Sarah 認為搜尋未必永遠是一個市場，可能會被切開。

值得記的話5 句

usually a code red is a symptom of some other much more systemic problemcode red 通常是另一個更根本的系統問題的症狀02:44
they're allowed to propose changes but not commit changes它們可以提議修改，但不能直接寫入16:27
it's like this brutal Hill Climb to get it to like 95% like over time接下來要把它拉到 95%，是一段殘酷的爬坡26:15
every time it emits a token it's hallucinating它每吐出一個 token 都是在幻覺26:49
the world's largest app store is just the web世界上最大的 app store 就是網路本身30:00

名詞與人物10 個

Glen Coates: Shopify 產品副總裁，帶領核心開發者平台與 AI 產品。
Handshake: Glen 創辦的 B2B 電商平台，後來等於「只做批發的 Shopify」，2019 年被 Shopify 收購。
Toby: 主持人稱為帶領 Shopify 的技術型創辦人；code red 由 Toby 發出，Glen 形容意見很強、做決定很果斷。
code red: Toby 寄給全公司的信，宣告某件事是最高優先，被找去支援的人要放下手邊工作。
Shopify Magic: Shopify 的 AI 功能，產出的內容要使用者確認後才會存。
Sidekick: Shopify 的 AI 助手，在 admin 旁邊陪著商家操作。
human in the loop: 讓人把關每個 AI 建議，並從接受、小改、拒絕拿到回饋。
product taxonomy: 標準的商品分類與屬性，由 AI 判斷類別與屬性值。
rabbit: CES 上發表的硬體，做法是讓模型直接操作網頁 app 的畫面，而不是串 API。
Perplexity: Glen 談 LLM 原生搜尋時，跟 Google、ChatGPT 並列的一方。

提到但沒有展開

商品變體大幅增加時，API 要從不分頁改成分頁，對整個 app 生態是一次 breaking change，Glen 說這正是這件事難的地方。
Glen 說即使 Shopify 的商品資料模型相當簡單，還是做到美國電商大約 10% 的量。
Glen 認為讓 Sidekick 跟使用者操作同一個畫面，好處是每次介面更新，只要模型夠聰明就能直接用上新按鈕；但也有業界的人覺得這條路極難走。

在 YouTube 看原片 ↗

Shopify