Alyssa Henry

044 · 從 Square 到 AWS 看 AI 新浪潮

39:36YouTube 上架 2023-12-14Alyssa Henry

No Priors Ep. 44 | With Former Square CEO Alyssa Henry

Alyssa Henry 從 Square 的小商家出發，談生成式 AI 如何打開沒人服務的需求，也聊雲端與模型公司的結盟、開源的賺錢難題，以及 AI 晶片的競爭格局。

044 講了什麼

• 易用性打開潛在需求Alyssa 認為，東西變得更容易用、更便宜，就會冒出原本沒人服務的需求。小商家知道該做行銷卻沒時間，這類過去一直沒被做完的事，現在有機會做完。
• Square 早就在用機器學習Square 用機器學習管理風險與詐欺、做交叉銷售。Alyssa 說在這一波 AI 浪潮之前，Square 的 Square Messages 產品就已經用 GPT-2 做虛擬助理，協助回覆客戶詢問。
• 實體店的數位化落後線上Alyssa 說實體店的數位化速度明顯落後線上，原因是太難或太貴。Square 的 Photo Studio 從寄件拍攝演變成手機 App，Alyssa 認為生成式 AI 讓門檻再降低。
• 接下來是整合與打包Alyssa 看到商家的工作流程常在多個工具之間複製貼上，預期產業會從拆開賣走向 bundling，打包後的價格可以低於各部分加總。
• 雲端、模型與開源Alyssa 說 AI 是在雲端上增加新的工作負載，不是取代舊的；雲端商看起來都同時押了好幾注；開源模型有企業需求，但怎麼靠它賺錢仍是問題。
• 晶片市場不會是壟斷Alyssa 認為 NVIDIA 賣得最多，但會有明確的第二名；晶片設計也在往 chiplet 這種模組化的方向走。

從哪一段開始看16 段

1. 00:06開場與 Square IPO主持人介紹 Alyssa Henry 的經歷。Alyssa 說最難忘的是 Square 上市那天，紐約證交所外的看板貼滿小商家的 logo，寫著「the neighborhood is going public」。
2. 02:11職涯在產品與管理間來回主持人比較 Square 偏事業單位、Twitter 偏職能導向的運作。Alyssa 說自己在產品工程與總經理角色間來回幾次，愈資深，工作愈像是引發並化解衝突。
3. 04:00Square 的機器學習面對數百萬小客戶，Square 用機器學習判斷好壞客戶、決定行銷對象；訊息產品更早就用上 GPT-2。
4. 06:06小商家的行銷痛點店主知道該做行銷，下班後卻沒力氣；AI 把門檻降低，開出過去沒被服務的需求。
5. 07:41實體店數位化與後台Alyssa 說實體店的數位化落後線上；Photo Studio 從 Brooklyn 的實體攝影棚變成手機 App。後台的現金流與暢銷品分析也有機會。
6. 12:16內容生成的潛在需求主持人談各種情境對內容生成的需求。Alyssa 用文書處理軟體的例子說，降低門檻會讓市場暴增，很多是原本不會有人做的工作。
7. 14:54為什麼這麼早用 GPT-2當時在 Square 董事會的 Vinod Khosla 打電話來，介紹一家自己投資、正被別家公司接洽收購的新創。兩位創辦人是 Stanford 機器學習博士，Alyssa 印象中是 2018 年左右收購，讓團隊去做面向商家的體驗。
8. 16:49整合與 bundling商家的工作流程在多個工具之間複製貼上、整合不足。Alyssa 預期從拆開賣走向打包，類別之間的界線會模糊。
9. 18:38AWS 與新一波運算主持人請 Alyssa 談雲端創新。Alyssa 說 AI 帶來 GPU 運算的爆發，是在加新工作負載而非取代舊的，現在像是一場 land grab。
10. 20:33服務會變多，還是模型變大主持人觀察目前的模型服務很單一。Alyssa 認為兩者都會有，並以 S3 為例，說多數 AWS 服務裡都找得到它。
11. 22:59雲端商與模型公司結盟三大雲端商中有兩家與特定模型公司關係密切。Alyssa 認為各家都在下多重賭注，誰會贏還不清楚。
12. 25:02開源模型與賺錢難題Sarah 想起當年在 Alyssa 剛到 Square 時問過的開源問題，被一句話點破。Alyssa 說企業對開源模型有需求，但怎麼賺錢是問題，雲端商有現成客戶，優勢明顯。
13. 27:58AI 晶片的競爭主持人問起 Alyssa 在 Intel 董事會的視角。Alyssa 說不會被壟斷，會出現明確的第二名，工具往上走時會創造機會。主持人接著提到 GPU 與 Transformer 可能像 Wintel 那樣互相強化，但也說對 Transformer 能否一直當主流，現在沒那麼有把握。
14. 32:10晶片走向模組化Alyssa 說科技常在 scale up 與 scale out 間循環；晶片正走向 chiplet，可抽換元件。主持人補充創新週期常見實驗潮。
15. 34:30Alyssa 的下一步Alyssa 說還在想，先生兩年前退休，一直找 Alyssa 出去玩；但還是喜歡底層技術，不確定這是永久退休還是休假。
16. 36:03主持人的明年展望Alyssa 反問兩位主持人，Elad 先答：基礎模型未來幾年的主要玩家大致看得出來，應用層不論 B2B 或消費端都還有大片空白。接著談到能力曲線上升得很快，明年應用層的實驗會更成熟。

值得記的話5 句

• I got into doing this because I love cupcakes not because I like writing email marketingAlyssa 轉述小商家老闆的話：我入行是因為愛做杯子蛋糕，不是因為愛寫行銷電子郵件06:36

• the things that just were never going to get done otherwise and and now they're getting done那些原本永遠不會有人做的事，現在有人做了14:54

• it's the classic bundling and unbundling right now a lot of the stuff is unbundled這是典型的 bundling 與 unbundling，現在很多東西是拆開的18:08

• Amazon loves open source. We make more money off open source than any of the open source companies doSarah 轉述當年 Alyssa 說的話：Amazon 愛開源，我們靠開源賺的錢比任何一家開源公司都多25:33

• it's really hard to be number three and you're dead if you're number four當第三名很難，當第四名就完了29:00

名詞與人物11 個

Alyssa Henry

Square 前 CEO，曾任 AWS 副總裁，現任 Intel 與 Confluent 董事。

Square / Block

從小商家刷卡機起家的支付公司，隸屬 Block，Alyssa 帶了將近十年。

Square Messages

Square 的訊息產品，用 GPT-2 做虛擬助理回覆客戶詢問。

Photo Studio

Square 的商品拍攝產品，從實體攝影棚演變成手機 App。

latent demand

因為太難或太貴而一直沒被滿足的需求，易用性提高後才會出現。

bundling

把拆開賣的產品打包，能解決整合問題，價格也可低於各部分加總。

S3

AWS 最早的核心儲存服務，Alyssa 說多數 AWS 服務裡都找得到它。

Amazon Bedrock

Alyssa 舉例的聚合服務，可以在同一個服務裡託管並執行多種模型。

Confluent / Kafka

Alyssa 認為成功把開源專案變成公司的例子。

Hadoop

Alyssa 舉為開源商業化一直沒做好的例子。

chiplet

把晶片拆成較小的元件，Alyssa 說能讓晶片設計更模組化。

提到但沒有展開

• 主持人提到每一波運算浪潮背後都有一家大型半導體公司：Intel 與 AMD 對應微型電腦，Arm 與 Qualcomm 對應行動，NVIDIA 對應 AI。
• 主持人拿加密貨幣的 L1 與 L2 為例，說每種運算方式都會出現一陣實驗潮，多半最後又收斂回原本那個一路擴大的東西。

在 YouTube 看原片 ↗