No Priors 的 AI 產業地圖

主持人是兩位創投

Perplexity

消費、內容與交易

上節目
1 次
來賓
Aravind Srinivas & Denis Yarats(Perplexity) 2023
第 009 集的縮圖

009 · 2023 · Aravind Srinivas & Denis Yarats · 這一集

引用優先的 answer engine

009 · 引用優先的 answer engine

39:10YouTube 上架 2023-04-25Aravind Srinivas & Denis Yarats(Perplexity)

前 13 集的上架日是頻道補檔的日子(2023 年 4 月底一次補上),不是當初播出的日期,所以跟集號的先後對不起來。

No Priors Ep. 9 | With Perplexity AI’s Aravind Srinivas and Denis Yarats

Perplexity 兩位創辦人談公司怎麼從幾個點子走到搜尋、為什麼招人不看 AI 資歷、答案一定要能引用,以及 answer engine 對 Google、出版商和變現方式的衝擊。

009 講了什麼

  • 從幾個點子繞到搜尋主持人開場說,Perplexity 是兩人和 Andy 在 2022 年 8 月左右一起創辦的。Aravind 說最早跟 Elad 聊的是用相機像素做視覺搜尋,Elad 回說行不通、要先想 distribution;之後又做過 Elad 提的 text to SQL,以及 Jupyter notebook 每個 cell 都有 copilot 的擴充。
  • 快速迭代來自學界訓練Aravind 說兩人都是學術出身,習慣同時跑很多實驗,但做產品還要去找使用者、客戶拿回饋。Denis 很會做工程也很會找人,把競賽程式設計世界第一的 Johnny Ho 拉進來。
  • 招人看熱情,再用試用期確認Denis 最看重的是對 LLM 有強烈興趣、願意投入大量心力的人。團隊刻意維持很小,所以每個決定都重要,會先請候選人一起工作一段時間。
  • 不必已經在 AI 領域Aravind 舉 OpenAI 的物理背景研究者,以及來自 Dropbox 和 Stripe 的工程師為例,認為做 AI 研究或產品不需要先待過 AI。Denis 補充,進展最快的幾家公司,靠的是工程能力很強的人。
  • 答案只說得出來源的話其中一位創辦人說,寫論文時只能寫引用得到的東西,Perplexity 沿用這個原則,連問「你是誰」也會先去搜尋。多個來源混在一起可能把同名的人合成一個,目前的做法是讓使用者自己移除不相關的來源。
  • answer engine 與給研究者的建議Aravind 預期追問會變多、搜尋後直接執行動作、流向內容網站的流量變少;Denis 說這會動到 Google 的廣告模式。給研究者的建議是:Aravind 說要去找 Transformer 的替代方案,Denis 說大學畢業後先在業界待幾年再讀 PhD。

從哪一段開始看16 段

  1. 00:00創立緣起主持人說 Perplexity 約在 2022 年 8 月創立。Aravind 說 Elad 是第一位提出要投資的人,早期點子從視覺搜尋、text to SQL 到 notebook copilot,都是繞路走到現在。
  2. 02:23快速迭代與 Johnny Ho兩位創辦人都是學術背景,習慣大量快速做實驗;做產品還要加上找使用者回饋的營運工作。Denis 擅長工程與招募,找來競賽程式設計背景的 Johnny Ho。
  3. 04:29招人與試用期主持人問招人的準則。Denis 先看有沒有想學 LLM 的熱情,再用試用期確認;Denis 認為這比大公司的面談更能降低看走眼的機會。
  4. 07:05速度是唯一優勢還沒想清楚產品與市場時,迭代速度是唯一能賭的東西,所以團隊一開始就要對投入的強度有共識。主持人也補充,新創相對大公司只有速度。
  5. 08:25不需要 AI 資歷主持人拿早期做行動 app 的經驗類比。Aravind 說 OpenAI 和 Google 早期都從別的領域找人;Denis 說自己不喜歡學界輕視工程師的文化。
  6. 13:23創辦人的學習曲線Aravind 說最陡的是怎麼經營公司;Denis 說是組織團隊與排優先順序。早期他們做了 Twitter、Salesforce、HubSpot 整合但沒發布,後來學到要專注,不像學界習慣分散風險。
  7. 15:58事實準確與引用Elad 問怎麼看準確性與偏見。其中一位創辦人說 Perplexity 是 citation first 的服務,回答只放引用得到的東西,即使被問到自己是誰也是如此。
  8. 17:47同名者混在一起多個來源合併時,可能把同名但不同背景的人寫成同一個人,舉的例子就是跟 Elad Gil 同名的人。模型會越來越懂這類細節,同時讓使用者移除不相關的來源,但完整解法還沒想好。
  9. 19:23強化學習的用法目前用使用者回饋和外包評分,也提到可以用 LLM 取代部分外包工作。接下來六個月到一年先不做 agent 和瀏覽器;中間步驟如 rejection sampling 也能明顯提升品質。
  10. 20:58聊天介面與搜尋其中一位創辦人認為 chat UI 是未來,但能第一次就答對就該答對;簡單問題直接給答案,複雜問題或不知道怎麼問時,追問更合適。
  11. 22:31搜尋五年後的樣子Aravind 認為 answer engine 會成為獨立的市場分類,追問會變常態,使用者也會在結果上直接執行動作;Perplexity 刻意只放 3 到 4 個連結,使用者開的分頁會變少。
  12. 26:08推播與 Google 的兩難主持人問什麼時候會從主動查詢變成推播。其中一位創辦人說現在就做得到,一年內比五年內更可能。Denis 接著說 Google 前幾筆常是 SEO 或廣告,而 answer engine 會讓點擊變少,直接衝擊它的獲利方式。
  13. 28:26出版商與內容品質主持人問會不會削弱出版商發布內容的動機。其中一位創辦人認為不太會:被引用的機率取決於內容品質,這會鼓勵人做出更好的內容,但大規模變現的方式還不清楚。
  14. 30:17變現的可能路線主持人先講 Google 早期的變現轉折。其中一位創辦人列出 API、瀏覽器擴充的進階版、廣告、平台化,並說傾向避開訂閱;短期先專注成長與體驗。
  15. 34:09給研究者的建議主持人問研究者該留在學界、進公司還是創業。Aravind 說兩人共同的指導教授本來就逼人快點拿出結果;現在讀 PhD 很辛苦,若還是要走學界,就去找 Transformer 的替代方案。
  16. 37:18先當工程師再讀 PhDDenis 建議大學畢業後先在業界待幾年,因為 AI 越來越偏工程。後面還談到 state space models、Flash attention 與影片生成這類方向。

值得記的話5 句

  • the only real advantage that a startup has relative to incumbent is speed主持人:新創相對大公司唯一真正的優勢是速度08:09
  • in academia you're basically taught to hedge其中一位創辦人:在學界,我們基本上被教的就是分散風險15:27
  • you only have to write things that you can actually cite其中一位創辦人轉述指導教授的教法:你只能寫你真正引用得到的東西16:28
  • it's best to look for alternatives to the TransformerAravind:最好去找 Transformer 的替代方案36:13
  • I think it's best to not go to PhD right after undergradDenis:我認為最好不要大學一畢業就去讀 PhD37:18

名詞與人物9 個

Aravind Srinivas
Perplexity 共同創辦人,自己說主要在學怎麼經營公司,核心工程交給 Denis。
Denis Yarats
Perplexity 共同創辦人,曾在 Facebook AI Research;Aravind 說 Denis 擅長工程與招募。
Johnny Ho
Perplexity 另一位共同創辦人,競賽程式設計世界第一,當過交易員、在 Quora 待過一年,不是 AI 出身。
Elad Gil
主持人之一,Aravind 說是 Perplexity 第一位提出要投資的人。
text to SQL
早期嘗試過的方向之一,用自然語言產生資料庫查詢。
citation first
Perplexity 的原則:回答只說得出引用來源的內容。
answer engine
直接回答問題而不是列出連結的搜尋形式,Aravind 說 Perplexity 是第一個對話式的 answer engine。
rejection sampling
從多個產出樣本中用另一個模型排序、只留較好的,其中一位創辦人說這等於做了一步強化學習。
state space models
後段談到的 Transformer 替代方向之一。

提到但沒有展開

  • Aravind 說 Perplexity 沒有放很多連結是刻意的決定:第一版只放 3 到 4 個連結和約 50 words 的摘要,很多人要求加到 10 或 20 個,他們選擇不加。
  • 談出版商時,其中一位創辦人提到 answer engine optimization 或 LLM optimization,希望大家不要在這上面花工夫,也認為 LLM 更懂相關性,不會像 SEO 塞關鍵字那麼容易。

在 YouTube 看原片 ↗

同一層的鄰居消費、內容與交易 · 25 格

Runway002Neeva008Perplexity009Minion.AI010Noam Shazeer012Inflection016Instacart022Khan Academy028NEAR032Alyssa Henry044Shopify049Stripe050Playground AI060Suno064HeyGen069Cartesia070Kalshi088Duolingo114Alpha School133ElevenLabs143Roblox149Circle156Booking.com168DoorDash169Chess.com172