主持人對談

014 · 聽眾問答：開源、監管與炒作

33:31YouTube 上架 2023-04-27

No Priors Ep. 14 | With Sarah Guo and Elad Gil

兩位主持人不請來賓，直接回聽眾的問題：開源模型追得上嗎、AI 該不該監管、現在的投資熱潮能不能信，最後花了不少時間談醫療與生技為什麼出不了新巨頭。

014 講了什麼

• 開源還沒追上，但差距會縮Sarah 說開源裡還沒有 OpenAI 或 Anthropic Claude 等級的東西，跑在最前面的只有 OpenAI。但會訓練大模型的人變多、flop 的成本只會往下，不少研究者也說同樣大小的模型第二次訓練會便宜 5x；只要創投繼續出錢，Sarah 賭一年內開源會出現 3.5 等級的模型。
• autonomous agents 是這陣子的熱門話題其中一位主持人解釋做法是把 LLM 放進反覆執行的迴圈，加上規劃、記憶、排序與反思，模型架構本身沒變。另一位則談到跨對話的持續記憶，甚至是跨使用者共享的脈絡。
• 現階段不該管太多其中一位主持人認為監管容易讓既有業者鎖死市場，現在只該管出口管制、軍事用途這類範圍。另一位也認為太早，但整理出向聰明人問來的兩個比較站得住腳的擔憂：一是進展速度，二是業界要先備好民主程序。
• 風險要分兩種其中一位主持人把技術被濫用的風險和威脅人類存續的風險分開。AI 要成為後者需要實體，所以真要盯就盯機器人；實體世界的事進展慢，十年內不太擔心。
• 炒作裡仍有東西長出來其中一位主持人用行動相簿 app 一窩蜂、最後只留下 Instagram 為例，說明看對趨勢不代表押對標的。兩人各列了感興趣的應用：語音合成與配音、合規、檢索與企業資料、工具層。
• 醫療先看營運，生技卡在法規Elad 認為 AI 最快落地的是醫療的營運與服務面；接著的回應補充，藥物開發也可能因為判斷更常對而降低成本。談到生技幾十年沒出現新的大公司，話題又回到法規與既有業者的誘因。

從哪一段開始看15 段

1. 00:00開場與開源模型這集改成回聽眾問題。Elad 先問 Sarah，Sarah 認為開源會趕上，理由是懂訓練的人變多、成本下降、模型能拿來標註資料。接著的追問是領先者是否會一直領先開源一兩代。
2. 02:37autonomous agents其中一位主持人說明把 LLM 放進有規劃、記憶、反思的迴圈，不是架構改變；另一位談每次新開對話就失去脈絡，以及共享脈絡的可能。
3. 05:31為什麼有人要監管其中一位主持人說主要兩三個理由：既有業者想鎖住優勢，以及有人單純害怕。舉價格漲最多的教育、醫療、住房都是管最多的產業，也舉了歷史上預言末日卻沒發生的例子。
4. 07:55該管與不該管多數事情現在先別管，例外是出口管制與軍事用途，長期也許要對進階機器人三思；同一位主持人預期 2024 年大選可能是監管的轉折點。
5. 09:18兩個比較合理的擔憂另一位同意太早，但整理出兩個擔憂：進展速度與用模型訓練下一代模型的複利，以及業界要提早設計民主程序，避免走向全面監控或全面封鎖。
6. 11:23技術風險與物種風險其中一位主持人說兩種風險不要混為一談。AI 要威脅人類存續需要實體，所以十年內不用太擔心；另一位也同意離這一步還很遠。
7. 13:13AI 投資的炒作其中一位主持人回顧社群、行動、雲端、加密幾波炒作，以行動相簿 app 只有 Instagram 留下為例，談趨勢對但標的錯。
8. 15:02應用層的機會其中一位主持人轉述 OpenAI 朋友的觀察：投資人對應用層比較觀望，對研究員主導的基礎模型公司卻很積極。接著列出語音與配音、大型金融機構把程式碼轉成給監管者看的說明、稽核與合規、標註、企業資料與檢索。
9. 18:11另一份清單另一位主持人同樣看好語音合成與配音，也看好合規；認為像 Harvey AI 這樣的公司還有兩打可以做，大約要五年才會陸續出現，另外談到工具層。
10. 19:45新進場者與垂直模型主持人談傳聞中的 Elon Musk 新創、暫停六個月的呼籲，以及金融的 Bloomberg GPT 這類垂直模型；接著的回應也認為垂直領域自己的模型有機會，例如醫療的多模態資料。
11. 22:38既有大廠怎麼辦Elad 比較網路、行動、加密各波的新創與既有業者佔比；多數情況既有業者整合得快就沒問題，但 ERP 可能首次受威脅，私募基金也能用 LLM 壓低人力成本。
12. 24:40醫療：營運或藥物開發Elad 認為早期藥物開發花費有限，AI 會先落在醫療服務與營運。接著的回應用 prior authorization 為例同意營運面，但主張藥物開發會因為判斷更常對而降低成本。
13. 27:02生技為何沒有新巨頭其中一位主持人從小鼠到人體的生物差異，談到既有業者有誘因墊高開發成本；對照疫情與二戰時快速開發的案例，結論是多數 AI 監管現在是壞主意。
14. 30:23戰時產能與產業政策Sarah 同意放寬管制，補充二戰時飛機產量不到一年從幾百架增到 6 000 架；從國安角度看，要在 AI 上長期領先，關鍵是算力。也提到多年前問 Elad 消費端醫療的機會，得到的建議始終是別碰、做科技公司就好。
15. 31:55醫療服務與軟體Elad 回到醫療：看好用軟體服務醫療基礎建設，LLM 讓它更快；藥物開發有價值，但為什麼多年沒人做出世代級公司，原因很多。

值得記的話5 句

• If I were a betting woman, and I am, I'd bet there's a three five level model in the open source ecosystem within a year.Sarah：如果我是會下注的人，而我確實是，我會賭一年內開源生態裡會出現 3.5 等級的模型01:34

• I'm a short-term Optimist long-term Doomer其中一位主持人：我是短期樂觀、長期悲觀的人06:52

• The big pivot point for regulation may actually come during the 2024 election.同一位主持人：監管的大轉折點，可能會出現在 2024 年大選期間08:46

• separate out almost what I consider technology risk from species risk其中一位主持人：要把我所謂的技術風險和物種風險分開來看11:23

• you don't want to be the first to Market you want to be the last standing其中一位主持人引 Peter Thiel 的話：你要的不是最先上市，而是最後還站著14:30

名詞與人物12 個

Sarah Guo / Elad Gil

本集主持人，兩人自己回答聽眾提問，沒有來賓。

LLaMA

Meta 的模型；Sarah 說品質不錯，很多新創不管授權問題照用。

autonomous agents

把 LLM 放進迴圈，加上規劃、記憶、排序與反思，朝高層目標反覆執行。

Auto-GPT

主持人舉的例子，讓 agent 概念一下子紅起來的實作之一。

hard takeoff

主持人轉述的擔憂：模型能拿來訓練下一代模型，進展速度會失控。

technology risk / species risk

主持人的區分：技術被濫用的風險，與威脅人類存續的風險。

regulatory capture

既有業者靠法規鎖住市場，主持人用來解釋生技為什麼沒有新巨頭。

Instagram

行動相簿 app 那波熱潮裡唯一留下來的；主持人說它強調濾鏡，也採用像 Twitter 的追蹤模式。

Harvey AI

兩位主持人都有參與的法律領域公司，被當作應用層案例。

Bloomberg GPT

金融領域的垂直模型例子。

prior authorization

醫療保險事前授權，主持人舉的例子：可以用模型讀資料、填表單、比對政策的營運流程。

Color

Elad 共同創辦的醫療公司，目標是讓醫療更容易取得。

提到但沒有展開

• 企業資料個人化的難處：要做資料管理，還有擴展性、同步與存取控制，很可能要搭配傳統資訊檢索；同時握有檢索與模型的公司能做出很神奇的東西。ChatGPT 的 retrieval plugin 很酷，但整個那半邊的技術堆疊還是缺的。
• 私募基金策略（Elad）：如果用 LLM 能大幅壓低人力密集事業的成本，買下公司時就能出更高的價；但 Elad 認為多數私募基金不太懂技術。
• 生技的數字：Moderna 是疫情造成的例外，除此之外最近一家市值衝到 30、40、50 billion dollars 的生技公司是 80 年代末創立的；前四、五大科技公司的市值加起來，等於整個生技製藥產業。
• 二戰時 Churchill 要能在戰地治療士兵淋病的方法，拿掉所有法規限制之後，九個月就重新發現並開發出盤尼西林。

在 YouTube 看原片 ↗