主持人對談

100 · DeepSeek、deep research 與 2025 預測

22:32YouTube 上架 2025-02-07

No Priors Ep. 100 | With Sarah and Elad

第 100 集由兩位主持人自己對談：先拆解 DeepSeek 引發的成本與市場反應，再談 deep research、Stargate，最後各自丟出對 2025 年的預測。

100 講了什麼

• DeepSeek 受關注的三個原因Elad 列出三點：開源的中國模型在 reasoning 等方面追上部分西方模型、宣稱成本很低，以及外界對幕後是誰的猜測。Elad 認為第一點確實有扎實的工作，RL 上有新技巧，其他實驗室也開始採用。
• 成本數字被誤讀Elad 說，懂行的人普遍認為這類模型的最後一次訓練就落在 5 到 10 million 美元，真正的問題是在那之前花了多少，大家的感覺是數億美元的算力。之後也有人說總花費不太可能沒有 $6 million 的好幾倍，但就算乘上倍數，進場門檻也不是數十億美元或 Stargate 的規模。
• 成本下降本來就在發生其中一位主持人說，團隊裡有人算過，過去 18 個月同等級模型的每 token 成本降了 180x。所以 DeepSeek 大致在趨勢線上，只是被說得太激進。
• 前沿的價值與模型差距用 Artificial Analysis 的比較看，各家模型這 18 個月越來越接近。站在前沿的價值包括市占，以及拿強模型去幫下一代模型做資料與後訓練；另一位補充，只要有夠好的 base model 能產生合成資料，後進者也追得上，這會拉平戰場。
• deep research 與資訊來源其中一位認為 deep research 馬上拉高了知識工作的門檻，但在自己熟的領域得逐項檢查。話題延伸到 AI 成為主要資訊來源之後的來源透明、宣傳與審查，也因此有人樂見多家 AI 並存，並看重開源。
• 2025 年預測一位列出五點：基礎模型市場部分整併、vertical AI app 成熟、self-driving 受關注、consumer 回溫，以及 agent 與機器人的早期跡象；另一位談 agent 擴散到更多場景、低延遲小模型，並認為機器人今年會看到技術突破，但還不是部署。

從哪一段開始看16 段

1. 00:00第 100 集開場Sarah 感謝聽眾每週陪自己和 Elad 走到第 100 集，說最近幾週 AI 消息很多，先從 DeepSeek 聊起。
2. 00:17DeepSeek 的三個焦點Sarah 問 Elad 的看法。Elad 列出三點：開源且追上西方模型的 reasoning 能力、宣稱的低成本、對幕後的猜測，並說第一點確實有扎實成果。
3. 01:35成本與股價反應Elad 說最後一次訓練約 5 到 10 million 美元，大家認為之前的算力花了數億美元；因此 NVIDIA 股價約 20% 的跌幅有點反應過度，至於幕後的猜測多半只是猜測。
4. 02:20為什麼反應慢了一拍接著的回應指出 V3 在 12 月就出了，當時 NVIDIA 沒跌；就像當年從 GPT-3.5 到 ChatGPT，後訓練讓模型好用才是關鍵，而對標 OpenAI o1 的 R1 才是引爆點。
5. 03:37敘事被打破美中科技主導權的敘事被打破，成本也被誤解；總花費很可能是 $6 million 的好幾倍，但進場門檻仍遠低於 Stargate 的規模，這才是讓市場震動的地方。
6. 04:38成本本來就在崩訓練 GPT-4 等級模型的成本比兩年前低得多，推論成本 18 個月降了 180x；DeepSeek 大致在趨勢線上，也推了美國的開源一把。
7. 05:40模型在商品化嗎Artificial Analysis 自己重跑 benchmark，比較結果顯示各家模型在多個面向越來越接近；但有人做出突破性的模型，還是可能再拉開一段時間。
8. 06:58領先前沿的價值價值包括市占，以及用強模型幫忙做資料標註、合成資料等後訓練工作；另一位補充，夠好的 base model 能讓後進者也做出自我改進的模型。DeepSeek 的 app 一度衝上 App Store 前段，這位主持人認為這次主要是大家好奇，不是消費者分得出模型好壞。
9. 09:36OpenAI 的 deep research其中一位認為它把知識工作的門檻拉高，以後會拿一般水準的分析師或實習生的產出跟它比；但在自己熟的領域，不認同它判斷哪些來源有權威的方式。
10. 10:53對 AI 的盲點用 Murray Gell-Mann Amnesia 來比喻：在熟的領域發現它出錯，翻到不熟的領域卻照樣相信。
11. 12:10AI 成為主要資訊來源AI 跟搜尋大幅重疊，來源卻更不明顯；其中一位擔心宣傳與審查，所以樂見多家 AI 並存，也看重開源。
12. 13:27Stargate其中一位把問題拆成算力規模、資本市場夠不夠深、主權資金的介入；對規模的看法是「不確定性而非風險」，但想不到哪家大型實驗室在資本到位時會不想要最大的 cluster。
13. 15:322025 預測：五點一、基礎模型市場部分整併，物理、生物、材料出現新賽道；二、vertical AI app 規模化；三、self-driving 受關注；四、consumer 回溫；五、agent 與機器人的早期跡象。
14. 17:37agent 與小模型另一位說 agent 在資安、客服與 SRE 已出現，做 copilot 的公司會自然往 agent 延伸；也談低延遲小模型與邊緣運算，兩人對在裝置上跑還是在網頁上跑看法不同。
15. 19:42推理與資料策略reasoning 改善的是可靠度，也是能處理的任務複雜度；創業者與投資人不該因為現在不行就斷定不行。生物與材料等領域會出現新的資料生成策略。
16. 21:16第 200 集會怎樣兩人半開玩笑地想像第 200 集已經由兩個 agent 主持；以週更來算，那大約是兩年後。

值得記的話4 句

• it seems very unlikely that there hasn't been a large multiple of $6 million spent in total總花費不太可能沒有 $6 million 的好幾倍04:08

• in the last 18 months we saw 180x decrease in cost per token for equivalent level models過去 18 個月，我們看到同等級模型的每 token 成本降了 180x04:53

• you instantly forgot that they got everything you know about wrong你馬上就忘了，報紙在你懂的事情上全寫錯了；這是在解釋 Gell-Mann Amnesia 的報紙例子11:24

• that's where open source becomes incredibly important if you worry about civil liberties如果你在意公民自由，這就是開源變得格外重要的地方13:11

名詞與人物8 個

DeepSeek

這集的主角，中國的開源模型，兩人討論它的技術、成本與市場反應。

V3

DeepSeek 12 月釋出的 base model，當時 NVIDIA 股價沒有大跌。

R1

DeepSeek 的 reasoning model，對標 OpenAI o1，主持人認為這才是引爆關注的時刻。

Artificial Analysis

自己重跑 benchmark，比較各家模型表現與每 token 成本的網站。

deep research

OpenAI 發表的研究型產品，被拿來和一般水準分析師的工作比較。

Stargate

OpenAI 在白宮和 Trump 一起宣布的一系列 AI 基礎設施投資。

Murray Gell-Mann Amnesia

熟的領域發現報導出錯、不熟的領域卻照樣相信的心理；名字取自發現夸克的諾貝爾獎物理學家 Murray Gell-Mann，由《侏羅紀公園》作者 Michael Crichton 命名。

test time scaling

談 Stargate 時被列為難以預測的變數之一，和演算法效率、新的資料生成並列。

提到但沒有展開

• 談邊緣運算時，其中一位說單純為了 edge 而 edge 沒人在乎，要做到對使用者透明、而且免費才有意義。
• 五點預測裡，vertical AI app 舉的是 Harvey 做法律、Decagon 做客服；self-driving 除了 Tesla 與 Waymo，也點名 Applied Intuition 是汽車領域值得注意的黑馬。

在 YouTube 看原片 ↗