DeepSeek R1 來襲與人才待遇
YouTube 標題:EP165 | 科技工作講新年特別節目 + DeepSeek R1來襲
大年初一錄的新年特別集。抹布先聊日本滑雪,再拆 DeepSeek R1 為什麼讓 NVIDIA 一天大跌,以及台灣為什麼難自己訓練模型、待遇該怎麼提高。
重點
- R1 為什麼嚇到市場主持人說 R1 直接對標 OpenAI 的頂尖模型,而且開源、把做法講出來、號稱算力需求比較少。NVIDIA 因此一天跌了 17%。
- 成本數字各說各話有人提到它用 2000 多顆 H800,對照 Meta 用的幾十萬顆;也有新創公司爆料說其實有 5 萬張 H100。號稱成本只有 2%,另一種算法把歷代累積的算力加進去,大概是三分之一。
- 審查不是重點官方 app 一定有審查,但模型開源,自己部署就可以調成不審查的版本。主持人認為這件事對產業影響不大。
- 採購會拿它來砍價主持人想像美國公司的 VP 開會,桌上放著 DeepSeek 的資料,問團隊有什麼降低成本的方案。設備需求未必下降,但單價難說。
- 台灣很難自己訓練抹布用「心理帳戶」解釋,老闆願意花幾億買設備,卻不願意花幾百萬請人。他也拿台灣 AI 工程師五六萬的起薪跟國際對照。
- 最後回到待遇抹布感嘆節目講到最後都是改善待遇,並舉某間系統廠為例,營收成長 30 幾 percent,年終只加 0.5 個月。補錄開場後,全員拜年,並閒聊甄嬛傳與追劇。
時間軸
| 00:36 | 新年打招呼大年初一錄音,主持人說大家應該還在放假、打麻將或看甄嬛馬拉松。 |
| 01:10 | 日本行與春節放假抹布暫停一週去仙台與岩手縣滑雪,行程用吃串起來;後面提到做硬體的春節工廠也放假,趁機裝死不處理事情。 |
| 06:04 | 過年期間的科技新聞HTC 的 AR/VR 團隊賣給 Google、科技巨頭向新上任的川普捐錢,以及 TikTok 禁令延後、誰要買的各種傳聞。 |
| 07:41 | DeepSeek 與開源閉源幻方量化本來做量化交易,上個月推出 V3。主持人順便解釋開源與閉源:開源好處是全世界的人才都在研究,壞處是很難賺錢。 |
| 09:58 | R1 對標 OpenAIR1 號稱對標 OpenAI 頂尖模型、開源、成本低,NVIDIA 一天跌 17%;主持人認為能公開做法讓大家驗證,是難得的地方。 |
| 13:14 | 審查爭議有人拿六四測試模型。主持人說官方 app 有審查,但開源模型可以自己跑、自己調成不審查的版本。 |
| 14:35 | 低成本與算力數字對照 2000 多顆 H800、5 萬張 H100 和 Meta 的幾十萬顆;成本號稱 2%;有人懷疑政府補貼沒算進去,也有人把歷代算力累積起來算,大概是三分之一。 |
| 17:35 | token 價格與 OpenAI100 萬 token 用 GPT-4o 要 5 美元,DeepSeek 約 0.1 美元;也聊到 OpenAI 為什麼得走營利路線,名字卻叫 open。 |
| 22:17 | 閉源壓力與免費能撐多久開源能力跟閉源差不多,閉源就不能收太貴;採購 GPU 會被檢討。DeepSeek 免費是否長久,要看它自己跑 API 還是只做研究。 |
| 25:56 | 華人與印度工程師一位主持人好奇為什麼做 AI 的多是華人。Letitia 說她在歐洲科技業遇到的印度同事比較著重 social,中國工程師比較著重 R&D。 |
| 27:36 | 為什麼這麼強主持人先聲明自己不專業,解釋訓練方式不同:不靠大量人工引導,讓模型自己多想幾步,再把模型拆成專家模組,也就是 MoE。 |
| 30:52 | 巨頭沒想到嗎巨頭算力多,降低成本不是優先事項;DeepSeek 出來後,採購就有了砍價的依據,NVIDIA 的高毛利也被質疑。 |
| 33:56 | 試用與強不強不重要一位主持人試用時伺服器常塞住、回答偏慢。抹布認為模型強不強不重要,重要的是它證明低成本可行。 |
| 38:51 | 工作上的影響想像 VP 開會時要求團隊提出改善成本方案,採購 2025 年的績效也會被拿來比;不管真假,大家都已經相信成本能再降。 |
| 41:21 | 個人投資看法被問到要買哪一支,抹布說只講個人看法:它證明了受限制也能贏巨頭;若是重新訓練,老闆也會要你用更少的 GPU 做。 |
| 43:30 | 心理帳戶與人才抹布說老闆買設備幾億都肯,請人卻捨不得;國外的 AI 人才開二十萬美金年薪就願意回台灣,台灣企業還是很難照付。 |
| 48:02 | 壟斷轉向服務抹布的第二、三點:模型不收錢,壟斷會轉到 App、語音助理等服務與通路;模型可以免費,人才不能。 |
| 51:05 | 巨頭的資料優勢最後一點:巨頭有影片、使用者和文章,小公司只能用模糊的方式取得資料;中國巨頭也有大量中文資料,阿里巴巴說有基於 DeepSeek 概念再加強。 |
| 54:20 | 人才流動與金字塔聽說一位 DeepSeek 的年輕研究員年薪破億,主持人認為有誇大成分;強團隊背後是金字塔。以黑神話悟空為例:一款遊戲若要 20 億台幣、十套只成一套,產業就得有 200 億。 |
| 57:57 | 待遇與系統廠一間大量出貨伺服器的系統廠營收成長 30 幾 percent,年終只加 0.5 個月;台積電 250 到 300 萬沒問題,系統廠 300 萬很難。 |
| 1:03:11 | 台積電吸才與補助台積電吸走大量理工人才,其他產業也得跟著加薪;AI 公司開起薪五六萬,主持人說年薪只有國際的十分之一。政府補助也常拿了就結案。 |
| 1:06:39 | 補錄開場與介紹抹布補錄開場,說明這集聊旅遊心得與 DeepSeek R1;雪柔、Iris、琳恩、Letitia 依序拜年。 |
| 1:10:53 | 甄嬛馬拉松聊天室還有 60 個人;網友整理甄嬛傳名場面的 Excel,主持人聊各種二創梗。 |
| 1:13:13 | DeepSeek 後續觀察一位主持人估計影響要三四個月才穩,二月初科技巨頭開財報,建議大家不要亂殺;他自己那天也跌了十二三萬美金。 |
| 1:17:21 | 甄嬛傳劇情閒聊滴血認親、甘露寺、果郡王與浣碧的感情線。 |
| 1:26:04 | 狼牙榜與追劇推薦有主持人說狼牙榜整部劇就在講怎麼創造局勢扳倒對手;接著聊甄嬛傳皇上選角,最後問聊天室新年可以追什麼劇。 |
值得記的話
「它已經證明說低成本可以有效率就效率可以再提高這是最重要的」抹布35:00
「它證明一件事就是說你受到限制你還可以贏這些巨頭這才是一個強心針」抹布42:10
「我稱為心理賬戶不是沒錢只是不給你不是沒有錢只是不給你」抹布47:16
「下面有非常非常多底層的人然後你才會產生出幾個就很強的團隊」56:16
「台灣不一定要能夠做自己的模型可是待遇還是要提高」抹布58:31
名詞與人物
- DeepSeek(V3、R1)
- 中國公司推出的模型,V3 是上個月推出的第三版,R1 是這次對標 OpenAI 的新模型,開源且號稱成本低。
- 幻方量化
- DeepSeek 背後的公司,本業是量化交易。
- 開源/閉源
- 開源把程式與做法公開讓人驗證、改造;閉源如 OpenAI,外界不知道內部怎麼算。
- Llama
- Meta 的開源模型,主持人舉例學校單位沒錢從頭訓練,可以直接下載來調整。
- MoE
- 混合專家模型,把一個模型拆成多個專家模組分開訓練,主持人說可以降低成本。
- token
- 模型處理文字的計價單位,一篇文章會被拆成幾千個 token。
- H800
- NVIDIA 的 GPU,節目提到 DeepSeek 號稱用了 2000 多顆。
- 心理帳戶
- 抹布用來解釋老闆願意花幾億買設備、卻不願花幾百萬請人的心態。
- PPU
- OpenAI 薪酬中時間到才能兌換的項目,主持人說類似股票。
延伸
- 抹布提到 EP162 的來賓陳縕儂教授說過,國外合格的 AI 人才開二十萬美金年薪就願意回台灣。
- 主持人說很久以前分析過 OpenAI 的薪酬結構,這集只簡單帶到底薪與 PPU。
- DeepSeek 的影響,主持人預計二月初科技巨頭財報時再觀察。