Scale AI

065 · 資料是 AI 的第三根支柱

39:00YouTube 上架 2024-05-22Alexandr Wang（Scale AI CEO）

No Priors Ep. 65 | With Scale AI CEO Alexandr Wang

Alexandr Wang 從 MIT 輟學創辦 Scale AI 談起，講資料為什麼會是下一階段的瓶頸、專家與模型怎麼合作、評測為什麼難做，最後用「治癌」比喻通往 AGI 的路。

065 講了什麼

• 三根支柱裡沒人做資料Alexandr 在 MIT 訓練影像辨識模型時發現，模型就是資料的產物。當時演算法有研究實驗室、運算有 NVIDIA，資料卻沒人專心做，所以 2016 年輟學、進 YC，創辦 Scale。
• 從自駕車一路換到生成式 AI最早做 2D 加 3D 的感測融合資料引擎；2019、20 年前後轉做政府的衛星與空照影像，差不多同時和 OpenAI 在 GPT-2 上做最早的 RLHF 實驗；2022 年起把力氣放在生成式 AI。
• 好拿的資料已經用完網路上的簡單資料大致用盡，接下來要靠監督訊號強的 frontier data：專家的推理鏈、agent 工作流程、多語與多模態資料。
• 人加模型會長期勝過模型單獨Alexandr 認為該問的不是模型有沒有贏過沒有輔助的人，而是人加模型能不能贏過模型單獨。人類能在很長的時間尺度上推理與優化，現在的模型做不到。
• 評測要公開、要持續做學術 benchmark 常有過擬合。Scale 發表的 GSM1K 是一套保證不在訓練資料裡的數學評測，有些模型的表現比公布的成績差很多。接下來要推私有的 held-out 評測與排行榜。
• AGI 像治癌，不像打一劑疫苗Alexandr 說要一個一個小問題解、一個一個資料飛輪建，因為就自己的理解，模型在一種模態學到的東西不會正向轉移到另一種。

從哪一段開始看16 段

1. 00:05開場與資料這根支柱主持人介紹 Alexandr 19 歲輟學創辦 Scale AI，而且是在主持人家裡起步的。AI 靠運算、資料、演算法三根支柱，Scale 做的是資料，客戶有 OpenAI、Meta、Microsoft。
2. 00:52創辦故事Alexandr 在 MIT 念 AI 那年碰上 AlphaGo 與 TensorFlow，自己訓練模型時發現模型就是資料的產物；2016 年輟學、進 YC，專心解資料這一塊。
3. 03:53自駕車起家2016 年正是自駕車熱潮的開始。第一個資料引擎處理光達加相機的感測融合資料，很快成為業界標準，客戶有 General Motors、Toyota 等。
4. 04:56政府到生成式 AI2019、20 年前後方向不明，轉做政府的衛星影像，後來在烏克蘭衝突派上用場；同時和 OpenAI 做 GPT-2 上的 RLHF，也參與 InstructGPT；2022 年 DALL·E 2 與 ChatGPT 出來後專注生成式 AI。
5. 08:05資料豐沛或稀缺主持人問企業與 sovereign AI 這些新客群。Alexandr 說產業可以選擇資料豐沛或稀缺，Scale 的工作就是讓資料豐沛；簡單資料用完了，要做 frontier data：專家推理鏈、agent 資料、多語、多模態。
6. 11:02專家貢獻資料博士、醫師、律師這些專家產出的資料，影響會乘上模型往後的每一次使用。主持人把這比作 Google 掃描圖書館藏書，也說投資的公司常發現企業裡的資料根本沒被記錄下來。
7. 14:07專有資料與合成資料JP Morgan 的專有資料集有 150 petabytes，GPT-4 的訓練資料不到 1 petabyte。合成資料要走人與 AI 混合的路線：AI 做大部分的工作，專家補上判斷。
8. 15:26人加模型關鍵是人加模型能不能勝過模型單獨。模型會 rot 13 卻不會 rot 8、還有 reversal curse，這些怪現象被當成機器智慧和人類智慧不一樣的證據。
9. 17:45專家會被取代嗎主持人拿 Med-PaLM 2 勝過一般醫師的例子，問人類專業還能加分多久。Alexandr 的答案是「never」，因為模型只學到片段的人類智慧，沒有長時間尺度的優化能力。
10. 19:49募資與策略投資人主持人恭喜這輪募到 10 億美元、估值將近 140 億美元，投資人有 AMD、Cisco、Meta。Alexandr 說找 Intel、AMD 這些基礎設施業者和 Meta、Cisco 進來，是要把整個生態系帶進資料這一層。
11. 21:53信任與評測資料、訓練、評測是每家 AI 公司的迴圈。學術 benchmark 有過擬合，GSM1K 顯示有些模型的實際表現遠低於公布成績，所以需要專家評測與公開排行榜。
12. 26:01應用層與企業資料Alexandr 認為 GPT-4 撐起這波應用熱潮還早了幾代。企業要的是資料飛輪式的自我改進迴路，並把散落各處的資料濾成高品質資料，那種資料可能比普通資料值錢 10,000 倍。
13. 29:57即將發布的東西預告私有 held-out 評測與排行榜，每幾個月重跑一次，像 LLM 的奧運；也要在 Donovan 推出給政府客戶的 agentic 功能，定位是 AI staff officer。
14. 32:06多模態與更聰明的模型Google 的 Astra 和 OpenAI 的 GPT-4o 驚人地相似。Alexandr 認為多模態的好資料很稀缺，但自己更想要的是更聰明的模型，這次有點失望。
15. 34:39快問：AGI 像治癌通往 AGI 的路是逐一解小問題、各自建資料飛輪；模態之間沒有正向轉移，進展會是緩慢而持續的，社會也有時間適應。
16. 37:28身為 CEO 的想法市場看起來很擠，技術其實還很早。Alexandr 最在意的是組織夠不夠靈活，跟得上技術的變化。

值得記的話5 句

• over the long Arc of this technology data was only going to become more and more important從這項技術的長期走向來看，資料只會越來越重要01:59

• the question is is a human plus a model together when people produce better output than a model alone真正的問題是：人加上模型，產出會不會比模型單獨更好15:42

• the key quality of human intelligence or biological intelligence is this ability to reason and optimize over very long time Horizons人類智慧、或說生物智慧的關鍵特質，是能在很長的時間尺度上推理和優化18:15

• the path to AGI is is one that looks a lot more like curing cancer than than developing a vaccine通往 AGI 的路比較像治癌，而不是研發疫苗34:54

• we're still super early because the technology is you know one 100th or one 1,000th of its future capability我們其實還非常早，因為這項技術只有未來能力的百分之一、甚至千分之一37:44

名詞與人物11 個

Alexandr Wang

Scale AI 創辦人兼 CEO，主持人都叫 Alex。

Scale AI

替各家大型語言模型供應訓練與評測資料，自稱 data foundry。

data foundry

Alexandr 形容 Scale 角色的說法：像晶圓代工一樣量產資料。

frontier data

監督訊號強的高品質資料，像專家的推理鏈、agent 工作流程、多語與多模態資料。

hybrid human AI synthetic data

AI 做大部分工作、人類專家補上判斷的混合式合成資料。

RLHF

用人類回饋訓練模型；Scale 從 GPT-2 時期就和 OpenAI 做最早的實驗。

GSM1K

Scale 發表的 held-out 數學評測，題目不可能出現在訓練資料裡。

held-out eval

不公開的評測題組，用來避開模型在 benchmark 上的過擬合。

data flywheel

不斷拿到新資料、評測出弱點、再改進模型的迴圈。

Donovan

Scale 給政府客戶的產品，Alexandr 形容是 AI staff officer。

sovereign AI

主持人提到的新客群：各國政府自己的 AI 需求。

提到但沒有展開

• 主持人提到 Meta 有論文顯示，縮小訓練資料量反而能做出更好、更小、更便宜的模型，跟 Alexandr 說企業要把資料濾成高品質的那段互相呼應。
• 主持人說自己以前在 Google 做產品，常常花兩年做的東西，發表那週剛好撞上別家，還被說成抄襲；拿來說明 Astra 和 GPT-4o 這麼像，可能只是整個產業都往同一個方向走。

在 YouTube 看原片 ↗