103 · Tahoe 100 與虛擬細胞
No Priors Ep. 103 | With Vevo Therapeutics and the Arc Institute
Vevo 與 Arc Institute 的五位來賓談 Tahoe 100 擾動資料集為什麼要開源、生物學為什麼需要虛擬細胞模型,以及這類模型離真正做出新藥還有多遠。
103 講了什麼
- Tahoe 100 的規模Johnny 說它是世界最大的 single cell RNA sequencing 資料集。資料涵蓋 50 種癌症模型(來自 50 位病人)與 1,200 種藥物處理,實際上沒有 batch effects。Vevo 這邊估計,全世界公開的擾動資料大方算也只有 1 到 2 million 個資料點,Tahoe 是 100 million。
- 虛擬細胞要做什麼Dave 用 ROM 與 RAM 比喻 DNA 與 RNA,把虛擬細胞模型說成細胞的「CPU」:輸入是基因編輯或藥物,輸出是轉錄組的變化。有了模型就能反過來問,怎樣的擾動能把病態細胞拉回健康狀態。
- 卡在資料,不是算力Nima 說 DNA 語言模型主要受算力限制,細胞狀態模型則受資料限制。Vevo 早期試做的模型,把 60 million 筆資料降到只剩 1% 來訓練,表現掉得不多,代表那批資料的資訊量不高。
- 為什麼開源Vevo 是創投支持的新創,內部只有三四個人。Nima 說開源讓整個社群一起用資料、回報好壞,公司才有辦法維持小團隊;也想讓領域從一百萬、十萬筆的資料量往更大的尺度走。
- 模型現在還很差一位來賓說,預測 differentially expressed genes 的能力,目前最好的模型約在 10% 的量級,也還沒有公認的 benchmark。他們的推測是問題出在資料品質,而不只是模型結構。
- 離新藥還要時間一位來賓判斷蛋白質模型已經過了 GPT-3,單細胞與虛擬細胞模型則比較接近 GPT-1。也有來賓提醒,藥物開發週期約 10 年,平台把成功率從 10% 拉到 30% 仍要慢慢驗證。
從哪一段開始看19 段
- 00:05開場與來賓介紹主持人說明這集談 Tahoe 100 的發布與 AI for biology 的進度;Johnny、Nima、Patrick、Dave、Hani 依序自我介紹。
- 01:25Tahoe 100 的意義Johnny 說它是世界最大的 single cell RNA sequencing 資料集。另一位來賓補充,過去二十年累積的是蛋白質資料,細胞資料是下一步;Dave 拿 2009 年的 ImageNet 作類比。
- 04:20為什麼要虛擬細胞Dave 以 ROM、RAM 與 CPU 的比喻說明細胞模型:輸入基因編輯或藥物,預測轉錄組變化,並可反過來找回到健康狀態的擾動。
- 06:10資料與算力的瓶頸Nima 說 DNA 語言模型偏受算力限制,細胞狀態模型受資料限制;既有的資料降到 1% 訓練,表現掉得不多,所以重點是資料來自多少不同的生物情境。
- 09:03舊資料的問題過去十年的資料是許多團隊各做的小資料集,batch effects 嚴重、標註也差。Tahoe 100 涵蓋 50 種癌症模型與 1,200 種藥物處理,等於把過去十年累積的資料量翻倍。
- 10:21為什麼要擾動資料Patrick 說擾動資料讓研究從相關走向因果,也讓模型看到更多細胞狀態。Vevo 這邊補充,公開資料幾乎都是健康組織的觀察資料,擾動資料合計約 2 million,Tahoe 是 100 million。
- 13:42規模夠不夠scaling laws 要到了才知道。一位來賓以語言模型大約 1 trillion training tokens 作參照,估 100 million 個細胞約等於 200 到 300 billion tokens。
- 15:17擾動怎麼選與 Mosaic 平台擾動工具要對應要研究的生物問題,癌症就選癌症相關基因與藥物;Mosaic 平台把多位病人的細胞合成一顆腫瘤,一次篩數百到數千種藥物。
- 18:24假設驅動與資料規模一位來賓說生物學一直太依賴先有假設;Hani 說過去是把人當成 foundation model 來提出假設。Arc 這邊指出 scaling laws 已在蛋白質與 DNA 模型出現,Nima 主張先把其他領域有效的做法拿來試。
- 24:52為什麼要開源Nima 說 Vevo 是創投支持的新創,開源讓社群一起用資料,公司才能維持三四個人的小團隊,也想把領域的資料規模往上拉。
- 27:12Virtual Cell AtlasArc 用 agent 爬公開資料、去掉分析層面的 batch effects,整理出約 230 million 個觀察性細胞,加上 Tahoe 100 合計 330 million。Johnny 說 Tahoe 是 Vevo 四個人大約三天做完的。
- 32:44怎麼評量模型看模型能否預測擾動後的 differentially expressed genes;目前最好的模型約 10%,沒有公認 benchmark,一位來賓推測問題出在資料品質。
- 34:02為什麼不直接做實驗Patrick 說生物實驗受限於生物時間,例如老化專案要養動物約兩年。Nima 說 Vevo 要預測新化學物如何作用在不同病人的細胞;也有來賓說虛擬細胞能縮小標的的搜尋空間。
- 40:34從結構走向系統生物學Nima 說蛋白質語言模型處理結構與結合,虛擬細胞要往上到系統生物學。被問到多細胞,一位來賓說抽象層級放在轉錄組,也提到 organoid;Nima 補充 Vevo 也有 humanized mice 的 in vivo 模型。
- 44:12平台公司對單一假設主持人點名 Nima。Nima 說單一假設的公司有很強的誘因讓那個假設成立,平台公司不綁死單一假設,更能嚴謹地決定什麼東西要進臨床。
- 45:45中國 biotech 與成本Patrick 說中國 biotech 的成本基礎更有競爭力;虛擬 biotech 看起來可行但很慢,垂直整合又很貴,產業在找中間路線。
- 48:09創新與 morning in BIOJohnny 認為美國要更刻意把大數據與 AI 放進生物學的第一層。Nima 說現在是「morning in BIO」,要靠小而專注的團隊、現在就動手;另一位來賓補充,藥廠預算多數花在臨床開發。
- 52:52何時看到成果Dave 以神經網路與 ImageNet 的歷史作類比,說明為何現在是轉折點,並舉 Evo 2 沒教過 DNA 知識卻學到不少東西為例;差別在資料。
- 55:14現在是 GPT 幾主持人問生物學在 GPT-1 到 GPT-4 之間的哪裡。一位來賓說蛋白質模型過了 GPT-3,單細胞與虛擬細胞模型比較接近 GPT-1;也有來賓提醒,就算做到 GPT-4 等級,新藥還有約 10 年的週期要走。
值得記的話5 句
we're seeing evidence of scaling laws in biology across proteins
我們在生物學裡看到 scaling laws 的證據,蛋白質上就有22:19the best models are very poor at this
最好的模型在這件事上表現很差;指預測 differentially expressed genes33:16it's 10% accurate you're just simulating noise
只有 10% 準確,你就只是在模擬雜訊35:2390% of drugs fail in clinical trials so you know we're pretty bad at making drugs
九成的藥在臨床試驗失敗,我們其實很不會做藥39:03it's the time to build and it's the time to do it right now
現在就是動手做的時候,而且就是現在50:31
名詞與人物12 個
- Johnny Yu
- Vevo 共同創辦人,在 Vevo 做 single cell sequencing。
- Nima Alidoust
- Vevo 共同創辦人,量子化學出身,後來轉做計算化學。
- Patrick Hsu
- Arc Institute 的創辦人之一。
- Dave Burke
- Arc Institute 的 CTO,專注計算生物學與替生物學打造新的 AI 模型。
- Hani Goodarzi
- Arc 的 core investigator,也是 Vevo 共同創辦人,和 Dave、Patrick 一起推 virtual cell 計畫。
- Tahoe 100
- Vevo 產生並開源的 single cell 擾動資料集,約 100 million 個細胞資料點。
- Vevo Therapeutics
- 創投支持的新創,負責產生 Tahoe 100 的資料。
- Arc Institute
- 在生物與機器學習交界做研究的機構,目標是理解並治療複雜的人類疾病。
- Mosaic platform
- Vevo 把多位病人的細胞合成單一腫瘤,一次篩大量藥物的平台。
- scBaseCamp
- Arc 用 agent 爬取、整理公開單細胞資料所得的觀察性資料集,約 230 million 個細胞。
- differentially expressed genes
- 擾動前後表現量有明顯改變的基因,用來評量模型預測能力。
- Evo
- Arc 的 DNA 語言模型系列。
提到但沒有展開
- Dave 說 Evo 2 用 9.3 trillion nucleotides 訓練,沒有教過任何 DNA 知識,卻學到 ribosome binding sites 與 codon degeneracy 的位置,也能預測 BRCA1 變異的致病性,AUROC 約 94(Dave 自己說「if I recall」)。
- Nima 說 Tahoe 的 100 million 個資料點,背後是 60,000 組藥物與細胞株的交互作用;全部由四個人做完,也就少了不同人手造成的資料「感染」。
