第 2 站 · 搭 harness該站第 8 / 12 場

階層式拆解如何生出研究假設

068Sina Shahandeh(Radicait)19:222026-07-18

Autonomous Agents for Scientific Tasks - Sina Shahandeh, Radicait

階層式拆解如何生出研究假設 —— Radicait的演講縮圖

Radicait 工程師講如何用階層式拆解問題,讓 coding agent 在醫學影像研究中生出人類等級的假設。

重點摘要

  • 假設比執行更關鍵:AI agent 已經很擅長把程式碼寫出來、把實驗跑完,但真正卡住的地方是想不出新的好點子,這正是人類科學家還贏過 agent 的地方。
  • CT 轉 PET 的實例:Radicait 想用 CT 影像直接生成對應的 PET 影像,省下又貴又耗時的 PET 掃描流程,這也是整場的示範案例。
  • 拆解成階層才逼得出激進想法:把問題明確拆成架構、訓練損失、指標、資料前處理等元件,並要求 agent 針對每個元件想辦法,才會冒出像換成 3D 卷積這種原本想不到的改動。
  • 用另一個模型互相檢查:講者會找多模態能力更好的模型檢查影像是否對齊,再用 GPT-5.5 Pro 這類推理能力更強的模型產生假設與批評,讓迴圈品質變好。
  • 觀察力才是科學的下一個瓶頸:實作能力已經算是相對成熟的部分,真正欠缺的是模型能不能像訓練有素的科學家一樣,看懂科學影像裡的細微異常。

時間軸14 段

00:00開場與主題Sina Shahandeh 說明這場要談 Radicait 如何讓 agent 自主執行科學任務。
00:18陷入飽和瓶頸Andrej Karpathy 的 auto-research repo 靠 coding agent 對某個 metrics 做 hill climb,但問題一複雜就會碰到瓶頸。
01:56假設是關鍵差異AI agent 擅長執行,人類能持續進步的關鍵在於不斷提出好假設。
02:52CT 生成 PET 案例Radicait 想用 CT 影像直接生成對應的 PET 影像,省去耗時又難做的 PET 掃描流程。
04:05拆解聚焦子任務把整個研究問題拆成多個步驟,先聚焦在訓練一個 CT 轉 PET 的模型。
05:14Codex 迭代碰壁Codex 反覆優化時會走進死路,改善一段時間就會飽和,需要真正的好點子才能突破。
06:45誘發激進構想把問題明確拆成子元件、要求 agent 去找靈感,才能逼出像 3D 卷積這種根本性的改動。
07:43生成階層文件coding agent 能照元件階層,自動生成一系列互相連結的說明文件,方便釐清問題結構。
10:02階層結構見突破有完整的元件階層後,agent 能一次生成上百種修改方案,找到原本想不到的 3D 改法。
12:07案例二:影像對位另一個例子是把 CT 與 PET 掃描對齊,同樣要靠持續優化的迴圈,還牽涉不少質性指標。
14:21多模態模型把關找另一個多模態能力更強的模型檢查影像是否對齊、遮罩是否正確,取代人工逐張檢查。
15:42引入更強推理模型透過 Peter Steinberger 的 Oracle CLI 把程式碼與資料送進 GPT-5.5 Pro,讓它生成假設並評論實作成效。
16:44回到自主研究者實作能力已經相對成熟,真正的瓶頸在於模型對科學影像的觀察與理解能力不足。
18:00技巧終將被取代這套手動拆解階層的技巧,隨模型的推理與拆解能力進步,未來需求會愈來愈少。

值得記的話4 句

  • Some of them become dead end, some of them don't improve anything, but we kind of desaturate at a certain point.有些嘗試會走進死路,有些完全沒有進步,優化到某個程度就會飽和05:30
  • Now what we have here is this hierarchy of components of this model that's induced.這裡建立起的,是這個模型各個元件的階層結構07:43
  • The loop basically asks, say, this will be implemented. This is the outcome of it. Does this make sense? What would you do next?這個迴圈不斷問:這個改動會被實作、這是它的結果、這樣合理嗎、接下來該怎麼做16:29
  • No llm today is able to identify these very well because it's just not simply trained on scientific images and scientific data.現在沒有一個 LLM 能真正辨識這些細節,因為它們根本沒有在科學影像與科學資料上受過訓練17:20

名詞與人物8 個

Radicait
講者任職的公司,這場的醫學影像案例都來自這裡。
Andrej Karpathy
開場提到的 auto-research repo 作者,示範用 coding agent 對 metrics 做 hill climb 優化。
Codex
講者用來跑自主優化迴圈、產生階層文件的 coding agent。
GAN
把 CT 影像轉成 PET 影像所用的一種生成模型架構,由編碼器與解碼器組成。
image registration
把兩次不同時間、不同掃描器拍攝的影像(如 CT 與 PET)對齊校準的流程。
Obsidian
講者用來展示元件階層文件關聯圖的筆記軟體。
Oracle CLI
Peter Steinberger 開發的工具,能把程式碼與資料打包送進 GPT-5.5 Pro 的 API。
GPT-5.5 Pro
講者用來生成假設、評論實作成效的模型,測試時運算量較大。

提到但沒有展開

  • 講者提到用 Gemini 模型建立影像複核的技能,但沒有說明實際的提示詞或設定方式。
  • 講者認為把多模態模型針對科學影像與資料做微調還有很大空間,但沒有進一步說明具體做法。
  • 講者提到同樣的階層拆解技巧曾用在 GPT-4.0 這類基礎模型上來加強推理,但沒有細講差異。

Agent研究評估醫療

在 YouTube 看原片 ↗