120 · AlphaEvolve 怎麼找出新演算法
No Priors Ep. 120 | With Google DeepMind’s Pushmeet Kohli and Matej Balog
Pushmeet Kohli 與 Matej Balog 談 AlphaEvolve 如何把大型語言模型、嚴格的評分函式與演化式搜尋接在一起，在矩陣乘法與 Google 基礎設施上找到新解，以及這和自我改進、科學研究有什麼關係。
120 講了什麼
- 從圍棋搜尋走到演算法搜尋AlphaGo 能在圍棋的龐大空間裡有效率地搜尋，還下出 move 37 這種棋譜裡沒有的新招；團隊於是問，同樣的思路能不能拿來在演算法的空間裡搜尋。2022 年的 AlphaTensor 是第一次嘗試，目標是矩陣乘法；之後的 FunSearch 改成在程式的空間裡搜尋，AlphaEvolve 是它的延伸。
- 使用者定義 what，系統補上 how使用者要提供一個評分函式，能判斷任何一個候選解有多好。AlphaEvolve 結合語言模型提出的新點子、評分函式的嚴格篩選，再包進演化式演算法，維持一群多樣的候選解。起點可以是空白，也可以是已經很強的既有解法。
- 評分函式是目前的關鍵限制Matej 說 AlphaEvolve 現在需要精確的 evaluator，所以先從評分函式幾乎現成的數學與電腦科學下手。兩位都認為這個假設可以放寬：Matej 舉語言模型當評審、或只要跟真實訊號相關的模擬器，可能多跑幾輪就好；Pushmeet 補上證明 agent。
- 自我改進的第一個跡象，範圍很窄Pushmeet 說 AlphaEvolve 目前做到的是讓訓練更有效率，模型能不能因此在認知任務上根本地變好，還有待驗證。Matej 補充，這是加速下一代 Gemini 的訓練，回饋迴圈目前大概以月計；改進會不會一直累積，是還沒有答案的問題。
- 產出是人看得懂的程式碼Matej 說實際用起來很有協作性：AlphaEvolve 找的是建構答案的演算法，數學家在意的往往正是這個，而不是答案本身；上線前工程師也能先讀過程式碼，再決定要不要部署。
- 對外先辦受邀測試Pushmeet 說 Google 內部已經在用；對外先開 trusted tester 計畫，因為使用者除了要有評分函式，還需要相當多的運算資源。
從哪一段開始看16 段
- 00:03開場介紹主持人介紹 Pushmeet Kohli、Matej Balog 與 AlphaEvolve：用 Gemini 模型加演化式搜尋去發現新演算法的自主程式碼 agent。
- 00:50一句話說明AlphaEvolve 是能發現新演算法的 AI 程式碼 agent，在開放的科學問題上有新發現，演算法也實用到已經部署在 Google 基礎設施的關鍵部分。
- 01:21為什麼做演算法發現團隊多年來一直在找 AI 發現新演算法的方法，第一個突破是 2022 年的 AlphaTensor，用強化學習在矩陣乘法上贏過人類的既有演算法。
- 02:40從 AlphaGo 談起回頭講 AlphaGo 與 move 37：能在巨大空間裡有效搜尋的系統，為什麼也可以拿去搜尋演算法。
- 05:24矩陣乘法的歷史大家原本認為兩個矩陣相乘的複雜度是 n 的三次方，Strassen 五十多年前打破了這點，AlphaTensor 才又改進了那個結果。
- 06:45從 AlphaTensor 到 FunSearchAlphaTensor 是專為矩陣乘法打造的；FunSearch 改成基於語言模型、在程式的空間裡搜尋，AlphaEvolve 又是它的延伸。
- 08:35為什麼之前沒人找到其中一位說 Strassen 的構造只處理 2x2 矩陣，尺寸變大後空間太大、構造也不直覺；另一位補充，過去做這題的人並不鬆懈，這次刻意挑的正是被最強的人長期優化過的問題。
- 11:30AlphaEvolve 怎麼運作以資料中心排程為例：使用者給評分函式（這裡是既有的模擬器），系統結合語言模型的創意、評分的篩選與演化式演算法，一代一代變強；難題需要更久，但能持續進步。
- 17:12評分與一般 coding agent一般 agent 拿到的是不完整的規格，不知道結果對不對；AlphaEvolve 靠 evaluator 把幻覺變成有用的探索，評估要做多深也是要拿捏的地方。
- 19:41沒有精確評分怎麼辦Matej 說精確的評分函式能解鎖超越人類的發現，但這不是概念上的限制，可以用語言模型評審（例如 AI co-scientist）或相關的模擬器來放寬。Pushmeet 補充，就算有模擬器也只涵蓋特定的問題分布，要證明解的性質可能得靠證明 agent。
- 25:15遞迴自我改進主持人提到訓練基礎設施有一部分加速了 23%，問這是不是遞迴自我改進的早期。Pushmeet 說某種程度上是，但目前只是計算時間；Matej 說回饋迴圈大概以月計，改進是一次性、遞減還是持續累積，還沒有答案。
- 28:05對各門科學的影響主持人點名 Matej 對 AI 用在科學最有熱情。Matej 說先做數學與電腦科學，是因為那裡的評分函式幾乎現成；生物、化學若有模擬器或預測模型，同樣適用。另一位接著說，很多科學工作本質上就是搜尋。
- 32:06人類科學家的角色主持人問人類科學家還該做什麼；其中一位說包括定義評分函式、給提示，以及指定解必須滿足的條件，例如藥物要有效又副作用低。
- 34:32與數學家協作Matej 說實際用起來很有協作性：AlphaEvolve 找的是建構答案的演算法，數學家想看的正是這個；程式碼看起來像人寫的，部署前能由工程師先審過。
- 38:27對外開放的條件Pushmeet 說先辦 trusted tester 計畫、評估各類應用，再決定怎麼開放；門檻除了評分函式，還有大量運算資源。
- 40:19Google 內部的應用Matej 說白皮書刻意涵蓋整個基礎設施：資料中心效率、硬體設計與最重要的軟體；內部還有其他應用，細節還不方便說。
值得記的話5 句
if you have an agent which can do very efficient search in the domain of go why can't you use the same kind of philosophy to search for algorithms in the space of algorithms
如果有個 agent 能在圍棋裡有效率地搜尋，為什麼不能用同樣的思路，在演算法的空間裡搜尋演算法？04:19So you define the what by providing the evaluation function and then alpha evolve fills in the how.
你用評分函式定義 what，AlphaEvolve 補上 how12:34in some sense we are able to leverage the hallucinations for a beneficial purpose
某種意義上，我們能把幻覺拿來做有益的事18:19it's the speeding up the training of the next generation of the Gemini model
Matej：就是加速下一代 Gemini 模型的訓練27:18it's in a completely different league from let's say considering using a neural network to make decisions in some production system
Matej：這跟拿神經網路在正式系統裡做決定，完全是不同等級37:09
名詞與人物10 個
- AlphaEvolve
- Google DeepMind 的程式碼 agent，用 Gemini 模型加演化式搜尋去發現新演算法。
- Pushmeet Kohli
- Google DeepMind，AlphaEvolve 團隊。
- Matej Balog
- Google DeepMind，AlphaEvolve 團隊。
- AlphaTensor
- 2022 年發表的系統，用強化學習搜尋矩陣乘法的演算法，專為這個問題打造。
- FunSearch
- 以語言模型為基礎、在程式的空間裡搜尋的 agent，AlphaEvolve 是它的延伸。
- move 37
- AlphaGo 下出的一手圍棋新招，圍棋文獻裡沒有，讓棋手意外。
- Strassen
- 五十多年前提出矩陣乘法反直覺構造的德國數學家，把複雜度降到低於三次方。
- evaluation function
- 使用者提供的評分函式，能對任何候選解判斷好壞，例如資料中心工作排程的模擬器。
- AI co-scientist
- 兩位都舉的例子：多個 LLM agent 產生假說、互相評判，證明語言模型可以當評審。
- trusted tester 計畫
- 邀請使用者提案、讓 Google 評估 AlphaEvolve 在不同應用上的表現。
提到但沒有展開
- Pushmeet 說，早期版本和數學家 Jordan Ellenberg 合作 cap set 問題時，找到的程式帶有數學家原本不知道的對稱性，不只答案有趣，演算法本身的結構也值得研究。
- 評分函式不一定是二選一：從精確的評估，到語言模型的自然語言評審，中間還有一整段不完美的模擬器與輔助評分函式；Matej 說只要跟真實訊號相關，演化式的架構仍能前進。