寫程式不難了，工程的難處在別處

020Benoit Schillings（Google DeepMind VP of Research）20:262026-07-17 上架

"Software engineering is not about writing code" — Benoit Schillings, Google DeepMind VP of Research

Google DeepMind 研究副總 Benoit Schillings 認為寫程式本身已不是難題，接下來的工作在架構、驗證與安全，並談 self-play 如何讓模型寫出更好的程式。

這場講了什麼

• 寫程式不等於軟體工程：Benoit Schillings 認為單純產生語法已經超越人類，真正難的是在龐大的程式碼庫裡拆解複雜度，這一塊前沿模型還在進步。
• 三個時代的限制不同：早期的瓶頸是機器效能，雲端時代是模組化設計與人腦能同時處理的資訊量，現在轉到 AI 這一端，重點變成確認寫出來的程式真的是需要的東西。
• self-play 取代人類資料：Benoit 認為現在新增到 GitHub 的程式碼有 80% 是機器產生的，靠人類資料訓練的路快走到底了。好消息是可以走 self-play：前沿的程式模型已經能像 AlphaZero 一樣自己出題、自己判斷答案對不對。
• 寫程式近乎免費之後：程式碼量會暴增，Benoit 預測一年內模型寫的程式可能沒人再看，所以要靠更好的設計、主動的 guardrails，並把程式安全看得跟寫程式一樣重。
• 評估與語言都要改：只驗證程式能不能跑出正確輸出的 benchmark 不夠，Benoit 主張加入像無損壓縮這類沒有盡頭的題目，也提出要不要為模型設計更嚴格、不必給人讀的新語言。
• 程式能力會外溢到科學：實驗幾乎變免費，化學與生物是特別期待的方向，模型也可能找出人類因為演化偏見而看不到的解。

影片從哪一段開始看15 段

1. 00:55自我介紹與團隊任務Benoit Schillings 原本在 Google X，一年半前轉到 DeepMind，團隊要做的是未來一個月到一年內讓 Gemini 變強所需的技術，其中很多跟程式碼有關。
2. 02:27Pitchfork 的起點2018 年在 X 開始 Pitchfork 專案，想用 ML 加速改程式的循環，當時在 Google 內部沒人理會。
3. 03:45四十五年寫程式的經歷從 Apple II 與 Commodore 64 的組合語言一路到 Python 與 vibe coding，每次換工具都曾對新東西懷疑。
4. 04:38軟體的三個時代先是機器效能的極限，再是雲端時代的模組化設計與人腦容量，現在進入寫程式不再是挑戰的 AI 階段。
5. 06:21人類剩下的角色寫程式容易，難的是把需求說清楚，所以人在短期內負責架構與思考程式的影響，以及從更大的脈絡看出模式。
6. 07:40軟體工程不是寫程式語法生成已是超人等級，真正的前線是在龐大程式碼庫裡管理複雜度，一路延伸到架構、硬體最佳化與安全。
7. 08:50為什麼先挑程式碼程式碼有大量可抓取的資料，也能編譯、跑單元測試來驗證，這是 Pitchfork 選它的原因。
8. 09:39資料用完，轉向 self-play人類資料快挖盡，改走 AlphaZero 式的自我對局，模型自己出題、判斷答案，甚至在一定程度上判斷架構。
9. 11:22寫程式近乎免費整套軟體產業建立在寫程式很貴的假設上，現在這個前提變了，程式量會暴增，如何維持系統可靠成為新問題。
10. 12:29安全與主動 guardrails從 Mythos 一口氣找出大量漏洞的新聞談起：模型找、人去補，模型變聰明又找到更深的，這會沒有盡頭。Benoit 的團隊在做的不只是找出漏洞再建議修法，但這非常難，因為很吃脈絡。
11. 13:47跨領域遷移與規劃模型還不擅長把一個領域的知識搬到另一個領域，也需要學會怎麼拆解複雜問題。
12. 14:36評估方式要改Benoit 點名一個只驗證程式能不能跑、輸出對不對的 benchmark，說那只涵蓋工程的一小部分，應加入像無損壓縮 10 MB 程式碼這類沒有盡頭的開放題。
13. 15:45不只是 token 的鏈Benoit 認為寫程式是很視覺的活動，只靠一串 token 走不遠；Gemini 從一開始就做成多模態，接下來要讓模型能用空間與動態的表徵思考。
14. 16:54給模型的新語言既然寫程式的痛苦不存在了，不如用強型別或受 Lean 啟發的語言，把正確性的負擔放到模型身上，也不必給人讀。
15. 17:57程式之外：化學與生物實驗幾乎免費之後，化學和生物會出現真正的新東西，也有一些人類因偏見而看不到的解。

值得記的話5 句

• you join a company and you realize that there are 35 million lines of PHP in the code base你加入一家公司，才發現程式碼庫裡有 3500 萬行 PHP07:40

• I think that 80% of the new code added to GitHub today is machine generated.我認為現在新增到 GitHub 的程式碼，有 80% 是機器產生的09:39

• We're now in a world where writing code is free, or nearly free.我們現在的世界裡，寫程式是免費的，或幾乎免費11:22

• Writing code or doing software engineering is not thinking as a chain of tokens.寫程式或做軟體工程，並不是把思考當成一串 token15:45

• nature did an incredible engineering job and terrible job at documentation大自然的工程做得很了不起，文件卻寫得很糟18:50

名詞與人物7 個

Pitchfork

2018 年在 X 開始的專案，目標是用 ML 改善程式的撰寫方式、縮短小改動的審查循環

Google X

Benoit Schillings 加入 DeepMind 前任職的單位，Waymo 與 Glass 都出自這裡

self-play

模型自己出題、判斷答案並反覆練習，類比 AlphaZero 不靠人類知識就成為頂尖棋手

AlphaZero

只靠自我對弈就成為超人類圍棋與西洋棋選手的系統，用來說明程式模型也能走同一條路

Mythos

Benoit 提到的新聞：Mythos 檢視一段程式碼，找出異常多的漏洞

inductive architecture

Benoit 的用語，指把一個領域的知識搬到另一個領域、找出兩個概念交集的能力，Benoit 認為模型現在還不擅長

Lean

Benoit 舉為新語言的靈感來源，跟 program proof 一起提到，用意是把正確性的負擔放到模型身上

提到但沒有展開

• Benoit 提出的無損壓縮評估：給模型 10 MB 的程式碼，要求寫出最好的無損壓縮器，損失函數是壓縮檔大小加上原始碼大小，沒有盡頭，會逼模型想出全新的演算法。
• Benoit 把超過 20 個原子的分子視為人類還看不懂的範圍，並提到把 10,000 個原子組合起來就開始像生命。

Google研究開發工具安全

在 YouTube 看原片 ↗