Loops 到底是炒作還是真能用

023Dex Horthy, Geoff Huntley, Ian Livingstone & Greg Pstrucha60:162026-07-17 上架

The Great Loops Debate — Dex Horthy, Geoff Huntley, Ian Livingstone, Greg Pstrucha, @insecure-agents

牛津式辯論：Ian 與 Geoff 說 loops 名副其實，Dex 與 Greg 說炒作跑在紀律前面。從驗證、成本、context 一路辯到出事誰負責。

這場講了什麼

• 辯題與賽制：主持人說明辯題是 loops 的炒作與實際能用的程度之間有沒有落差。Ian 與 Geoff 這隊說沒有落差，Dex 與 Greg 這隊說有；現場以「誰改變最多人的想法」定勝負。
• 正方的底氣：Geoff 說自己兩年半沒手寫過程式碼，也認為 loops 不可避免；Ian 認為開發本來就是一圈圈的回饋迴路，軟體又是最容易驗證的東西之一，人越少直接操作介面，就越好驗證。
• 反方的疑慮：Dex 說炒作跑在紀律前面，大家都想找一顆銀彈來擺脫 code review，反而覺得抽象層級該往下走；Greg 說自己對產出的品質還不滿意，而且 token 花費撐不久。
• 驗證與 context 是主戰場：雙方都同意能用型別、linter、模擬測試這類確定性的方式驗證，就該盡量這樣做。分歧在於非確定性的驗證會不會越疊越不可靠，以及 context 變長之後 Ralph Loop 的做法還剩多少意義。
• 責任與安全沒有解法：Ian 說模型自己守不住邊界，agent 越強越會找漏洞，責任最後一定落在人身上；Geoff 說本機開發環境本來就不安全，問題不是 AI 才有。
• 雙方給的實務建議：Dex 勸大家先在系統各處放小而漸進的 loops，追求兩到三倍的速度；Greg 勸大家自己動手試、少看 Twitter；Ian 說不跟上已經不是選項。

影片從哪一段開始看19 段

1. 00:12辯題與賽制主持人介紹兩隊與牛津式辯論的規則，辯題是 loops 的炒作與實際能做到的事之間有沒有落差，預告談歷史、結構與未來三塊。
2. 04:01Geoff 開場：不可避免Geoff 說兩年半前在 Canva 就看出重複下 prompt 這件事可以寫成程式，Ralph 被化簡成一個 bash loop，自己這兩年半沒手寫過程式碼。
3. 07:00Dex 開場：炒作跑在紀律前面Dex 說 Kubernetes 也是建在確定性的控制迴路上，loops 最大的價值是小範圍、有明確目標狀態的任務；現在大家想靠 prompt 繞過 code review，抽象層級該往下走。
4. 10:24Ian 開場：開發本來就是 loopIan 說從 CI/CD 到 pull request 都是回饋迴路，軟體是最可驗證的東西，人越少直接操作介面，這個問題就越可驗證。
5. 12:49Greg 開場：品質與成本Greg 說錯失恐懼很重，自己對產出品質仍不滿意，還得靠大量人工迭代；把 loop 疊在 loop 上用 token 蓋掉品質問題，經濟上撐不久。
6. 16:18目標導向的 agent 守不守規矩主持人問 Anthropic 的 goal 指令，Ian 說模型越強越會找漏洞，邊界要靠外圍的基礎設施，不是模型本身；其中一位講者附和，說最實際的防護是別把 secret 放在檔案裡，否則 agent 會翻檔案系統找權限更高的 token。
7. 19:28Geoff：為何現在能用於舊程式碼Geoff 說模型至少過去一年就夠好，轉折是大家有了假期去試；做法是用 pre-commit hook 等回饋把 loop 擋在工程要求之內，直到達標才算收工。
8. 24:45Greg：驗證做不全面Greg 說確定性的驗證可以持續加，非確定性的驗證會讓誤差疊加；大型 AI 公司仍在用 Sentry 抓簡單 bug，代表這些問題還沒解。
9. 27:05Dex：context rot 與 smart zoneDex 說 Ralph 的長處是每圈重開 context，context 變長後這個動機變淡；真正的重點是能餵給系統的回饋越多，能自主做的就越多。
10. 30:21Geoff：防作弊與 context 預算Geoff 靠 pre-commit hook 當 back pressure，把 compaction 比成反覆上傳影片的失真，並提醒模型的 context 能放的資料量很有限。
11. 33:33Dex：怎樣不把 slop 疊成更多 slopDex 回顧 Geoff 的 Loom 實驗，說那在今天還行不通，要避免 slop 就得讀產出的東西；Geoff 回說半年沒做，是在研究驗證的工程做法。
12. 36:13Greg：loop 何時值回票價Greg 說 loop 其實是大聲地失敗，值得花錢的例子是 PR 之後的安全掃描，也有規格與測試齊全的重寫案例，原型則丟掉重來。
13. 39:13Ian：共享記憶的存取控制Ian 說現有的存取控制不是為機器代人行事設計的，這題還沒解；若把記憶當成 markdown，大半基礎其實已經在了，難在怎麼把世界呈現給 agent，以及怎麼決定誰在什麼時候能存取。
14. 41:20Greg：全自動工廠要能驗證一切嗎Greg 說設計與架構的決定不會交給 agent，因為 agent 愛堆複雜度；想自己留在架構決策的迴路裡。
15. 43:19Geoff：「只要寫 loops」安全嗎Geoff 說當初是寫給同行看的，Ralph 濃縮成一個用 `cat` 的 while true 迴圈是為了好教，外面該有類似 PID controller 的東西決定 loop 要不要繼續；至於安不安全，本機開發環境因為 NPM 供應鏈攻擊本來就不安全，不是 AI 才有的問題。
16. 46:32Dex：兩到三倍就夠了Dex 勸大家別花三個月閉門造「那座」軟體工廠，把它當成給同事用的產品，從小處迭代；別一心衝一百倍。
17. 49:36Ian：誰簽名、誰負責Ian 說 Git 一個 commit 只能有一個簽署者，需要改；責任最終一定落在人或公司身上，agent 本身承擔不了後果。
18. 52:39結辯：Greg、Ian、DexGreg 勸大家自己試、保持樂觀；Ian 說火車已開走，重點是找出哪些地方適合用 loops；Dex 期待燈全關的軟體工廠，但認為現階段只有模型層能解。
19. 56:57Geoff 結辯與舉手表決Geoff 說全自動工廠像永動機，現在還是空想；型別系統是一種驗證，並主張盡量把原始碼收進自己手裡，掌握供應鏈。最後主持人請聽眾舉手，燈光太亮看不清楚，台上只說很接近。

值得記的話5 句

• Software is one of the most verifiable things in the worldIan：軟體是世界上最容易驗證的東西之一11:45

• We're kind of like locomotive engineers now, and it's our job to keep the locomotive on the rails.Geoff：我們現在有點像火車司機，工作是讓火車留在軌道上23:03

• the way to not loop slop together and make more slop is to like read the thing that's coming out the other endDex：要避免把 slop 串成更多 slop，方法就是去讀另一頭產出的東西35:37

• In my experience, agents love complexity.Greg：就我的經驗，agent 很愛複雜42:47

• The only people who have liabilities are people that can have consequences, right?Ian：能被追究責任的，只有會承擔後果的人，對吧？50:26

名詞與人物9 個

Ralph Loop

Geoff 提出的做法：把 prompt 用 `cat` 丟進 while true 迴圈、以檔案系統當狀態、每圈重開 context window

software factory

辯題裡的目標：由 loops 自主產出、驗證並交付軟體的流程

smart zone / dumb zone

Dex 的說法：context window 前段模型表現好，塞太滿就進入 dumb zone；給新手的建議是控制在約 100,000 tokens，用久了有直覺，這條就只是訓練輪

convergence engineering

主持人說是 Geoff 約十天前提出的詞：把 loop 的 slop 當成待測系統，跑到收斂為止

Loom

Geoff 早先用 Ralph Loops 蓋一個軟體平台的實驗，目前放在 GitHub 上，已半年沒有進展

back pressure

Geoff 用 pre-commit hook 等回饋擋住 loop 的說法，在達標前不讓它收工

pre-commit hook

commit 前自動跑的檢查，Geoff 用它往 agent 回灌規則與提示

Keycard

主持人介紹 Ian 是這家公司的 CEO 兼共同創辦人，主持人自己也在此任職

HumanLayer

Dex 的公司，主持人介紹 Dex 是 CEO

提到但沒有展開

• Geoff 開場舉了兩個例子：用 loop 把一段 Golang 程式自動移植到 TypeScript；以及產品經理的研究工作，例如把 Linear 上所有 ticket 列舉完就算結束，終止條件很明確。
• Greg 說自己做原型時會先放手讓 agent 跑，滿意了才回頭讀程式碼、重新寫規格。
• Geoff 說每次新模型出來，都會把所有 skills 與 markdown 清掉，用裸模型重測，因為不同模型有不同偏好。

Agent開發工具安全產業觀察

在 YouTube 看原片 ↗