Imbue 的 agent 與可靠性 · No Priors 筆記

041 · Imbue 的 agent 與可靠性

32:48YouTube 上架 2023-11-16Kanjun Qiu & Josh Albrecht（Imbue）

No Priors Ep. 41 | With Imbue Co-Founders Kanjun Qiu and Josh Albrecht

Imbue 兩位共同創辦人談為什麼 agent 需要有別於語言模型的架構、可靠性怎麼一步步補、用寫程式當主戰場的理由，以及小團隊搭配大量算力的做法。

041 講了什麼

agent 是光譜，不是有或沒有Kanjun 把 agent 分成「專用到通用」與「copilot 到自主」兩條軸線。現在多半是專用、有人盯著的版本，能力提升後會逐步被更通用、更自主的取代。
最大的問題是可靠性其中一位創辦人說，跟做 agent 的創辦人聊下來，最難的是讓系統每一步都做對。Imbue 把推理看成提高可靠性的一大塊，再加上 chain of thought、tree of thought 這類錯誤修正技巧，一點一點往上推。
不只靠語言模型本身其中一位創辦人的論點是語言模型有理論上的限制，例如學不會一般意義的乘法；要執行一般的演算法，需要外層有一個決定下一步的系統，並說各大實驗室都清楚這件事。
寫程式是主戰場理由包括評估有客觀答案（測試過不過、函式對不對）、程式碼是推理的一部分，以及用 coding agent 寫 coding agent 能加速自己。Imbue 內部自稱要做「真的每天會用」的 agent。
評估靠拆解把輸出拆成許多可以單獨衡量的問題，例如變數命名好不好、改動是否最小。這套做法也可以搬去招募這類不是程式的任務。
小團隊、大算力主持人提到 2 億美元的募資；其中一位創辦人說相當一部分會花在算力，目標是維持小而緊密的團隊，而不是幾萬人的公司。

從哪一段開始看15 段

00:00開場與創業緣起Sarah 介紹 Imbue 做能推理、能寫程式的 agent。Kanjun 說自己和 Josh 在一場研討會認識，後來同住一間大房子，也差不多同時開了第一間公司。
02:20為什麼是 agent聊天機器人的答案還要使用者自己去驗證，Imbue 想做的是能替人完成目標的系統；另一位接著說，電腦現在得靠人一步步操作，像在調工廠機台的旋鈕。
04:55agent 的難度光譜現有的 agent 如客服機器人已經能用，但多半寫死流程、不通用。Kanjun 的框架是專用到通用、copilot 到自主兩條軸。
06:13可靠性是關鍵現階段像是沒有錯誤修正的網路，模型不夠可靠。推理加上錯誤修正技巧，把它當可靠性問題就能漸進改善。
07:35通用還是專用的成本取捨主持人問成本；Josh 說可以用通用 agent 去產生更專用的版本；另一段談到每項能力都用最小可用的模型，並以個人電腦對比超級電腦。
10:43為什麼不只靠語言模型語言模型有明確的極限，需要一個外層系統決定下一步、何時蒐集更多資訊、對結果有沒有把握。
12:28程式碼與語言的光譜創辦人說寫死的推理流程和語言模型之間是光譜；越想要穩、可重複的部分，越往程式碼那端移。
14:02「serious use」與選任務做自己每天想用的 agent，從 60% 可靠做到 70%、80%。選任務看有用程度、頻率、可行性，並舉 to-do agent 與修型別錯誤的 agent，以及 agent 呼叫 sub agent。
17:12怎麼做評估把一個好的輸出拆成可單獨衡量的屬性，對輸出問一串問題再評分；程式的對錯客觀，招募等任務也能套用同一套做法。
20:04產品公司與 agent 工具主持人問是不是產品公司；創辦人說是，但目標是做出讓人能快速可靠地建 agent 的工具與框架，現在寫 agent 像用組合語言寫程式。
22:11一年後與五年後一年後像整理 email、排行程這類流程會真的能用；五年後每個人能用自然語言描述自己要的 agent。創辦人轉述公司招募人員的說法：Imbue 是開發工具公司，而未來人人都是軟體工程師。
24:31募資與算力主持人問 2 億美元的用途；創辦人說相當一部分會花在算力，要維持小團隊，並舉內部的超參數最佳化 agent，讓研究員隔夜就能得到結果。
26:17算力門檻與訓練效率主持人提到大型實驗室認為 GPU 數量不到 5,000 難以競爭；創辦人說 Imbue 的算力足以訓練跟目前最大的模型一樣大的模型，但訓練在變得更有效率，資料是更大的一塊。
28:06為什麼聚焦寫程式評估客觀、寫程式屬於推理、能加速自己；內部已在自動寫單元測試，每天一點點進步會累積，創辦人形容這是慢慢磨出來的自我改進。
30:24更多、更好、更客製的軟體讓 agent 寫 API 整合、修型別錯誤、補測試、找安全漏洞；也能為每個人生成並快取專屬介面。主持人收尾：會出現 25 人就能改變世界的公司。

值得記的話5 句

reasoning is one big piece of improving reliability推理是提升可靠性的一大塊07:02
they cannot learn to do multiplication in the general sense它們學不會一般意義上的乘法；指語言模型11:13
writing agents feels like writing code in assembly寫 agent 的感覺像在用組合語言寫程式21:08
a 1% improvement every day over a year is huge每天進步 1%，一年下來很可觀29:22
if you can just turn compute into really good code, now this is a totally different world如果能把算力直接變成好程式，世界就完全不同了29:52

名詞與人物10 個

Imbue: Kanjun Qiu 與 Josh Albrecht 共同創辦的公司，做能推理、能寫程式的 agent。
Kanjun Qiu: Imbue 共同創辦人，提出 agent 兩條光譜的框架。
Josh Albrecht: Imbue 共同創辦人。
agent: 能替使用者完成目標、而不只是回答問題的系統；本集把它視為一條光譜。
reasoning: Imbue 用這個詞泛指讓 agent 完成任務的一整組能力，例如何時回頭問人、規劃並比較行動方案。
copilot: 有人在迴路中盯著的 agent 形式，Kanjun 說能力提升後會逐步變得更自主。
chain of thought / tree of thought: 被點名的錯誤修正技巧，用來提高可靠性；Imbue 內部還有其他技巧。
serious use: Imbue 的內部原則：做自己每天真的想用的 agent。
to-do agent: Imbue 內部的通用 coding agent，處理程式庫裡隨機的待辦事項，可呼叫 sub agent。
sub agent: 被其他 agent 呼叫、負責某個具體功能的 agent。

提到但沒有展開

其中一位創辦人提到 Imbue 內部用 coding agent 加速自己：自動寫單元測試、擴充型別錯誤修正器去補測試與找安全漏洞。
Josh 說，把通用 agent 拿去為高頻率的工作寫出專用程式碼，是降低成本的辦法，例如把一萬次呼叫改寫成一段 Python。

在 YouTube 看原片 ↗

Imbue