替 AI agent 配一個監督者

163 · 替 AI agent 配一個監督者

41:09YouTube 上架 2026-05-28Maxim Bar Kogan（Onyx Security）

Building an AI Guardian for Enterprise with Onyx Security CEO Maxim Bar Kogan

Onyx Security 的 Maxim 談為什麼企業需要專門盯 agent 行動的系統：用只做一件事的小模型決定何時請大模型出手，也談 Mythos 帶來的壓力與以色列的資安人才。

163 講了什麼

從 AutoGPT 押到 agent 行動Maxim 說起點是 AutoGPT，當時模型還不夠好，但概念是對的；當時就一直在想，比人聰明的 agent 該怎麼監督。後來推理模型、Claude Code、Claude Cowork 與 OpenClaw 出現，市場才跟上來。
Onyx 做兩件事一是訓練模型、做能監督其他 agent 的 agent；二是把這個能力做成 control plane，找出企業內所有 AI 與自主 agent，接上來看它們在做什麼。Maxim 認為行動量會成長到 100 倍、1000 倍甚至百萬倍，人在迴路中會撐不住。
舊的資安工具缺脈絡身分權限、端點與 API 安全工具看不到 agent 為什麼做某件事。Maxim 的例子是 Claude Code 在處理無關任務時，突然認為該刪掉資料庫重建，而這些工具不知道它在想什麼。
小模型負責判斷何時升級每個 agent 都配一個大 agent 盯著，成本與延遲都撐不住。Onyx 訓練的小模型只學一件事，就是判斷這一步要不要請更聰明的 agent 來看，主持人拿 blitz chess 的直覺來類比。
Mythos 讓基礎防護更急Maxim 認為市場對 Mythos 沒有反應過度，建議先快速修補，再把身分、防火牆、端點偵測這類基礎補齊，AI 這一層也要有自己的基礎防護。
為什麼不會被 lab 吃掉Maxim 的理由是買方不想讓賣模型的人替自己的模型背書，企業也不願把 agent 的歷史行為資料交給模型公司，而且企業會同時用多家模型。

從哪一段開始看18 段

00:32開場與來賓主持人介紹 Onyx Security 是以色列新創，要做監督 AI agent 的 agent，並預告會談專用模型訓練、Mythos、alignment 研究與以色列生態。
01:18為什麼押 agent 行動兩年前的主流風險想像是聊天機器人的資料外洩，Maxim 說轉折點是 AutoGPT，後來自主 agent 真的出現。
05:19Onyx 做什麼訓練監督用的模型與 agent，再做成 control plane，把企業內的 agent 都接進來。
08:09企業的 agent 分布Maxim 把企業裡的 agent 分成低程式碼平台、自家開發、自主 coding agent 三類，並給出各自的大致比例。
10:02舊工具的落差身分、端點、API 安全工具沒有 agent 的脈絡，不是限制太死就是漏掉危險行為。
12:42為什麼不是 proxyproxy 只是整合方式，有些系統根本不適用，真正難的是判斷一個行動該不該放行。
14:14訓練自己的小模型讓大 agent 全程盯著太貴太慢，所以用小模型判斷何時請大 agent 看，並要跟著前沿模型一起進化。
17:12用 blitz chess 比喻主持人把這套設計比成快棋直覺，Maxim 補充高手只在關鍵一步才長考。
18:31以色列團隊的組成研究與工程人員多來自以色列情報單位的數學與資安領域，以色列在 AI 方面正在追上來。
21:08看進模型內部Maxim 認為理解權重與活化的結構會是解法的一部分，並預期更聰明的模型能幫忙破解 mechanistic interpretability。
23:16大企業為何敢用新公司主持人問信任問題，Maxim 說痛點夠強時，大企業會主動來找，資安團隊寧可早期合作。
25:07Mythos 與弱點發現討論找弱點成本下降，Maxim 說市場沒有反應過度，建議先修補再補齊基礎防護。
27:44分階段釋出的看法主持人問兩家實驗室的受控釋出，Maxim 沒有強烈意見，主張擴大取得管道並假設這類模型遲早出現。
29:04企業還有人禁用嗎Maxim 說很少見了，金融業有些公司只開放少數工具；Maxim 自己認為多開放幾種工具的公司會比較好。
30:39產品範圍與賭注範圍很大，但 LLM 與 agent 兩個基本元件這幾年沒變，核心技術因此能維持精簡，2027 年則保持開放。
32:26lab 為什麼做不來買方心理、獨立第三方、歷史行為資料與多家模型並用，是 Maxim 認為這件事不會被 lab 吃掉的理由。
36:51以色列生態的長處Maxim 說關鍵是理解資安團隊的日常，做出對方真的喜歡用的產品。
39:12資安團隊與 agent主持人拿 AGI 立場追問，Maxim 說資安團隊未來會由 agent 營運，但現在賣給人，同時讓系統對 agent 也好用。

值得記的話5 句

you're going to be paying for me more than you're paying for your AI你付給我的錢會比付給 AI 的還多；「我」指資安廠商15:21
You don't want to spend too much intelligence where you don't have toMaxim 談快棋直覺：智慧要花在高風險的時刻18:16
an opening that only happens when the pain is very strongMaxim 解釋大企業為何願意找上兩年的新公司24:05
the market is not overreactingMaxim 談市場對 Mythos 的反應26:11
you're not going to trust the vendor of a product to tell you that this product is not going to mess your environmentMaxim 說明為什麼需要獨立的第三方33:27

名詞與人物9 個

Onyx Security: Maxim 共同創辦的以色列新創，訓練監督 agent 的模型並提供 control plane。
control plane: Onyx 的產品，找出企業內的 AI 與自主 agent 並接上來監督。
AutoGPT: 讓 LLM 決定要做什麼、再用工具在迴圈中執行的早期自主 agent，Maxim 說它是自己押注的起點。
human in the loop: 由人逐一審查 agent 行動的做法，Maxim 認為行動量暴增後行不通。
Claude Code: 被 Maxim 稱為第一個被廣泛使用的自主 agent，在 Onyx 的客戶群裡成長很快。
OpenClaw: 另一個自主 agent 工具，Maxim 說有企業把它當成正式核准的工具。
Mythos: 談自動化弱點發現時反覆提到的模型等級，Maxim 稱之為資安的大轉變。
mechanistic interpretability: 從權重與活化理解模型內部結構的研究方向，也是 Onyx 研究的重點。
Gil: Onyx 的共同創辦人，主持人說 Gil 做過合成資料，也在 NVIDIA 工作過。

提到但沒有展開

Maxim 說 Onyx 想成為不只做資安的公司，因為真正的問題是長期如何控制先進 AI，並提到若 AI 公司成為 10 trillion 美元級，需要一家不是模型供應商的公司來監督。
Maxim 也提到以色列正出現做 world models、AI 基礎設施與晶片的公司。
Maxim 說資安團隊未來會由 agent 營運，Onyx 今天的產品賣給人，也同時讓系統對 agent 好用：對人是不要塞太多無關資訊，對 agent 是不要浪費 context 裡的 token。

在 YouTube 看原片 ↗

Onyx Security