012 · 企業導入 AI Agent 的四道關卡

從一個醫療 AI POC 卡在生產環境的情境出發，兩位工程主管拆解企業要讓 AI agent 上線，架構上非解決不可的四道關卡。

2026-08-1919:15Christopher Lovejoy（Anthropic，Forward Deployed Engineer）、Saul Howard（Anterior，工程副總）醫療Agent產業觀察看原片

原標題：Why Your Enterprise Tech Stack Isn’t Ready for AI Agents — Christopher Lovejoy & Saul Howard

重點摘要

POC 好用不代表能上線健保應用的示範一旦要進生產環境，資安、法遵、臨床主管會接連追問稽核紀錄、資料流向、人工核准與 evals，這些在 POC 階段通常都還沒處理。
稽核軌跡要禁得起檢驗SOC2、HITRUST、HIPAA 要的不是開發者慣用的 log，而是能完整重建 agent 每個動作、每次資料存取、每次授權的紀錄。做法是用只能新增、蓋時間戳的事件日誌（event sourcing）當唯一事實來源，寫入簡單、讀取靠重放。
醫療資料要跟事件紀錄分開放PHI 形狀複雜、常超過 1MB，甚至更大，存取限制嚴格，也有客戶要求資料不能離開自己的 VPC。做法是事件只存對物件儲存的參照，資料本身用 schema 驅動的物件儲存不可變地另外存放，也讓 agent 用 token 在使用當下才領資料的 zero trust 成立，藉此堵住 lethal trifecta。
人與 LLM 該被當成同一種 agent什麼時候該把決策升級給人無法預先排定，人跟 LLM 處理上下文的方式也不同。解法是讓平台裡任何 LLM 能做的動作人也能做，下游流程不用區分是誰執行的。
evals 可以是架構的副產品LLM 非決定性、離線資料集不代表正式環境、資料還會隨時間漂移，讓評測天生難做。但靠前面事件重放、物件儲存與人機同權這三個原則，就能直接比較 agent 跟人類的差異，甚至在客戶環境裡對正式資料跑評測而不外洩資料。
與其事後補規範，不如先蓋地基先做出 POC 準確率、再把稽核、安全、evals 當附加項外掛上去，最後只會做出脆弱、難以推廣的系統；反過來先把生產環境的要求當架構原則，再往上重建 POC 的準確率，才走得通。

時間軸

時碼點下去會跳到影片的那一段。

時碼	段落	重點
00:00	開場	Christopher Lovejoy（Anthropic）與 Saul Howard（Anterior）自我介紹，說明這場要談企業技術棧為何還沒準備好接住 AI agent。
01:51	企業 POC 情境	用健保行政流程的 POC 當例子：兩名工程師花四週，串起 application、control plane、data plane 與 model provider，達到預期的效能指標。
03:57	上線前被連環提問	POC 成效佳、大家滿意之後，真正的挑戰才出現：資安要看稽核軌跡、合規要問敏感資料怎麼流動、臨床主管要問誰核准決策，還有人問 evals 怎麼做。
05:23	Audit trail 的門檻	一般開發者慣用的 log 不夠；SOC2、HITRUST、HIPAA 要求的稽核軌跡，要能完整重建 agent 做過的每個動作、存取過的每筆資料、每次授權，甚至禁得起放到法庭上檢驗。
07:06	Event sourcing 當事實來源	用只能新增、蓋時間戳的事件日誌當系統唯一的事實來源；寫入變得很簡單，讀取要重放所有事件才能重建畫面，換來的是隨時能回溯任一時間點的完整狀態。
10:13	Schema 驅動的物件儲存	醫療資料形狀複雜、常超過 1MB，存取限制嚴格，甚至有客戶要求資料不能離開自己的 VPC；做法是事件只存對物件儲存的參照，資料本身用 schema 驅動的物件儲存不可變地另外存放。
11:52	Zero trust 擋住 lethal trifecta	物件儲存讓 agent 能用 token 在使用當下才去領資料，不必讓資料在系統裡到處流動，藉此堵住 prompt injection 的 lethal trifecta。
13:48	人與 LLM 同權升級	什麼時候該把決策升級給人無法預先排定，人跟 LLM 處理上下文的方式也不同；解法是讓平台裡任何 LLM 能做的動作人也能做，下游不用區分是誰執行的。
15:36	evals 變成架構的副產品	LLM 非決定性、離線資料集不代表正式環境、資料還會隨時間漂移，讓評測天生難做；但靠前面的事件重放、物件儲存與人機同權，就能直接比較 agent 跟人類的差異，甚至在客戶環境裡對正式資料跑評測而不外洩資料。
16:52	四個架構原則收尾	歸納不可變事件日誌、跟編排分開放的物件儲存、人機同權、evals 作為一等公民這四個原則，並提醒：先做出 POC 準確率、事後外掛規範只會做出脆弱系統，該反過來先把生產要求當地基。

值得記的話

名詞與人物

Anthropic	Christopher Lovejoy 任職的公司，他以 Forward Deployed Engineer 身分分享協助企業導入 AI agent 的經驗。
Anterior	Saul Howard 擔任工程副總的紐約新創，產品是賣給美國健保公司的 agentic AI。
SOC2 / HITRUST / HIPAA	企業與醫療產業常見的資安與合規框架，決定稽核軌跡要記錄到多細。
PHI	Protected Health Information，受法規保護的病患健康資料，存取要有明確必要性。
event sourcing	只能新增、蓋時間戳的事件日誌架構，把每個事件當唯一事實來源，可隨時重放、回溯任一時間點的系統狀態。
zero trust	資料不預先流動，agent 要靠 token 在使用當下才向物件儲存領取所需資料的安全原則。
lethal trifecta	講者用來描述 agent 同時具備存取敏感資料、接觸不可信輸入、能對外行動這三種能力疊加的風險組合。
RBAC	Role-Based Access Control，依角色設定存取權限的機制，人與 agent 都適用。
Epic / Salesforce	演講中提到企業常要整合的醫療系統與客戶關係管理系統。

延伸

演講中提到「不可信資料能否操縱模型」與「怎麼整合 Epic、Salesforce 等既有系統」兩個問題，講者表示因時間有限沒有在台上展開，留待會後交流。
事件溯源搭配 schema 驅動物件儲存的架構，講者提到醫療情境常需要同一份事件紀錄事後產生不同解讀視角，這部分只點出結論，沒有展開細節。