用 context graph 替 agent 補上決策脈絡

概要

• 資訊散落是核心問題Stephen 說工程師手上有很強的 AI 工具，卻被它們牽著走；企業知識散在 Slack、客戶對話與各個孤立的系統裡，agent 拿不到脈絡，就給不出好答案。
• 圖譜補的是 RAG 缺的背景Stephen 用一個肺氣腫照護計畫的例子對照三種做法，一般 LLM 的答案很泛，向量資料庫 RAG 稍有病人資訊，圖譜則帶出診斷、手術與抽菸史，建議才貼近這位病人。
• 三種記憶放進同一張圖短期記憶是目前流程的狀態，長期記憶是跨任務與跨使用者的歷史，推理軌跡則記下決策為什麼這樣做，可重複利用，也能拿來合規與除錯。
• 關係是圖的一等公民Stephen 認為不必像資料表那樣到處 join，多跳查詢也快，並把 Neo4j agent memory 套件介紹成把三種記憶合在一起的開源專案。
• context graph 記錄的是「為什麼」和傳統稽核紀錄不同，它把決策軌跡、政策、風險因素與員工的理由都掛在實體與關係上，之後的查詢可以拿來參考。
• 授信 demo 展示可解釋性agent 查圖譜後建議不核貸，並列出風險因素、先前決策與詐欺模式，使用者看得到整張被走過的圖。

原話

• “So knowledge graphs are a very powerful tool for us to aggregate all this information, create the connections, create the relationships.”

  知識圖譜是很強的工具，能把資訊聚合起來，建立連結與關係

  ▶ 03:08

• “So graphs are a great use case for memory because relationships are first class within knowledge graphs.”

  圖很適合拿來存記憶，因為關係在知識圖譜裡是一等公民

  ▶ 08:39

• “unlike a traditional audit log, they're capturing the why, the decision traces”

  和傳統稽核紀錄不同，它們記錄的是為什麼，也就是決策軌跡

  ▶ 11:53

• “So this is why knowledge graphs make things explainable and auditable”

  這就是知識圖譜讓事情可解釋、可稽核的原因

  ▶ 14:38

延伸

• Stephen 說圖也是人表達知識的方式，就像在白板上畫關係，所以 LLM 從非結構化文件建出來的圖，人也看得懂。
• 長期記憶的量最大，Stephen 認為要先有好的 domain model，把業務流程、實體與相關的人表示清楚，才整理得起來。
• context graph 讓原本藏在 Slack、email 裡的非正式討論，變成應用程式裡查得到的先前決策；新的建議也會寫回推理軌跡，供之後查詢。