主權 AI 的四根支柱與改造代價

概要

• 主權的技術定義Bilge 先講政策版定義，再說工程師看的版本，是對資料流、模型選擇、基礎設施、可觀測性與營運有明確的控制權，再把它拆成資料、模型、基礎設施、營運四根支柱。
• 主權是一道光譜基礎設施從 air-gapped、私有 VPC、主權雲一路排到 SaaS，越往後控制越少，SaaS 要面對 Cloud Act 的風險。Bilge 說不是每個人都要滿足所有支柱，金融、醫療這類高風險領域才可能需要完全隔離的方案。
• 改造時最先壞掉的地方把 frontier API 換成自架模型，要重做 API 邏輯、改 prompt、從頭評估；資料搬進指定轄區後要管多個資料庫；自架基礎設施則讓原本被雲端供應商吸收的工作浮上來。
• 可觀測與版本控制要補上沒有觀測的系統一旦要求可稽核，就會發現 AI 應用層是黑盒，還得決定整套系統怎麼做版本控制。
• Haystack 的四個對應點一致的介面、明確且有型別的資料流、可序列化成 YAML 的應用、完全開源。Bilge 也承認編排框架解不了 GPU 的限制。
• 參考架構與檢查清單輸入端先過 guardrail，agent 帶工具工作，輸出端再過合規檢查；結尾給三個問題讓聽眾自問系統算不算主權。

原話

• “the ability of an organization to design, deploy and operate AI systems on its own terms.”

  組織依自己的條件設計、部署、營運 AI 系統的能力，這是 Bilge 給的政策版定義

  ▶ 01:16

• “you cannot just change the whole code base within one day.”

  你不可能一天之內把整個程式碼換掉，Bilge 用這點說明模型綁定

  ▶ 05:18

• “sovereignty is a spectrum”

  主權是一道光譜

  ▶ 06:18

• “you don't want to fill in the whole context with just tool definitions.”

  不想讓整個 context 都塞滿工具定義，所以用可搜尋的 toolset

  ▶ 16:04

延伸

• 模型主權的最後一項是訓練資料來源。Bilge 承認這點有爭議，因為目前沒辦法知道模型用了哪些資料訓練；能說的只有：模型供應商若是歐洲公司，會比美國公司有優勢。
• 範例裡交給 agent 的任務是「把第三季未處理的付款請求拉出來、產生 PDF」，其中送出付款請求的工具要先經過人工核可。