158 · SAP 用 AI 重做企業系統
SAP: Bringing the ‘Operating System’ of a Company into the AI Era with CTO Philipp Herzig
SAP CTO Philipp Herzig 談 AI 如何改寫企業軟體的介面、流程與資料層,難處在規模與可驗證,也談預測模型、定價轉型與客戶採用的現實。
158 講了什麼
- 軟體要在三層重做Philipp 說這跟當年從 on-prem 搬上雲端很像,不是把舊東西丟上去就算數。介面會變成動態生成,業務流程能混合結構化與非結構化的工作,底下則要有一套整合過的資料。
- 真正的難題是規模做一個聊天機器人讀 10 份文件不難,到 100 份、1,000 份就變成工程問題。MCP 也一樣,10 個 API 沒事,SAP 有 20,000 個 API。員工問差旅規定時,答案還要跟所在國家、薪資體系這些主資料接起來。
- 可驗證性決定 agent 能走多遠Philipp 認為 coding agent 之所以好用,是因為編譯、單元測試能驗證結果。企業流程要靠 evals 與邊界條件;SAP 的紀錄系統本身提供一條可驗證的路,但還不夠,所以要把藏在人腦與聊天頻道裡的決策脈絡記錄下來,Philipp 稱為 agent mining。
- LLM 不擅長預測需求預測、現金流、付款延遲這類問題,Philipp 認為語言模型不是為此設計。SAP 花了兩年研究做出 RPT1,用少量資料就能對表格資料做分類與迴歸。
- 採用的阻力在資料、規模與安全資料分散在不同系統,加上併購留下的雜亂環境;規模問題要做成一致的體驗;安全上,未經處理的開源 agent 專案不能直接丟進公司。
- 定價走向混合多數 SAP 軟體目前按席位計費,Philipp 說方向是先走用量計費,再看有沒有機會走到按成果計費,但現階段是混合模式,因為客戶要可預測的成本。
從哪一段開始看15 段
- 00:31開場與 SAP 是什麼Sarah Guo 介紹來賓與議題;Philipp 說 SAP 有 400,000 個企業客戶,涵蓋財務、人資、供應鏈到銷售,等於是公司的作業系統。
- 03:41為什麼歷久不衰1972 年創辦的原因是不想對每個客戶重做一次財務系統,才有標準軟體;客戶要的一直是成果與投資報酬。
- 06:47全力押注 AI公司內部人人都用 agentic coding;顧問專案用的 AI 產品能減少約 30% 的工作量,Concur 也上線了差旅與費用 agent。
- 08:38介面、流程、資料三層用雲端轉型做類比,說明介面變 generative UI、流程由 agent 串起結構化與非結構化,資料層要整合成語意一致的模型。
- 12:16難在規模文件、MCP、API 數量一放大就出問題;回答還要依使用者所在地與薪資體系調整。
- 14:22evals 與測試先行說 coding agent 能做好是因為結果可驗證;企業場景要先描述輸出與邊界條件,開發者的工作方式跟著變。
- 17:45企業流程能驗證嗎紀錄系統給出一部分標準答案;再把 agent 追問的決策脈絡存起來,做成 agent mining 與資料飛輪。
- 20:51computer use 還是 tool callingPhilipp 沒有定論,但認為多數會走結構化的 tool calling,沒有 API 的舊系統再靠 computer use。
- 22:07哪裡先見效非結構化的服務、支援與知識工作最先拿到回報;orchestration 要處理像「order」這種歧義,knowledge graph 把自然語言接到表格資料。
- 25:13預測模型與 RPT1解釋為什麼語言模型不適合預測,傳統做法難擴張,介紹 SAP 為表格資料做的 RPT1。
- 29:09企業採用的障礙講資料分散、規模與安全三件事,並以開源 agent 專案與一次函式庫漏洞為例。
- 32:03財務與人資的工作變化瑣碎工作被取代,人轉去跑更多情境、做策略思考;Philipp 拿用 Claude Code 的初階開發者類比,大家都往上提一級。
- 34:07商業模式與定價從席位制走向用量,再看按成果計費;現在是混合模式,因為客戶要可預測性。
- 36:30贏家的條件Philipp 認為關鍵是採用與帶給客戶的成果,SAP 只投資有差異的部分,其餘靠合作。
- 38:50快問快答:CTO 的一天Philipp 說時間多半花在檢視各層團隊的進度,自己也開著好幾個命令列實例做原型。
值得記的話5 句
AI is only as powerful as the data is, right?
Philipp 說這是 SAP 內部常講的話:AI 的能力取決於資料12:01It's actually not the AI so much, right? But it's actually teaching the AI to do the right thing at scale.
真正的難處不是 AI 本身,而是教 AI 在大規模下做對的事12:31If you want to make good decisions in a company, you need predictions, right?
要在公司裡做好決策,就需要預測25:45every role, every level will kind of get up leveled so to speak
每個職務、每個層級都會往上提一級33:21our job at SAP is to make the technology disappear, right?
我們在 SAP 的工作,就是讓技術消失,對吧?這是我常對開發者講的話37:34
名詞與人物12 個
- SAP
- 企業軟體廠商,Philipp 形容它是公司的作業系統,涵蓋財務、人資、供應鏈、銷售等。
- generative UI
- 介面由系統依問題動態生成,而不是事先設計好讓人照著點。
- Joule
- SAP 內員工提問的介面,Philipp 用它說明答案要依員工所在地與薪資體系而不同。
- MCP
- 讓 agent 連工具的協定;Philipp 說 API 數量一多,context 就會爆掉。
- evals
- 驗證 agent 輸出是否符合預期的測試;Philipp 認為開發者要先寫好。
- system of record
- 公司現有的紀錄系統,裡面的資料能用來判斷流程的預期結果。
- tribal knowledge
- 沒存在系統裡、只活在人腦與聊天頻道的知識。
- agent mining
- 把 agent 與使用者互動時的決策脈絡記錄下來,由 process mining 延伸而來。
- data flywheel
- 每一筆互動紀錄都能變成新的 evals,進一步優化系統。
- SAP knowledge graph
- 銜接自然語言與系統內結構化資料的圖譜。
- RPT1
- SAP 發表的 relational pre-trained transformer,針對表格資料做預測。
- XGBoost / AutoGluon
- Philipp 舉的傳統機器學習與 AutoML 做法,問題是難以擴張:某家藥廠在 90 個國家營運,光是付款延遲預測就要訓練 180 個模型。
提到但沒有展開
- SAP 的軟體多數按席位授權,例外是 Concur、Fieldglass 與 business network;Philipp 說等系統更可驗證之後,下一步可能是 Sierra 那種按成果計費的授權。
- 談安全時,Philipp 舉 OpenClaw 為例:帶來很多新想法,但沒人會把 GitHub 上的原樣直接部署進公司;又提到大約兩週前 LiteLLM 那個會偷走金鑰與憑證的漏洞。
