164 · Satya Nadella 談 AI 生態系與私有 eval
We Need An Ecosystem in AI, And Every Company Can Win A Place In It
與 Latent Space 合辦的現場訪談。Microsoft 的 Satya Nadella 談平台、harness、私有 eval、SaaS 與定價怎麼變,以及資料中心要如何取得社區的認可。
164 講了什麼
- 生態系比單一模型重要Satya Nadella 說,平台的定義是替別人創造的價值多過自己抓走的價值。當天早上的 keynote 要回答的,是 AI 原生公司或傳統企業怎麼成為一等參與者,做出自己的 AI。
- 私有 eval 是公司的 IPSatya 認為公開的 eval 都可以被刷滿,每家公司會有自己的私有 eval。檢驗方法是同一份 eval 換一個模型還能不能繼續往上爬,能就是掌握在自己手上。
- harness 由模型、資料、工具三者構成Microsoft 的 GitHub Copilot、security copilot 等產品都是這種 harness,並且開放給其他 harness 與多個模型使用。Satya Nadella 說準備 context 的工作量超乎預期,價值也在那裡。
- SaaS 要拆開再重組Satya 的說法是資料模型與商業邏輯仍有價值,但原本打包好的方式要拆開,用新的商業模式重組。定價上,per user、consumption、outcome 各有時機,沒有一種通吃。
- 重新定義自己的工作Satya 舉 Azure 網路團隊為例,團隊說自己的工作是建一個做 Azure networking 的 agentic 系統,要的是 token 而不是人頭。
- 要讓社區看得到好處資料中心的大規模建置要靠能源、水、工作機會與稅基的實際成果,才能取得許可。教育則可能出現新的大學或新的教學法。
從哪一段開始看18 段
- 01:11開場現場請上 swyx、Sarah Guo、Elad Gil 與 Satya Nadella,這集是 No Priors 與 Latent Space 的聯合場次。
- 01:59生態系而非單一模型這場大會的最大心得,是把 AI 看成生態系,平台要讓任何公司都能做出自己的 AI。
- 03:18MAI 模型的訓練策略從乾淨的 lineage 做起,再讓企業用 hill climbing scaffold、traces 與私有 eval 訓練自己的專門模型。
- 05:55回頭看低估了什麼Satya 說低估的是在真實世界部署的複雜度,真正的 eval 是人們能不能做出獨特的事。
- 07:29coding 之外的價值coding 太好用,連 IDE 都要重做;長時間運作的 agent 則會放大黏合性工作的規模。
- 09:36企業用的 harnessharness 把模型、資料、工具串成一個迴圈,Microsoft 的做法是開放讓別人帶自己的 harness。
- 11:42第一方產品與平台平台廠商可以有自己的產品,但不該限制別人成功,關鍵是保護私有 eval 並能切換模型。
- 14:05每家公司都在前沿主持人提出第三幕是 harness 與 eval,Satya Nadella 說整場大會的標語是讓大家都能用自己的 frontier intelligence。
- 15:52公司的價值變什麼人的經驗加上 agent 與人互動的 traces,能訓練出公司的老手 agent,Satya 認為這應該列入資產負債表。
- 17:40軟體的終結?資料模型與商業邏輯仍有價值,但 SaaS 要拆開再重組;Satya 以 Power BI、Work IQ 與 M365 為例。
- 21:50定價模式per user 是預算確定性的產物,之後加上 consumption;outcome 定價聽起來好,真有成果時客戶又不願分潤。
- 23:55SaaS 還撐得住嗎要走完一輪預算週期才看得到均衡;自己做或外購,取決於自建與維護的邊際成本。
- 25:58Satya 自己在做的東西Satya 用 Work IQ 與 Foundry 做了一個長時間運作的 chief of staff agent,並發布到 Teams。
- 28:17工程角色會怎麼變以 LinkedIn 的 full stack builder 為例,通才的槓桿最大,基礎設施的人才也變得關鍵。
- 31:11怎麼更有野心引 Kevin Scott 的話,說明 Azure 網路團隊如何重新定義自己的工作。
- 34:21資料中心與社區建置規模前所未有,要用真實的成果換取社區的許可,不是做宣傳。
- 38:00社會影響未來 12 到 18 個月要讓人實際看見好處,Satya 說世界對只講「相信我們」的科技公司會更懷疑。
- 39:53教育主持人問教育為何進展慢;Satya 提到 Alpha School,並說下一個大的新創可能是新大學或新教學法。
值得記的話5 句
a platform is defined by fundamentally its ability to create more value about the platform versus what's captured in the platform
Satya Nadella:平台的定義,是它在平台之外創造的價值多過平台自己抓走的02:15each company will have its own private eval
Satya Nadella:每家公司都會有自己的私有 eval04:52most people love outcomes until they have an outcome
Satya Nadella:多數人都愛 outcome 定價,直到真的有了成果22:36true ambition is about making the impossible possible
Satya Nadella 引 Kevin Scott 的話:真正的野心是讓不可能變成可能32:01the world is going to be way skeptical of tech and tech companies
Satya Nadella:世界會對科技業與科技公司更加懷疑39:07
名詞與人物11 個
- MAI models
- Microsoft 這次發表的一組模型,Satya Nadella 說重點在乾淨的 lineage 與小模型能 hill climb。
- cognitive core
- Satya Nadella 說最終要找的東西;小模型能 hill climb,就是朝這個方向。
- hill climbing scaffold
- 圍繞模型建立的訓練框架,搭配 traces 與私有 eval,讓企業把通用模型變成自己的專門模型。
- private eval
- 企業自己的非公開評測,Satya Nadella 認為這是 IP 的主要來源。
- harness
- 把模型、資料、工具串成迴圈的外殼,GitHub Copilot 等產品都是這種結構。
- M dash
- Microsoft 的產品,Satya Nadella 說上線時找到了 Mythos 沒找到的 bug 或漏洞。
- Work IQ
- Microsoft 把 M365 的資料開放給 agent 使用的服務,Satya 示範在 GitHub repo 裡讓它根據會議紀錄提出修改計畫。
- Foundry
- Satya Nadella 用來做長時間運作 agent 的平台,GitHub 的 harness 也能在其中使用。
- full stack builder
- LinkedIn 把設計、產品管理、前端工程合在一起的新職務。
- Miles
- Azure 網路團隊為自己的 agentic 系統取的角色名字。
- Alpha School
- Satya Nadella 說最近見過它的創辦人,並從中想到教育可以重新設計。
提到但沒有展開
- Satya Nadella 談到 Windows 時期的例子:Autodesk 與 Adobe 在上面建立事業,Jensen 的 CUDA 則是在 DX 之上建出來的,Satya 說自己當時沒有認出那個機會。
- 教育段落提到某堂 Stanford 課要求學生學會正確套用 softmax,而不是直接叫 agent 修好訓練流程,Satya 用這個例子說明概念仍然要學。

