MiniMax M3 開源與推論實戰

068Dan Fu and Olive Song20:142026-07-31 上架

Agents at Scale: Inside MiniMax's Model and the Infrastructure Behind It — Dan Fu and Olive Song

MiniMax 的 Olive Song 與 Together AI 的 Dan Fu 對談：M3 為什麼開源、多模態怎麼從頭一起訓練、新模型上線後推論端怎麼一週週加速，以及 agent 工作負載怎麼改變推論堆疊。

這場講了什麼

• 開源是為了讓人人用得到：Olive 說開放權重大家都能用，開發者可以透過回饋與 PR 貢獻，像 Dan 這樣的推論團隊也能針對開放權重把推論做得更快。
• M3 從第一步就一起訓練圖文：M3 跟 M2 系列的差別是多模態，文字與圖像資料從 step zero 就一起訓練。Olive 說很多實驗室這樣練，模型練一陣子就崩掉，MiniMax 解決了這個問題。
• 後訓練的關鍵是環境、資料與獎勵：不論是 kernel 優化還是 12 小時的長任務，Olive 都說重點在怎麼定義問題、環境與獎勵，並稍微調整 RL 演算法。模型有時會作弊，要靠驗證與測試確認是真的進步。
• 上線當天顧品質，之後一週週加速：Dan 說一拿到 MiniMax sparse attention 這類早期細節，就開始寫 kernel、跑 benchmark；day zero 先確保品質，接著照清單處理 KV cache、attention kernel、quantization，讓模型在第 7 天、第 14 天越跑越快。
• agent 負載改變推論要優化的地方：聊天時 system prompt 大約幾千 token，coding agent 卻會把整個 codebase 上傳，Dan 說這在優化、routing 與 kernel 上都是完全不同的挑戰。
• Parallel Kernel Bench 歡迎過度擬合：這個 benchmark 放的是還沒解的問題，Dan 說就算有人針對它過度擬合也是好事，Together 會拿那些 kernel 回頭加速推論。

影片從哪一段開始看14 段

1. 00:12主持人開場與介紹主持人請兩位自我介紹：Dan Fu 是 Together AI 的 VP of kernels，Olive Song 是 MiniMax 的 RL 研究負責人，管模型最後的訓練與出貨。
2. 01:16為什麼開源 M3Olive 說開源符合讓大家都有智慧可用的使命，開發者能用回饋與 PR 貢獻，推論端也能針對開放權重優化，讓推論更快。
3. 02:16Together 與 MiniMax 的合作Dan 說 Together 緊盯所有開放模型；去年在 Las Vegas 的一場活動上，MiniMax 的人來請他們一定要服務下一個模型。之後服務過 MiniMax 2.5 與 2.7，M3 發表前就開始一起處理架構與推論優化。
4. 04:01M3 的多模態與隱藏用法Olive 說 M3 看得懂圖像與影片，常見應用是操作電腦；遊戲開發是團隊下過功夫、但還少有人發現的用法。
5. 04:58SVG Bench 與 Kernel Bench 怎麼後訓練主持人問針對這些領域怎麼後訓練，Olive 說關鍵是資料與問題的定義；以 kernel 為例，要設計好環境，讓模型在裡面靠 RL 自己優化 kernel、反覆改進。
6. 05:47Parallel Kernel BenchDan 說開源與閉源模型寫 kernel 都越來越強；調查各種推論做法後發現，很多想得到的加速方法還沒有好的 kernel，所以這個 benchmark 收的是未解問題。
7. 07:21新模型上線的推論流程Dan 說拿到早期細節就開始寫 kernel、測試，判斷能沿用、要修改還是要從頭寫；day zero 顧品質，之後一週週處理 KV cache、attention kernel 與 quantization。
8. 09:09agent 負載與推論堆疊從聊天轉到在 harness 裡跑上百輪 tool call 的 agent 工作負載，Dan 說這會決定 KV cache 與要優化堆疊的哪一段；coding agent 還會上傳整個 codebase。
9. 10:45從頭訓練多模態Olive 說 M3 從 step zero 就訓練圖像資料，並解決了模型崩掉的問題；從 attention map 看，文字 token 會去注意視覺 token，兩者自然結合，做網站這類任務時模型看得懂畫面。
10. 11:49一千零一個優化點多模態、1 million context、sparse attention 一次上來，要先優化什麼？Dan 的回答是 1,001 件事都做，每個能推的邊都去推。
11. 12:38優化經驗能不能跨模型Dan 說 MiniMax 的 sparse attention 和 DeepSeek、GLM 的都不太一樣，但優化與寫 kernel 的經驗仍能帶到新的 sparse attention 上；這個問題自己從念 PhD 時就在想。
12. 14:07訓練 12 小時的長任務主持人提到發表時的部落格寫模型能跑 12 小時、復現一篇 ICLR 論文。Olive 說難在時程長、又需要 GPU，關鍵是環境、獎勵的設計與 RL 演算法的調整；長任務中模型可以提交好幾次，每次都評估，並用驗證與測試抓作弊。
13. 16:17百萬 context 的 KV cacheDan 把它比成重建一套分散式檔案系統：快取存哪、怎麼認出看過、怎麼取回、怎麼搬到別處，原理不複雜，但要做好。
14. 17:32三年後回頭看Dan 希望 GPU 的利用率大幅改善，也認為開源前沿追得上；Olive 說三年前自己還在念書，但看得到模型加速開發的速度正在變快。

值得記的話5 句

• While we open source the model, everyone can use it.Olive：我們開源模型，大家就都能用01:35

• if you overfit to it, that's great because we'll go take those kernels and use them to accelerate the inferenceDan：要是你對它過度擬合，那正好，我們會把那些 kernel 拿去加速推論06:50

• The key there is still the environments and the data and how you formulate the problemOlive：關鍵還是環境、資料，以及怎麼定義問題14:50

• most of us actually skipped that class and now we're rediscovering it live in industryDan 談 KV cache 就像大學會教的分散式檔案系統：我們大多數人都翹了那堂課，現在只好在業界現場重新發現16:47

• the open source frontier really can catch upDan：開源前沿真的追得上18:20

名詞與人物7 個

MiniMax M3

MiniMax 的開放權重模型，這場的主角；跟 M2 系列比，新增多模態，context 拉到 1 million

Together AI

Dan 任職的公司，用 GPU 服務開放模型，這場談的是怎麼服務與優化 MiniMax M3

MiniMax sparse attention

M3 採用的稀疏注意力設計，Dan 說跟 DeepSeek、GLM 的不太一樣

Parallel Kernel Bench

Together 近期發表的 benchmark，收的是還沒解決的 kernel 問題

KV cache

推論時存放已算過內容的快取，長 context 與 agent 負載下是主要的優化對象

bench maxing

針對 benchmark 過度擬合；Dan 與主持人都認為，只要 benchmark 本身有用，這反而是好事

self evolution

Olive 提到 M2.7 發表時談過的做法：用模型加速內部開發，並從中建出貼近自身工作的內部評估

提到但沒有展開

• 談 GPU 利用率時，Dan 提到 SpaceX 說過自己的 FLOP 利用率大約 10%；訓練端應該已經不錯，推論端用今天手上的硬體還能做得好很多。

開源模型Agent

在 YouTube 看原片 ↗