AI Engineer Europe 2026 · 演講 · 2026-04-20 · 15 分
Gemma 4 開放模型家族一覽
Gemma, DeepMind's Family of Open Models · Omar Sanseviero，Google DeepMind
Omar Sanseviero 介紹發表才一週的 Gemma 4：手機與消費級 GPU 跑得動的開放模型、改用 Apache 2 授權，還有社群的接手速度。
概要
- 一週前發表的 Gemma 4Omar 說這是 Google 目前最強的開放模型家族，尺寸分幾檔，最大的 31B 追求最高的原始能力，但仍然跑得在消費級 GPU 上。
- 最小兩款跑在裝置上E2B 與 E4B 能在 Android 手機、iPhone 甚至 Raspberry Pi 上執行，具備多模態與推理，現場示範了手機上的技能式 agent 與離線的 vibe coding。
- 授權改成 Apache 2Omar 說前幾代的授權常被抱怨，大家要的是真正的開源授權，所以 Gemma 4 直接換成 Apache 2。
- Per-layer embeddings 的設計這類嵌入像查表，不必放在 GPU，可以丟給 CPU 或磁碟，專為行動裝置最佳化；llama.cpp 用一個 override tensor 旗標就能搬。
- 多語言與多模態訓練涵蓋超過 140 種語言，tokenizer 沿用 Gemini 的做法，小模型可處理圖片、影片與音訊，大模型能做指出物件位置與物件偵測。
- 社群接手得很快發表一週內 Gemma 4 系列下載達 1,000 萬次，整個 Gemma 家族累計超過 5 億次，Omar 想強調的是生態系，不只是模型本身。
原話
▶ 04:25“the models have kept getting better and better without going bigger”
模型一直變強，卻沒有變大
▶ 05:11“with Gemma 4 we changed our license to an actual Apache 2 license”
Gemma 4 我們把授權換成了真正的 Apache 2 授權
▶ 08:53“it's more about enabling the ecosystem to build on top of it”
重點更在於讓生態系在它上面繼續建東西
▶ 14:04“just spend like one hour in the next two weeks”
接下來兩週內，花個一小時就好
▶ 14:57“please try the models, build something, and share that”
請試試這些模型，做點東西，然後分享出來
延伸
- Omar 只提到 MoE 版本，沒有細說它的設計與規格。
- Omar 說 benchmark 部分直接略過，沒有展開 Gemma 4 的跑分數字。
- 癌症療法的例子只簡述了論文與實驗室驗證的結果，沒有說明方法細節。
章節
點時碼直接跳到原片的那一段。
- 開場Omar 說七天前才發表 Gemma 4，並說明 Gemma 是 Google 的開放模型家族，可下載、可微調。
- 回顧 Gemma 3一年前的 Gemma 3 參數從 1 billion 到 27 billion，當時是單張消費級 GPU 能跑的最強開放模型。
- Gemma 4 與尺寸Gemma 4 是 Google 迄今最強的開放模型；最小兩款跑手機，中間有 MoE，最大的 31B 能力最強，全都是開發者友善的尺寸。
- 裝置端示範手機上選技能的 agent、飛航模式下的 vibe coding，還有筆電上同時跑 10 個實例各自產生 SVG，用 llama.cpp 約每秒 100 tokens。
- LM Arena 與小模型進步Omar 承認 LM Arena 不完美但反映社群偏好；圖表左上角是又小又強的模型；兩年來模型沒變大卻一直變強。
- 授權改成 Apache 2過去的授權被抱怨不夠開放，Gemma 4 改用真正的 Apache 2 授權。
- E2B 與 per-layer embeddingsE 代表 effectively 2 billion；實際參數更多，但 per-layer embeddings 像查表，可放 CPU 或磁碟，不佔 GPU。
- llama.cpp 與小模型多模態用 override tensor 旗標把 per-layer embeddings 移到 CPU 或磁碟；小模型能處理圖片、影片、音訊，也能做語音辨識與翻譯。
- 大模型多模態與多語言大模型能指出圖中物件、做物件偵測；訓練超過 140 種語言，tokenizer 沿用 Gemini，微調低資源語言也容易。
- 發表一週的社群數字昨天 Gemma 4 系列下載達 1,000 萬次，社群已有超過 1,000 個衍生模型，整個家族超過 5 億次下載。
- 生態系合作與產品整合與 Unsloth、MLX、Ollama、Hugging Face、vLLM、SGLang 合作，讓大家在原本的工具裡就能用；Android Studio 有離線模式可接 Gemma。
- Gemmaverse 與官方變體Gemma 衍生模型超過 100,000 個；官方變體有 ShieldGemma 與 MedGemma。
- 社群的多語言專案AI Singapore 訓練東南亞語言模型；印度政府投資新創訓練國家級模型，屬於 sovereign AI 的路線。
- 研究應用與離線情境去年 12 月的論文中，DeepMind 研究者用 Gemma 3 提出癌症療法路徑，送進實驗室後得到可驗證的結果。Omar 也舉了金融、法律審閱，以及不想讓資料離開伺服器、在地鐵或飛機上沒有網路的離線用途。
- 結語：花一小時試試要最強的原始智慧仍用 API 模型，但裝置端已經能做很多事；Omar 請大家花一小時玩玩最新的開放模型。
名詞
- Gemma
- Google 的開放模型家族，模型可下載、可微調
- Gemma 4
- Omar 演講前一週發表的新一代，尺寸從 E2B 到 31B
- E2B / E4B
- 最小的兩款，E 代表 effectively 2 billion 參數，可跑在手機上
- per-layer embeddings
- 每層一份、像查表的嵌入，不必放 GPU，專為行動裝置設計
- llama.cpp
- Omar 示範裝置端推論所用的執行環境，也提到它被拿去在 Nintendo Switch 上試 Gemma
- LM Arena
- Omar 用來比較模型的社群偏好排名，也承認它不是完美的 benchmark
- Apache 2
- Gemma 4 改用的授權
- ShieldGemma
- 官方變體，用來擋不符合政策的有害文字與圖片
- MedGemma
- 官方變體，以 Gemma 3 為基礎的多模態醫療模型，用於放射科與胸部 X 光等任務
- Gemmaverse
- Omar 稱呼 Gemma 衍生出的社群模型與生態
- AI Singapore
- 訓練東南亞語言模型的團體
