從 Google 前 CEO 的演講風波談到 Grok 2 發表，最後是哈利對 AI 生圖與版權責任的看法。
重點
Google 落後的原因。Schmidt 在演講中說，Google 輸給 OpenAI、Anthropic，是因為員工太重視 Work-Life Balance。哈利不同意，認為主因是 Google 的保守文化。
保守的兩個表現。一是怕 AI 衝擊搜尋，哈利說 Search 可能佔了 Google 營收的 60%；二是語言模型會產生幻覺，容易釀成公關危機，Gemini 的生圖風波就是例子。
助理要不要進辦公室。剛轉全職的助理原本都在家工作。哈利理性上覺得遠端沒問題，但直覺認為當面工作有說不清的好處，決定原則上每週進辦公室兩天。
演講本身不太值得聽。哈利說這場演講聽完沒有太多收穫，多半是現在的共識，技術問題的回答也不精準。學生問 context length 的用處，Schmidt 答成 recency，哈利說那是 RAG 在解的問題。
Grok 2 進入一線模型。Chatbot Arena 排第四，生圖用的是 Flux.1。哈利把它歸為中等新聞，下一次大跳躍才算大新聞。
AI 版權的看法。模型生出瑪利歐沒問題，拿去商用的人才有問題。訓練資料是灰色地帶，他的底線是不妨礙未來的創新。
時間軸 點時碼從那一段開始
- 演講片段瘋傳Google 前 CEO Eric Schmidt 在史丹佛的演講片段在美國與台灣都很紅，有幾段話被截下來四處轉。哈利是邊玩糖豆人邊聽完的，那是他留給「不必全神貫注」的節目的遊戲。
- 演講被下架Schmidt 以為是不公開的場合，其實史丹佛有直播；影片後來下架，他也出來道歉，網路上仍找得到轉傳的版本。
- Work-Life Balance 之爭Schmidt 說 Google 的員工重視下班與居家工作勝過公司成功。哈利說這是每個人自己的選擇，環境才是原因。
- 助理轉全職助理實習快一年都在家工作，八月轉全職。哈利想把她培養成能獨當一面的 PM，開始猶豫要不要改。
- 每週進辦公室兩天他的結論是原則上兩天，哪兩天由助理自己選，有大專案時來五天也可以。他印象中居家工作的研究結論很分歧，所以這段只講自己的看法。
- 保守文化才是主因哈利列出 Google 早就有的技術與模型，說他們只差調成聊天機器人，卻一直沒有發表。
- 怕殺死搜尋這隻金雞母Search 可能佔營收 60%，Chrome 和 Android 也是為了守住搜尋壟斷。這是他說的創新者的兩難。
- 語言模型不可控模型是一個字一個字算機率，幻覺除不掉。寫詩時是好功能，要事實時是問題；Google 的用戶以億計，出事媒體會猛批。
- ChatGPT 逼 Google 出手2022 年底 ChatGPT 爆紅、2023 年初 Bing 推出，Google 才趕著做出 Bard。Gemini 生圖不出白人的事件讓它被罵，OpenAI 的 DALL-E 3 有同樣問題卻沒人報。
- 台灣軟體很糟Schmidt 說台灣軟體 terrible、硬體超棒。哈利覺得用詞難聽但沒說錯，不過他沒給台灣硬體足夠的肯定。
- 3000 億美元與 NVIDIA 股票Schmidt 說奧特曼想花 300 billion 蓋資料中心，錢都進 NVIDIA 口袋，那就知道買什麼。哈利說他沒做過 DCF，三兆市值能不能撐住很難說。
- 推不推薦這場演講哈利給的評價是糖豆人等級，收穫不多；小白可以聽，但技術的部分要小心。
- context length 答非所問學生問長 context 有什麼用，Schmidt 說能解決 recency。哈利說那是 RAG 的工作，Perplexity 也不靠超長的 context。
- 長 context 真正的用處他的回答是為多模態做準備，影片很吃長度；另一個是 in-context learning，把沒學過語言的字典塞進 prompt 就能翻譯。
- 推薦 Demis Hassabis 訪談哈利是 Demis 的粉絲，推薦 Google DeepMind Podcast 上的訪談，認為他是所有 AGI Labs 裡技術底子最深的老大。
- Grok 2 發表哈利在 EP51 就說 Grok 2 會追上一線模型、年底的 Grok 3 會超過，這次印證了。他說預測是聽馬斯克講的，馬斯克敢這麼篤定，靠的是 Scaling Law。
- Grok 2 與生圖能力一次發表 Grok 2 和 Grok 2 Mini，新增生圖，用的是 Black Forest Lab 的 Flux.1，xAI 在圖像上比其他家落後一些。
- Grok 2 到底多強在 Chatbot Arena 排第四；Claude 3.5 Sonnet 常拒答，被判輸，排名偏低。標準測試的差距只有幾個百分點。
- 各家模型各有擅長Claude 3.5 Sonnet 寫程式最強，GPT-4o 擅長推理與摘要，Gemini 有超長 context，Llama 3 適合開源與蒸餾，Grok 2 擅長 18 禁內容。
- Grok 生圖的爭議限制很少，真人、有版權角色、暴力與色情的圖都有人生，在 X 上瘋傳。有人說 xAI 等著被告，也有人說這是在汙染 X。
- 生成端的版權責任哈利說 AI 只是工具，生出瑪利歐沒問題，拿去商用的人才有責任。他用畫家、同人創作和士林夜市對比大公司印衣服來說明。
- 訓練資料與 robots.txt訓練資料不可能每張圖都取得同意。他拿 Google 圖片搜尋來類比，指出現在沒有 AI 版的 robots.txt，創作者也缺乏開放給 AI 爬的誘因。
- 版權的底線是創新只要不妨礙未來創新就可以。他認為 AI 能讓更多人創作，舉富堅的《獵人》與 Google I/O 看到的 Imagen 畫風微調當例子。
值得記的話
▶ 19:03「Hallucination 就是一個 Feature 他就是一個好的功能」
▶ 22:22「真的是跟 Google 這個保守文化他們這個創新者的兩難是比較有關係的」
▶ 25:28「你也不能因為一間公司未來會賺很多錢就去買它的股票」
▶ 51:45「真正有問題的是拿這些他們產出的圖片去賣的人拿他們去做商業行為的人」
▶ 1:00:00「版權這個東西之所以存在就是為了要鼓勵大家創新」
名詞與人物
- Eric Schmidt
- Google 前 CEO，這集前半討論的史丹佛演講就是他講的。
- Innovator's Dilemma
- 創新者的兩難，哈利用它解釋 Google 為什麼不願意自己推出會傷到搜尋的 AI 產品。
- Hallucination
- 幻覺，大型語言模型一本正經地講錯內容；哈利說它除不掉，寫詩時反而是好功能。
- RAG
- Retrieval Augmented Generation，讓模型接資料庫、查出相關資料再回答，哈利說近期新聞靠它而不是靠長 context。
- Context length
- 一次能丟進模型的文本長度；Gemini 1.5 Pro 是 200 萬個 tokens。
- In-context learning
- 在 prompt 裡給模型沒學過的資料，讓它當場學會新技能，例如塞進俄文字典叫它翻譯。
- Frontier Model
- 一線模型，哈利把 GPT-4o、Gemini 1.5 Pro、Claude 3.5 Sonnet 和 Grok 2 都歸在這一群。
- Chatbot Arena
- 讓使用者盲測兩個模型、投票決定誰答得好的排名，用 Elo Rating 計分。
- Flux.1
- Black Forest Lab 的生圖模型，Grok 2 的生圖功能用它；最小的模型採 Apache 2.0 授權。
- MMLU Pro
- 改良版的 MMLU，因為 MMLU 已接近 90%、題目本身也有問題，Grok 2 的測試有用到。
- robots.txt
- 網站告訴爬蟲能不能爬的檔案，哈利以此指出現在還沒有 AI 版本。
- Demis Hassabis
- Google DeepMind 的 CEO，哈利推薦他在 Google DeepMind Podcast 的訪談。
延伸
- 哈利在 EP51 就預告過 Grok 2 會成為一線模型、Grok 3 會在年底超過現有的一線模型。
- Demis Hassabis 的 Google DeepMind Podcast 訪談，連結放在本集資訊欄最下方。
- 哈利提到他之前在自己的節目裡講過 OpenAI 的 DALL-E 3 也有硬要生出多元種族與性別的問題。