EP 3832023-06-082:41:58 ROUND 2
Zuckerberg 談 Meta 的開源賭注與言論尺度
Mark Zuckerberg
Mark Zuckerberg 談 Llama 的開源決策、多 AI 助理的願景,也聊言論審查的分寸、裁員與存在風險。
Mark Zuckerberg: Future of AI at Meta, Facebook, Instagram, and WhatsApp | Lex Fridman Podcast #383在 YouTube 看 ↗
重點5 條
- 不怕丟臉的成長哲學:他戴口罩、用本名以外的名字報名柔術比賽隱藏身分,坦言真正怕的不是輸而是尷尬;他認為願意重新當初學者、忍受出糗,才是持續學新東西、推動十年長任務的關鍵。
- Llama 的開源賭注:第一版刻意做成研究限定釋出,後來流出也不後悔;他認為現階段開源利大於弊——更多人能打造尖端技術,系統也因為被公開檢視而更安全,但一旦接近超智能,這個判斷可能改變。
- 不要一個 AI,要很多個 AI:他認為每個創作者、每間小商家都會有自己的 AI 代理人,人們也會想要很多不同的 AI 陪伴角色,而不是像單一集中式助理那樣只有一個。
- 審查的分寸:他把「幾乎所有人都同意是傷害」的內容(兒童性剝削、恐攻)跟「社會還在爭論」的內容(防疫政策、假訊息)分開處理,也認為政府要求存取用戶資料的威脅,遠比要求下架言論更嚴重。
- 智能不等於自主:他認為真正該提防的不是模型變聰明,而是給不給它自主行動的空間,就像人的新皮質再聰明也不是真正做主的那個部分。
時間軸25 段
他戴口罩、報名用本名以外的名字隱藏身分參賽,坦言真正怕的不是輸,而是尷尬;他認為願意重新當初學者、忍受出糗,才是持續學新東西的關鍵。
策略問題不太會讓他失眠,真正焦慮的是團隊裡的人事張力;他靠一個約 30 人的核心圈長期一起面對難題、開放討論政策與設計取捨,培養出的默契讓幾乎任何硬仗都打得下去。
他認為推公司走十年任務靠的是願意一直碰壁、不怕出糗重新開始;柔術等運動的回饋週期是幾分鐘,經營公司的回饋週期卻是幾個月甚至幾年,這種落差本身就是重要的一課。
Meta 選擇用學術、開放的路線做大型語言模型,先把 650 億參數的 Llama 做成研究限定釋出,原因是想先確保安全與對齊做得夠好,暫不談商業授權。
他認為打造尖端 AI 模型動輒要幾億美元的基礎設施,不該只有少數幾家大公司做得到;開源除了讓更多人受惠,也因為被公開檢視,系統反而更安全。
他坦言 Llama 規模大約只有 GPT-4、PaLM 的十分之一,現在還談不上超智能,天平明顯偏向開放;但哪天真的接近超智能,判斷可能不同。
團隊把第一版當研究專案,正在補上最新的安全防護、用更多內部資料訓練,目標是把 Llama 做成 WhatsApp 助理、創作者與商家代理人背後真正的引擎。
他提到 Yann LeCun 建議的「像 Wikipedia 一樣眾包微調」,認為值得一試,但基礎建設與社群治理都還沒想清楚;他也拿 Wikipedia 的編輯社群類比,說明社群如何逼近「真相」。
他認為未來不會只有一個中心化的 AI,而是每個人都能有專屬助理、每個創作者都有能替粉絲互動的 AI 分身、每個小商家也都會有自己的客服 AI,跟走單一助理路線的做法明顯不同。
從幫忙修圖、自動生成廣告素材,到用自然語言直接生成元宇宙裡的世界,他認為自然語言會變成人與所有數位服務互動的共同介面。
他提到 Microsoft 多年前在中國推出的 Xiaoice(小冰)與 Replika 這類產品,指出現代人平均的好友數比 15 年前少,AI 社交助理(提醒朋友生日、幫忙表達)可能真的有價值。
他說自己現在寫的程式有八九成是先讓模型生成再修改,省下查函式庫與依賴的時間;但也承認這種外包思考的風險是,程式碼看起來很對,其實可能藏著不容易抓到的細微錯誤。
Meta 過去五到七年投入大量傳統 AI 系統對抗詐騙、恐怖主義內容等已知類型的傷害;他也提到俄羅斯等國家會出動「協同不實行為」網路,這是一場雙方不斷進化的軍備競賽。
他把內容分成兩類——像兒童性剝削、恐攻這種幾乎所有人都同意該擋的,以及像防疫政策這種社會還在辯論、事後證明「被消音的說法反而比較接近事實」的灰色地帶,他認為後者更該靠加註脈絡而不是直接下架。
他認為要求下架言論已經不好,但政府要求存取使用者資料才是真正該嚴防的紅線;民主選出的政府與獨裁者施壓的正當性也不同,連資料中心該蓋在哪裡都會先考慮到這一層風險。
他說很難從外部真正判斷 Twitter Files 裡發生了什麼,自己碰到的多半是機關來提醒安全威脅、不算真正施壓;他認為各方壓力太多,不可能靠討好任何一邊做決定,只能自己抓平衡。
他認為比起糾結某句話該不該被允許,更實際的做法是看一個帳號是不是持續在造成社群的麻煩;談到 AI 回答敏感問題(像怎麼 3D 列印槍枝)時,他傾向給出有教育意義的說明,而不是直接拒答。
他證實內部確實有人在做一個開放、類似聯邦式(像 Mastodon)的文字社群專案,代號 P92,但不願多談細節;他也分析 Twitter 空有好點子卻一直衝不上十億用戶,關鍵在執行力而非構想本身。
他說多數人離職是因為公司策略需要,不是個人能力問題,這是裁員特別難受的地方;這波裁員是為了讓組織更精簡、拉近工程師與決策層的距離,把管理層數壓到最少。
吸引人才靠的是做真正酷的事、有清楚的願景;篩選人才則有一條他一直用的判準——只找「換到另一個世界由對方領導、自己也甘願替他做事」的人,對剛畢業的年輕人,實習表現比履歷準得多。
Quest 3 主打混合實境與較親民的價格(499 美元),目標是讓更多人用得起;他認為 Apple 用 3500 美元做出的 Vision Pro 是對這個產品類別的一種背書,反而可能幫 Quest 3 拉高需求,兩者鎖定的使用情境本來就不同。
他認為現在的模型還遠不到超智能,真正的近期風險是既有的詐騙、操弄等傷害被 AI 放大;他提出智能與自主是兩件可以分開的事,就像人的新皮質再聰明也不是真正做主的部分,該嚴防的是「自主性」被賦予的範圍。
他不願意猜年份,只說上一次的突破有可能再來一次,也可能要等五到十五年才有下一個;他認為像公司、股市這種能整合多人智慧的組織早就是「超越單一人類」的智能系統,AI 更多是讓這種集體智慧變得更聰明。
他提到自己每年紀念國殤日做 Murph 挑戰(100 引體向上、200 伏地挺身、300 深蹲,前後各跑一英里),這次讓兩個女兒一起做簡化版;他也說自己不相信「人只是一個心智」,身體性的感受本身就是人之所以為人的一部分。
對於死後能不能留下 AI 分身讓家人朋友對話,他認為決定權應該完全在本人;談到信仰,他把《創世紀》裡「照上帝形象造人」解讀成一種創造的美德,也說成為父母後才開始認真思考社群、傳統與信仰要怎麼安放。