← 回到天際線 思考機器第 36 層 / 102

EP 3832023-06-082:41:58 ROUND 2

Zuckerberg 談 Meta 的開源賭注與言論尺度

Mark Zuckerberg

Mark Zuckerberg 談 Llama 的開源決策、多 AI 助理的願景,也聊言論審查的分寸、裁員與存在風險。

Mark Zuckerberg: Future of AI at Meta, Facebook, Instagram, and WhatsApp | Lex Fridman Podcast #383在 YouTube 看 ↗

重點5 條

  1. 不怕丟臉的成長哲學:他戴口罩、用本名以外的名字報名柔術比賽隱藏身分,坦言真正怕的不是輸而是尷尬;他認為願意重新當初學者、忍受出糗,才是持續學新東西、推動十年長任務的關鍵。
  2. Llama 的開源賭注:第一版刻意做成研究限定釋出,後來流出也不後悔;他認為現階段開源利大於弊——更多人能打造尖端技術,系統也因為被公開檢視而更安全,但一旦接近超智能,這個判斷可能改變。
  3. 不要一個 AI,要很多個 AI:他認為每個創作者、每間小商家都會有自己的 AI 代理人,人們也會想要很多不同的 AI 陪伴角色,而不是像單一集中式助理那樣只有一個。
  4. 審查的分寸:他把「幾乎所有人都同意是傷害」的內容(兒童性剝削、恐攻)跟「社會還在爭論」的內容(防疫政策、假訊息)分開處理,也認為政府要求存取用戶資料的威脅,遠比要求下架言論更嚴重。
  5. 智能不等於自主:他認為真正該提防的不是模型變聰明,而是給不給它自主行動的空間,就像人的新皮質再聰明也不是真正做主的那個部分。

時間軸25 段

01 00:17
柔術首秀

他戴口罩、報名用本名以外的名字隱藏身分參賽,坦言真正怕的不是輸,而是尷尬;他認為願意重新當初學者、忍受出糗,才是持續學新東西的關鍵。

02 05:02
帶團隊最累的是人

策略問題不太會讓他失眠,真正焦慮的是團隊裡的人事張力;他靠一個約 30 人的核心圈長期一起面對難題、開放討論政策與設計取捨,培養出的默契讓幾乎任何硬仗都打得下去。

03 12:01
甘願被擊敗才會成長

他認為推公司走十年任務靠的是願意一直碰壁、不怕出糗重新開始;柔術等運動的回饋週期是幾分鐘,經營公司的回饋週期卻是幾個月甚至幾年,這種落差本身就是重要的一課。

04 17:43
Llama 的起點

Meta 選擇用學術、開放的路線做大型語言模型,先把 650 億參數的 Llama 做成研究限定釋出,原因是想先確保安全與對齊做得夠好,暫不談商業授權。

05 20:20
為何選擇開源

他認為打造尖端 AI 模型動輒要幾億美元的基礎設施,不該只有少數幾家大公司做得到;開源除了讓更多人受惠,也因為被公開檢視,系統反而更安全。

06 23:54
距離前沿還很遠

他坦言 Llama 規模大約只有 GPT-4、PaLM 的十分之一,現在還談不上超智能,天平明顯偏向開放;但哪天真的接近超智能,判斷可能不同。

07 30:21
下一代 Llama

團隊把第一版當研究專案,正在補上最新的安全防護、用更多內部資料訓練,目標是把 Llama 做成 WhatsApp 助理、創作者與商家代理人背後真正的引擎。

08 35:10
眾包微調的構想

他提到 Yann LeCun 建議的「像 Wikipedia 一樣眾包微調」,認為值得一試,但基礎建設與社群治理都還沒想清楚;他也拿 Wikipedia 的編輯社群類比,說明社群如何逼近「真相」。

09 43:05
三種 AI 產品方向

他認為未來不會只有一個中心化的 AI,而是每個人都能有專屬助理、每個創作者都有能替粉絲互動的 AI 分身、每個小商家也都會有自己的客服 AI,跟走單一助理路線的做法明顯不同。

10 47:46
AI 滲透每個產品

從幫忙修圖、自動生成廣告素材,到用自然語言直接生成元宇宙裡的世界,他認為自然語言會變成人與所有數位服務互動的共同介面。

11 52:03
陪伴型 AI

他提到 Microsoft 多年前在中國推出的 Xiaoice(小冰)與 Replika 這類產品,指出現代人平均的好友數比 15 年前少,AI 社交助理(提醒朋友生日、幫忙表達)可能真的有價值。

12 1:00:42
AI 怎麼改變寫程式

他說自己現在寫的程式有八九成是先讓模型生成再修改,省下查函式庫與依賴的時間;但也承認這種外包思考的風險是,程式碼看起來很對,其實可能藏著不容易抓到的細微錯誤。

13 1:03:40
假帳號與國家級操弄

Meta 過去五到七年投入大量傳統 AI 系統對抗詐騙、恐怖主義內容等已知類型的傷害;他也提到俄羅斯等國家會出動「協同不實行為」網路,這是一場雙方不斷進化的軍備競賽。

14 1:13:29
審核的核心難題

他把內容分成兩類——像兒童性剝削、恐攻這種幾乎所有人都同意該擋的,以及像防疫政策這種社會還在辯論、事後證明「被消音的說法反而比較接近事實」的灰色地帶,他認為後者更該靠加註脈絡而不是直接下架。

15 1:19:15
政府施壓的分寸

他認為要求下架言論已經不好,但政府要求存取使用者資料才是真正該嚴防的紅線;民主選出的政府與獨裁者施壓的正當性也不同,連資料中心該蓋在哪裡都會先考慮到這一層風險。

16 1:24:15
Twitter Files 與政府壓力

他說很難從外部真正判斷 Twitter Files 裡發生了什麼,自己碰到的多半是機關來提醒安全威脅、不算真正施壓;他認為各方壓力太多,不可能靠討好任何一邊做決定,只能自己抓平衡。

17 1:28:00
言論尺度的判準

他認為比起糾結某句話該不該被允許,更實際的做法是看一個帳號是不是持續在造成社群的麻煩;談到 AI 回答敏感問題(像怎麼 3D 列印槍枝)時,他傾向給出有教育意義的說明,而不是直接拒答。

18 1:33:15
傳聞中的文字社群

他證實內部確實有人在做一個開放、類似聯邦式(像 Mastodon)的文字社群專案,代號 P92,但不願多談細節;他也分析 Twitter 空有好點子卻一直衝不上十億用戶,關鍵在執行力而非構想本身。

19 1:44:39
裁員最痛的部分

他說多數人離職是因為公司策略需要,不是個人能力問題,這是裁員特別難受的地方;這波裁員是為了讓組織更精簡、拉近工程師與決策層的距離,把管理層數壓到最少。

20 1:52:06
怎麼選人

吸引人才靠的是做真正酷的事、有清楚的願景;篩選人才則有一條他一直用的判準——只找「換到另一個世界由對方領導、自己也甘願替他做事」的人,對剛畢業的年輕人,實習表現比履歷準得多。

21 1:57:22
Quest 3 與 Vision Pro

Quest 3 主打混合實境與較親民的價格(499 美元),目標是讓更多人用得起;他認為 Apple 用 3500 美元做出的 Vision Pro 是對這個產品類別的一種背書,反而可能幫 Quest 3 拉高需求,兩者鎖定的使用情境本來就不同。

22 2:10:50
存在風險怎麼看

他認為現在的模型還遠不到超智能,真正的近期風險是既有的詐騙、操弄等傷害被 AI 放大;他提出智能與自主是兩件可以分開的事,就像人的新皮質再聰明也不是真正做主的部分,該嚴防的是「自主性」被賦予的範圍。

23 2:20:41
超智能何時到來

他不願意猜年份,只說上一次的突破有可能再來一次,也可能要等五到十五年才有下一個;他認為像公司、股市這種能整合多人智慧的組織早就是「超越單一人類」的智能系統,AI 更多是讓這種集體智慧變得更聰明。

24 2:27:58
Murph 挑戰與身體感

他提到自己每年紀念國殤日做 Murph 挑戰(100 引體向上、200 伏地挺身、300 深蹲,前後各跑一英里),這次讓兩個女兒一起做簡化版;他也說自己不相信「人只是一個心智」,身體性的感受本身就是人之所以為人的一部分。

25 2:35:11
AI 分身與信仰

對於死後能不能留下 AI 分身讓家人朋友對話,他認為決定權應該完全在本人;談到信仰,他把《創世紀》裡「照上帝形象造人」解讀成一種創造的美德,也說成為父母後才開始認真思考社群、傳統與信仰要怎麼安放。