從衝突調解走到個人 AI

016 · 從衝突調解走到個人 AI

51:55YouTube 上架 2023-05-11Mustafa Suleyman（Inflection）

No Priors Ep. 16 | With Mustafa Suleyman, Founder of DeepMind and Inflection

Mustafa Suleyman 從青年求助專線、氣候談判一路講到 DeepMind，再談為什麼離開 Google 創辦 Inflection、Pi 為什麼先做陪伴，以及自己對 router、算力指數成長和平台責任的看法。

016 講了什麼

從調解轉向科技Mustafa 19 歲投入青年求助專線，後來做談判與調解顧問。2009 年在哥本哈根氣候談判看到各國無法達成共識，讓 Mustafa 覺得治理系統跟不上科技與全球化的速度，心思轉向科技。
Facebook 是一種框架Mustafa 用調解的角度看 Facebook，認為按鈕怎麼放、資訊怎麼排，都是會引導行為的選擇架構，而且這些設計會讓上億人改變行為。主持人問怎麼走向 AI，Mustafa 先講的就是這段觀察。
智慧的定義改了DeepMind 當年以 Shane Legg 整理的定義為基礎，把智慧看成在各種問題上都表現好的能力。Mustafa 現在認為這讓整個領域過度偏向通用性，另一種有價值的定義，是能把算力導向情境裡的關鍵特徵；真正打開局面的會是居中調度的 router。
Inflection 與 PiMustafa 在 Google 推不動 LaMDA 上線，1 月離開，和 Karen Simonyan、Reid Hoffman 創辦 Inflection。Mustafa 認為 LaMDA 缺的是使用者互動回饋，Pi 先以同理、支持的風格當陪伴，目標是每個人的個人 AI。
網路會變成對話Mustafa 認為多數運算會變成對話，AI 會有數億甚至數十億個，各自對齊個人；不要能自己跑掉的自主 AI。平台從來不中立，AI 公司與社群平台都得承擔策展責任並保持透明。
指數成長與團隊做法Mustafa 說過去十年最大模型的訓練算力每年增加一個數量級，同時模型也在變得更有效率。Inflection 約 30 人，每六週出一版，第七週聚在一起辦 hackathon。

從哪一段開始看18 段

00:02開場與來賓主持人介紹 Mustafa 是 DeepMind 共同創辦人，也是 Inflection 共同創辦人兼執行長；Inflection 上週剛推出第一個公開產品 Pi。
01:03青年求助專線Mustafa 從小想改變世界，讀牛津哲學時覺得太理論，轉去幫朋友做給年輕英國穆斯林的非宗教電話諮詢，19 歲開始，做了近三年，由近百位年輕志工撐起來。
03:05談判顧問與哥本哈根一對一服務難以擴大，Mustafa 轉做談判與調解顧問，足跡涵蓋以色列與巴勒斯坦、賽普勒斯。2009 年參與哥本哈根氣候談判，看到各國與團體各有主張、難有共識。
06:19Facebook 的框架從調解背景看 Facebook，覺得按鈕與資訊排列都是選擇架構，在規模上重塑人際連結的預設；主持人說自己當年也做過 Facebook app，大家想的是怎麼拉使用者、帶動行為，沒想到社會層級。
09:15與 Demis、Shane 的起點離開談判後心思轉向科技，約 Demis 見面、打撲克。Shane Legg 是 AGI 想法與語言的核心推手，把 80 個左右的智慧定義整合成一個可衡量進展的工程化定義。
11:36智慧的新定義與 routerMustafa 現在認為通用性被過度強調，關鍵是把算力導向情境中的重點；中間的 router 決定用哪個專家模型或工具，不一定是最大的模型。主持人以 MoE 與大腦類比。
15:30DeepMind 草創時期2010 年創立，頭兩年非常另類。Mustafa 跟著 Demis、Shane 去 UCL 的 Gatsby 旁聽，Shane 提醒那裡只說 machine learning，不說 AI，更不說 AGI。願意投資的人很少，之後 AlexNet、DQN 才讓外界醒來。
17:36強化學習與 AlphaFold回顧 DeepMind 開創深度強化學習，AlphaFold 來自 Mustafa 團隊替 DQN、AlphaGo 類工具找新應用，hackathon 之後擴大成全公司的行動小組。
21:00遷移學習與北極星Mustafa 把 DeepMind 的核心論點歸結為遷移學習；Mustafa 認為 AI 的吸引力在於發現新知識，面對糧食、水、能源等全球問題，北極星比恐懼重要。
22:32為什麼創辦 Inflection2018、2019 年還不看好神經網路處理語言，GPT-3 論文才讓 Mustafa 改觀。2020 年進 Google 參與後來的 LaMDA，2021 年想推動上線未成，1 月離開創業。
27:01為什麼是陪伴主持人問為什麼先做陪伴。Mustafa 說 LaMDA 缺的是使用者互動回饋；Google 本來就是一場對話，只是很痛苦，還讓網頁內容為了廣告與 SEO 變形，現在可以改用流暢的自然語言對話。
30:42Pi 是什麼Mustafa 認為每個人都會有對齊自己利益的個人 AI；Pi 先以同理、支持的風格出發，並說明好對話的要素：聽進去、補充、追問、偶爾來點小驚喜。
33:00網路與內容的未來多數運算會變成由各種 AI 協助的對話。主持人說四月花很多時間跟慌張的出版業者談，問內容創作者該怎麼辦；Mustafa 認為品牌與部落格也能有自己的互動式 AI，個人 AI 會代替人去和它們交流。
37:26回音室與平台責任主持人擔心 AI 會成為更極端的回音室。Mustafa 認為這是不介入時的預設走向，主張 AI 公司與社群平台都要公開策展方式，並對民主機構負責。
40:35Pi 如何改進衡量對話流暢度、尊重與持平程度；接下來要讓 Pi 能與其他 AI 互動、替人處理日常事務，並加入即時網路內容。使用者常主動分享大量個人資訊。
44:19團隊與文化約 30 人，技術人員一律稱 MTS，不分研究者與工程師；不發論文、偏應用。每六週出貨，第七週當面辦 hackathon，管理者只有兩人。
47:15規模與效率主持人問模型如何擴展。Mustafa 說算力每年增加一個數量級，同時像 Chinchilla 這類結果顯示模型仍有大量優化空間，兩條路都會繼續。
50:19即將出版的書Mustafa 談為何一邊創業一邊答應出書，以及新書《The Coming Wave》的主題：AI 與合成生物學革命在未來十年對民族國家的衝擊。

值得記的話5 句

conversation is the future interface and Google is already a conversation對話是未來的介面，而 Google 本來就是一場對話28:05
I really don't subscribe to this view that there's going to be like one or five AIs我完全不認同只會有一個或五個 AI 的說法35:52
the platforms were never neutral. That was the big lie.平台從來不中立，那是個大謊言38:11
all of the progress in my opinion is a function of compounding exponentials我認為所有的進展都來自不斷疊加的指數成長47:31
nine orders of magnitude in nine years九年之間跨了九個數量級48:17

名詞與人物11 個

Mustafa Suleyman: 本集來賓，DeepMind 共同創辦人，現為 Inflection 共同創辦人兼執行長。
Inflection: Mustafa 與 Karen Simonyan、Reid Hoffman 創辦的公司，約 30 人，偏應用導向。
Pi: Inflection 剛推出的個人 AI（personal intelligence），先以同理、支持的陪伴風格出發。
Demis: DeepMind 共同創辦人，Mustafa 兒時好友的哥哥，當年偏向機器人與模擬的路線。
Shane Legg: DeepMind 共同創辦人之一，AGI 想法與用語的核心推手，博士研究整理了 80 個左右的智慧定義。
Karen Simonyan: Inflection 共同創辦人，在 DeepMind 與 Mustafa 共事七年，帶過 deep learning scaling 團隊。
router: 位於多個專門系統中間的決策者，決定用哪個模型、工具或資料庫，不一定是最大的語言模型。
AlphaFold: DeepMind 的蛋白質折疊專案，起於 Mustafa 團隊替 DQN 與 AlphaGo 類工具找新應用的 hackathon。
LaMDA: Mustafa 在 Google 時參與的大型語言模型團隊，前身是 Meena 團隊。
Chinchilla: 去年的一篇論文，顯示用較小模型搭配更多資料、訓練更久，也能達到相近表現。
MTS: Inflection 技術人員的統一職稱，不區分研究者、科學家與工程師。

提到但沒有展開

Mustafa 提到 Pi 目前的記憶約一百則訊息，希望之後能把使用者的偏好與習慣存進個人的「第二個大腦」，部分使用者也開始想接上 email 與文件等資料來源。
Mustafa 說 Inflection 在許多主要基準測試上是頂尖表現，只有程式碼例外，因為 Pi 不寫程式碼、那也不是優先項目；Chinchilla 論文的第一作者 Jordan Hoffmann 就在 Inflection。

在 YouTube 看原片 ↗

Inflection