從費曼效應到 GPT-3 的極限

Grant 覺得說喜歡費曼有點老套，真正打動他的是費曼在妻子過世兩年後寫給她的信；他也欣賞費曼讀論文時先自己解一遍、再看別人怎麼做的習慣。

Grant 說他學得最透的東西都有「自己重新發現」的成分，代價是很慢，這也是他不做研究的原因之一；他自認是什麼都懂一點的狐狸，不是鑽一個題目的刺蝟，能貢獻的是講解，不是新發現。

聽費曼的課當下覺得全懂了，過一個星期卻想不起是什麼讓你懂的；Grant 認為除非自己動手做題、重推，否則不會留下來，他的影片也有同樣的風險。

多數人用互動網頁時只會照作者原本的思路走，Grant 認為把想通的敘事剪成影片，一樣能拿到互動的大部分好處。

Grant 說莫比烏斯環那支影片的用意，是讓觀眾先想想為什麼直覺上它放不平又不自我相交，再追問要把哪些性質形式化才證得出來，這樣自然會走到「可定向性」的定義，拓撲課本開頭那些看似武斷的東西也就說得通了。

大眾只聽到「可以拉扯、不能剪貼」，課堂又太早掉進開集公理；Grant 認為拓撲真正的用處，是把一般結構之間的映射轉成其他數學的結果，例如攪完咖啡總有一個分子回到原位的不動點定理，直接連到 Nash 均衡。

Grant 做疫情模擬影片的初衷、R0（基本再生數）代表什麼，以及這個模型跟真正的流行病學研究差在哪裡。

Grant 提到沒受過算術訓練的人被問 1 到 9 的中間值，有時答 3（倍數上的中點）而不是 5，他說我們後來把這種對數直覺訓練掉了；但數字一大，指數成長對誰都反直覺。兩人接著聊到棋盤放米粒、蓮葉蓋滿湖這類例子。

Lex 問起 Elon Musk 的指數思維。Grant 認為看到曲線就畫線外推沒什麼意思，該問的是什麼時候變化率會跟現有的量成正比：寫出的軟體讓你寫得出更多軟體、網路讓學習更快、資源讓公司長得更快。Lex 指出摩爾定律其實是一連串 S 曲線，Grant 同意它更像大家被逼著去追的標竿。

兩人聊 Crew Dragon 發射、殖民火星的可能性，以及「把目標訂死、逼自己想出辦法」這種做法本身的價值。

Grant 說他最近才知道：ARPANET 在越戰期間各部門預算被砍時還能擴張，理由是國防上需要一套比傳統電話線更耐打的通訊網（封包交換）。

Grant 說自己很羨慕貝爾實驗室的合作氛圍，覺得少了那種容易碰見人的環境是他生活裡最想改變的一件事；Lex 補充疫情讓這種巧遇更少。

Grant 偏好一個人工作：「這段太長、這個視覺化很爛」對自己說很容易，對合作夥伴就說不出口，劇本不行也能直接丟掉。Lex 順帶講起 Don Knuth 錄完約他去吃熱狗、他因為另有行程只好婉拒，Knuth 也是習慣自己啃問題的人。

他的工作分成寫腳本、動畫、寫程式、學新東西幾種模式；寫腳本最痛苦，卡關時會先讀點別的東西再回來。

Lex 說他盡量一天只看一次社群媒體，一旦變成頻繁檢查就明顯不快樂，也比較容易被負評影響；Grant 覺得只要是真的在跟朋友、跟別人的想法互動，社群媒體也可以很有用。

兩人分享各自父母查看自己影片數據的趣事，Grant 的媽媽曾每天把每支影片的播放數加總再傳給他；接著帶出「留言區的人不能代表整體觀眾」這個觀察。

Grant 坦言他常答應要做某類內容卻沒下文，留言裡常有人為此失望；讓他比較安心的是，真正會喜歡他手上新計畫的人還不知道它要來，所以也不會在留言區出現。Lex 接著說 Joe Rogan 完全不看留言、專注在當下。

疫情期間改成直播上課的經驗，包括用 OBS 搭配 Zoom 架設多鏡位的做法。

同一堂課在全世界被重複教了幾百萬次，Grant 認為讓更多老師把講解公開發表，才能真正省下重複的力氣。

與其把所有課都拍成影片，不如挑幾個真正想講好的主題，做成能留下來的版本；Grant 說學生會對 YouTube 上講得好的題目特別有興趣，想招研究生，就做出最好的影片、等八年。

Lex 提到專家怕丟臉、有冒牌者症候群；Grant 希望那些會問「我憑什麼講」的人才是真正在發表的人，並提到 Numberphile 找專家出來講的做法。

從 Joe Rogan 把節目整批搬去 Spotify，聊到 YouTube 影片不見得會永遠留著，以及 IPFS 這類內容定址技術。

Grant 認為神經網路美在同一套數學規則，跑過不同層就能形成質變的抽象層次，並提到 Chris Olah 對卷積網路的視覺化分析。

Grant 用 Shannon 的雜訊通道編碼定理說明：隨機選的編碼就逼近極限，但人類花了幾十年才真正找到接近極限的編碼。可能的程式裡有趣的多得是，難的是找出用很少資訊就能描述、又有趣的那些。

Grant 最喜歡的一個示範，是把新冠病毒的開頭餵給 GPT-3，它接出一篇殭屍末日故事。Lex 提到它抓不到數列規律，Grant 說他沒深究，但不意外：看出規律要先想出幾種假設再逐一驗證；他舉圓上連弦切出的區域數 1、2、4、8、16，下一項卻是 31，看老練的人會不會先判斷規律合不合理。

Grant 對自己開源的動畫工具感到愧疚，建議別人先想清楚哪些內容真的需要寫程式做動畫，其餘用 Desmos、GeoGebra 或 Keynote 就好。

Grant 喜歡 Python 能同時寫物件導向跟函數式；最大的缺點是慢，他把 Manim 的算圖改用 shader（GLSL）來做，重活交給別的語言。

Lex 說 Python 3.8 新增海象運算子引起的戾氣，是讓 Guido 卸下仁慈獨裁者角色的最後一根稻草；Grant 說他兩邊都不太在乎，讀起來是比較難懂，但 list comprehension 一開始也一樣，大家冷靜點就好。

Grant 認為一般人不必勉強追 Eric Weinstein、Stephen Wolfram 這類萬有理論構想，該去讀真正搆得到深度的題材，比如費馬最後定理 n=3 的情形。

Grant 認為「意義」只能附著在被賦予目的做出來的東西上；跟志同道合的人往來、做出的東西能跟別人連上，讓他充滿想再做更多的能量，這是他說的「意義」。