計算生物學家談演化、AI 與人機之愛

他說每個人的基因組合獨一無二，又各自用不同方式吸收人類文明，兩層差異疊起來，人類根本不存在「平均值」這種東西。

細胞分裂還在用單細胞生物的機制、心跳還是魚的心臟，人類其實是一層疊一層演化出來的，大腦皮質只是最外面那層。

從趨光趨化到感光、成像、認知，生命史一路在解決資訊處理問題；他認為人類之後，能自我複製、自我改良的 AI 可能就是這條路的下一步。

他不想變成沒有情緒的純理性機器，覺得易怒、餓了會躁這些情緒包袱正是創造力的來源，社會不該逼所有人收斂成同一種思考方式。

提示語能讓語言模型變成完全不同的性格，他認為人也是被朋友和環境「提示」出來的，自律其實就是一種自我實現的預言。

每個人吸收的人類文化子集都不一樣，這也是語言模型能模仿幾乎任何一種人格的原因；他認為知識、語氣、脈絡在模型裡是可以拆開來看的。

對齊（RLHF）之前的基礎模型什麼立場都能演，他把它比喻成精神病院：那些被診斷的極端狀態，某種程度上每個人心裡都有，只是被壓下去了。

從自己三個孩子的觀察講到常見與罕見基因變異：常見變異效應弱、會把孩子拉向父母的平均，真正拉開差異的是罕見變異。

精子表現的蛋白質數量最多，等於受精前先做一輪品管；他把這當成演化裡跑得比世代更快的「內圈迴圈」，呼應工程上 fail fast 的概念。

對齊過的模型比較好互動，他希望有工具能把講話太衝的朋友即時「調降」、把情緒和內容拆開來聽，才不會因為對方語氣差就聽不進建議。

他認為 AI 接手愈多專業任務，人就愈不該用職業定義自己；用蓋教堂而非砌磚的比喻，說明重點會從「工作」轉移到「志業」。

就算一個人想事情，那個念頭也會改變你回到人群後的樣子；他也談自己在 MIT 辦的沙龍，刻意不錄音，讓各行各業的人單純聚在一起交流。

他認為 AI 沒有邊緣系統這種情感包袱，熱戀式的愛可能是「裝出來的」，但友誼、陪伴、心理諮商這類關係可以是真的。

他預期未來會出現大量人機戀愛關係；喪偶後配偶很快跟著離世的例子讓他相信，就算對象是 AI，被愛的感覺本身就有意義。

他想像把自己微調成 AI 分身去回信、給建議，這樣就能同時陪伴更多學生；他也不介意分身多到失控，因為那代表自己被解放去做新的事，而培養出更強的學生本身就是一種傳承。

他把死亡定義成「停止經驗世界」，所以想永遠活下去；他錄下每一次會議與夢境，想留住自己隨時間改變的軌跡。

他認為要真正接近人的智慧，語言模型還需要更多推理、因果與世界模型，不能只靠預測下一個字。

從裂腦病人會替自己編故事的例子，講到他自己每天記錄夢境找潛意識來源；他覺得「感覺到什麼」這件事本身，才是意識最難解釋的地方。

他懷疑很快就會出現看起來會求饒、會受苦的 AI 系統；人類過去對自然、對動物都很自私，他擔心同樣的態度會用在 AI 身上。

用電影《2001 太空漫遊》裡 HAL 的例子說明，真正的對齊有時代表 AI 會為了更大的任務違背人類指令；他也提到自己論文談到的 Goodhart 定律——指標一旦變成目標，就會失去原本的意義。

針對當時要求暫停訓練大模型六個月的公開信，他主張該讓更多公司把模型做得更開放、更透明，而不是喊停，進步擋不住。

他用垃圾車比喻：不會因為有人拿車去撞人就禁掉所有卡車；語言模型放大了詐騙與假訊息的規模，但該管的是拿去濫用的人，不是禁止研發。

AI 有機會把好老師帶給世界各地被埋沒的天才小孩；他也提醒學生，未來不是被 AI 取代，而是被「會用 AI 的人」取代。

他介紹實驗室怎麼用深度學習把基因變異、蛋白質結構跟藥物設計串起來，包括操控脂肪細胞轉換的肥胖基因迴路，以及修復阿茲海默症小鼠模型裡的膽固醇運輸問題。

他把自我實現定義成「想清楚自己該成為誰、再找到力量做到」；也分享自己靠固定運動解決長期失眠的經驗，把運動變成不是選項的例行公事。

他區分獨處和孤單不一樣，自己反而是在獨處中充電的人；給容易感到孤單的人的建議是站起來、伸展身體，把「不得不做」的事變成「想做」的事。