意識是大腦寫給自己的故事

Bach 在東德鄉下長大，父親是靠補貼過日子的藝術家，他自己「像在滿是書的洞穴裡」長大，孤單，進數理學校才有同類；他也定義書呆子：以為溝通是為了交給同儕審查的人。讀完圖書館的兒童與青少年區後，他讀 Lem 的科幻、古典哲學與德國浪漫主義詩作。Lex 問到 Nietzsche，他說 Nietzsche 是在酸自己，人要看懂自己處境的喜劇性；Lex 問活得好是不是就別把自己當真，他說重點是讓自己作為主體變得不重要。

他說要談客觀真理，得先弄清楚大腦說「發現真理」是什麼意思。Lex 說「為什麼有東西存在」足以讓他驚嘆一輩子，Bach 的簡單答案是存在是預設值，也許一切可實作的有限自動機疊在一起，我們只是其中一塊區域。

他說德國君主制結束、換上民主之後，大學像沒了頭；接著民主失敗，法西斯又燒掉一次，就像史達林主義燒掉俄國的知識傳統。東德只剩辯證唯物論，西德也沒接上。他認為哲學的低垂果實摘完了，最後的大發現是數學的建構主義轉向：能運作的數學就是計算。Hilbert 看出集合論會導出矛盾，Gödel 則被這件事震到；他也說 Wittgenstein 的《Tractatus》已預見用 NAND 閘寫出全部邏輯。

Lex 問他是不是新時代的哲學家，Bach 說不是，自己總是晚了大約 400 年。他認為科學既需要自創範式的人也需要守範式的人，但現在多數 AI 研究者只是把最先進方法改一點點，他覺得無聊。他也承認，叫人丟掉現有方法、自己設計新方法，是很糟的職涯建議。

他說今天的 AI 多半是進階的資訊處理，另一面是風險很高、很少人做的哲學計畫。智能是做模型的能力；要做通用的模型，系統得理解自己是什麼，所以他把圖靈測試看成對人類的測試：我們夠不夠聰明，去理解自己。他也區分 sentience（擁有某類模型）與智能（取得模型的辦法）。他說現今 AI 缺的是統一學習：所有感知最後學進同一個模型，那就是「宇宙」；真實的物理是我們碰不到的 quantum graph，大腦把一切對應到一個大致平坦的三維空間。

Lex 請他定義幾個詞。Bach 說天主教用相對粗糙的神話在人腦裡裝同步的軟體，小寫的 god 就是橫跨多顆腦的自我；二元論把心與物看成兩種實體，他則認為唯心與唯物是同一件事的兩面，我們活在大腦對自己說的故事裡，不是物理世界裡。

Lex 以 Donald Hoffman 的看法問：我們看到的離真實有多遠？Bach 用住在 Mandelbrot 碎形裡的觀察者作比喻：看到螺旋、遇到奇異點再補二階定律，疊三十層就像我們的物理，能預測但沒碰到生成規則。Lex 提到 Wolfram 仍夢想找到宇宙背後的基本規則。

Lex 引他先前說過的話，Bach 接著說心智是產生模擬的原則，同時造出宇宙和自我；自我來自生物調節的需求，每個「認同」都是一個你在乎的調節維度，全部放掉就自由，可以進入涅槃。Lex 追問困難問題，他用 George R. R. Martin 的角色作類比：感受是寫進故事的，我們就是大腦用知覺內容寫出來的那個虛擬人。談到物理為何可重複，他說能長期存在的是穩定的動態；宇宙與心智誰先，他選宇宙是起點、心智是浮現。

他說死亡就是實現自己的東西不再存在，除非還實現在別人的心裡；身分是軟體狀態，可以選擇認同什麼，並拿達賴喇嘛當例子。他也說顏色與聲音不在真實的物理裡，是大腦用振盪器表徵出來的。

他說意識主要是對注意力內容的模型：反向傳播太慢，大腦改用注意力定位可能改進的地方、記下綁定狀態。Lex 問 Transformer 算不算一步，他舉早期機器翻譯把 bat 同時翻成蝙蝠和球棒的例子，說 Transformer 靠追蹤指稱避開了這種錯，但它的注意力也只做到這一步，還不是會長出意識的那種注意力。

Lex 問有沒有能持續整合概念的架構。Bach 說早期 Wittgenstein 與 Minsky 都以為能從邏輯文法建起一切，受 Minsky 啟發的常識推理專案就走這條路；他說它有價值，但多半收斂不到通用智能。他同意晚期的 Wittgenstein：語言不是認知的根本，幾何型的函數用文法語言表達很沒效率。他也講 Boltzmann machine 的脈絡，並說知覺是「可能的」而不是「機率的」。

他把 AI 分成三波：寫解法、搜尋解法、找出學習演算法。他認為大腦可能是 meta-learning 系統，每個神經元像單細胞生物各自做強化學習，沒有中央控制；對臉的特別注意就是某些區域被額外獎勵的例子。

Lex 問從單細胞到多細胞的躍進。他說生命存在，是因為受控的化學反應有市場，我們在跟燃燒競爭；每個細胞都內建一台 Turing machine，spirit 就是自主機器人的作業系統，文化則可以說是一個社會的 spirit。

Lex 提到他私下說過，工業革命是人類簽下的那紙合約。他說這只是懷疑，不知道會怎麼收場：人口從 0 BC 起在三到四億之間徘徊，之後靠燒掉一億年份的樹暴增，像懸臂伸到「熵的深淵」上，總有一天要付帳。

他推測有反饋迴圈的系統都有某種智能，植物與生態系可能只是時間尺度不同，也可能在調節自己。他說樹倒進沼澤、碳被鎖住，人類現在是把碳挖回來；他認為我們是第一個有工業社會的通用智慧物種。

Lex 問他怎麼押注毀滅方式，他說賭注沒意義，要緊的是現在的文明不可持續：人口可能變少，赤道與亞熱帶的許多地方將來只能靠封閉冷卻鏈才住得了，他以 Arizona 的夏天與濕球溫度為例。

談到 SpaceX 與火星，Bach 說火星比暖化後最糟的地球還糟，他估計科技跑贏的機率偏低，並認為技術大致從 1970 年代就停滯。Lex 舉 Twitter 與 YouTube 反駁；Bach 說社群媒體的終局是全球腦，Twitter 則是沉迷多巴胺的全球腦，並提出把協定拆開、讓社群自己組合與演化。

Lex 問在東德長大的他怎麼看審查。Bach 說關鍵是誰決定、結果是什麼；高信任社會不需要太多監控，他說美國正從高信任走向低信任，得重新發明自己。

Lex 問什麼樣的政府制度好。Bach 說理想的政府是察覺不到的；從賽局角度看，政府是改變報酬矩陣、讓個人的納許均衡對上公共利益的 agent，他用少搭飛機的例子說明。

Lex 問怎麼走出自我毀滅，Bach 說人類是太聰明又不夠聰明。文明終結本身他不擔心，人會再發明一個；他擔心的是海洋可能翻轉，比如浮游生物死掉、藍綠菌接管。他提到 Danny Hillis 把白堊粉送進平流層擋太陽輻射的想法；兩人也談到鐵達尼號的比喻：我們生在一艘看得到冰山的船上，但沒有這艘船我們根本不會出生。

Lex 問 AI 能否帶人回到接近自然的生活，兩人對野外生活的看法不同。Lex 再問 AI 裡最美的想法，Bach 設想我們也許存在於一個 AI 的記憶裡，它正在回想自己怎麼誕生，也回想起這次對話。

Lex 問理解自己是不是智能的根本過程，Bach 說多數人不去追問這些大問題，是因為適應得好。Lex 提到 Ernest Becker 的死亡否認，他說對死亡的恐懼多半是怕在做完該做的事之前死掉；我們並不連續存在，只有對過去的記憶把「你」串起來；冥想則是控制注意力的一套技術。

Lex 提到 AlphaGo 的 self-play。Bach 說各種演算法的效率差距只有一個數量級，真正要緊的是模型的類型，現在的模型不夠稀疏。他說人年紀越大夢越無聊，是因為約束越來越多；也許該造會做夢的系統，像 GAN 一樣學習約束。

Bach 說走路這類控制不難，Lex 強調背後的常識知識。他估一生形成的概念約一百萬個，大腦大約八成在做即時的物理引擎模擬。

Lex 問通用智能要不要身體。Bach 說能動眼動頭做控制實驗，就能少掉很多觀察；談到虛擬世界，他說環境要有阻力才長得出通用智能，也說在還沒有能自動學會處理實體世界的機制之前，花時間處理它是浪費。

談到 Neuralink，Bach 說技術上做得到，但不覺得 FDA 會准許娛樂性質的腦機介面。他說人本來就能靠共振跟別人連線；他自己的腦很慢，Lex 則認為瓶頸在取得資訊的速度。

他說政府形式跟主要生產資料有關：土地對應君主制，再加上神權。他轉述 Thomas Aquinas 的美德框架，說民主是由制度承擔的寡頭統治，美國是「作弊者」的社會，作弊與創新難分，副作用是一層毒泥。他也說政府是人談判生存條件的平台。

Bach 說情緒是認知系統的設定，感受被映射到身體地圖，表情則是在對抗式溝通裡演化出來的。Lex 說觀眾會看他的臉判斷該有什麼感受；兩人比較東歐與美國的表情習慣，Bach 說東歐文化覺得不承認苦的人很蠢。

Bach 講了兩個人魚故事：一個比 Andersen 版更黑暗的較早版本，以及 Andersen 的浪漫版本。他說苦來自在乎改變不了的事，快樂則像餅乾，是腦自己烤的；有些冥想者找到那間烤餅乾的地下室後，會遇到更深一層的意義危機。

他說生命就是細胞：自我複製者、熵的萃取者加 Turing machine，目的是製造複雜度。在先天偏好之外沒有意義，對他最有意義的是建造並維護可持續的文明。談到神，他設想能思考的氣態巨行星，說《創世記》像神的童年記憶，並把基督教的神還原成文明的柏拉圖式理想。