意識的難題與模擬世界

他不排除我們在模擬裡，認為笛卡兒的惡魔在現代就是模擬；但就算在模擬裡，一切仍是真的，他稱之為 reality 2.0。他提到自己正在寫一本用模擬想法談哲學問題的書。

我們感知到的是簡化又失真的表象，底下還有科學描述的世界；模擬只是關於底層的另一種假說。若在模擬裡，手上的杯子就是上一層宇宙電腦裡的資料結構。

宇宙若有限，要模擬跟自己一樣複雜的宇宙行不通；若是無限，或許能模擬自己的複本，但也很難；模擬我們的宇宙也不必長得像我們。若我們在第 42 層，第 0 層必然非常大，可能是無限，越往下資源越受限。

他認為人類剛跨過語言與文化的門檻，在智能量表上很靠近底部。Lex 提出限制也許正是人生有趣的原因，他說這跟自己的看法不衝突。

模擬心智比模擬宇宙簡單，因為心智是宇宙的一部分，大腦也只是物理系統。他的看法是模擬得夠好，心智也會跟著出現，意識在資訊處理的模式，不在生物材料。

現在的 VR 裡，腦在虛擬世界之外，像笛卡兒的二分；等有了 AGI，虛擬世界裡的角色也可能有意識。一個人切換角色算同一個意識，真要分裂成多個得靠腦模擬與 AGI。

他小時候有聽音樂會看到顏色的聯覺，多半是暗綠與橄欖棕，少數幾首很純；約 20 歲時消失。他現在偶爾在課堂上提到，有時會有學生說自己也有。

他說的意識就是主觀經驗，qualia 是其中的質感；另有 access consciousness 與反思意識，但真正神祕的是 phenomenal consciousness。難題是為什麼物理過程會有主觀經驗。

新生兒是否有意識，曾有人認為沒有，所以割包皮不打麻醉；現在多數人認為有痛覺。動物的範圍也越畫越寬，從哺乳類到魚，現在爭論昆蟲。

時間、空間、質量都被當成基本屬性；若現有的基本項解釋不了意識，也許得把意識加進去，像電磁學把電荷當基本項。物理學解得了簡單問題，卻解不了主觀經驗。

要補的東西不一定是意識本身，也可能是 protoconsciousness。若一路到最底層都是意識，牛頓式世界是一大群小型意識主體，量子力學的波函數則會變成單一宇宙心靈。他也提到有神經科學家認真看待相關理論。

泛心論仍是少數，他說有人覺得它瘋狂；正統看法是意識只出現在人與部分動物身上。他的同事 Tom Nagel 主張演化朝向意識，他自己不同意。

他不是信徒，也說自己不是這方面的專家。他推測人們追求的是意義，以及與比自己更大的東西連結；但他不懂為什麼要宇宙意識才能賦予意義，本地的意識自己就辦得到。

沒有意識就沒有意義，但意識本身不是人生的意義。意義是我們覺得有意義的東西，沒有放諸四海的答案。

一條軌道上有一個有意識的人，另一條有五個沒意識的機器人，多數人會選擇犧牲後者。他認為完全相同卻沒有意識的殭屍，在這個宇宙裡做不出來，但功能強大卻沒意識的機器人不難想像，由此引出它們有沒有道德地位。

他說機器對意識感到困惑，是很好的徵兆，但不是必要條件；實際上會說服我們的，多半是它在社會互動與對話中看起來有意識。到時候法律地位與道德地位會分開，大量複製更是一團亂。

他認為自己的複製人有意識，道德地位相同，但法律地位大概得不同，例如不會自動擁有他的財產。他也問到個人同一性，並拿 Star Trek 的傳送器為例。

他說這取決於怎麼定義：如果指不可能被預先決定，他不確定我們有；但真正重要的是自己掌控人生，那在決定論的宇宙裡也成立，AI 也可以有。

內省得到的心智模型常被過度簡化，錯覺論把這點推到意識本身。他覺得這種看法有吸引力，卻要否認我們此刻真的有經驗，所以多數人覺得它不可信。他提出 meta-problem 作為研究方向。

就算整個世界是上一層宇宙裡的夢，他認為這個世界仍然是真的，只是知道它由什麼構成。他也談到笛卡兒的惡魔，說自己比較同情 Berkeley 的看法。

沒人知道意識在功能上做什麼。他傾向認為 AGI 原則上可行，而且感知、推理、語言這些功能齊備後，很可能也有意識。有人認為意識靠讓波函數塌縮影響物理世界，若是如此，沒有這個機制的 AGI 功能可能受限；他覺得不太可能，認為那種功能大概模擬得出來。

有兩種存亡風險：智慧生命被消滅，或意識被消滅。「只剩沒有意識的超級智慧」有人叫做殭屍末日，他視為道德災難，但認為超級智慧幾乎一定會帶著意識。

他可以接受人類只是演化的一步，反正人類會被科技改造、上傳。他希望 AGI 之後回頭解決哲學問題；被問到想跟哪位過世的哲學家共處，他先說笛卡兒，也提到 William James 與 Princess Elizabeth。

他希望在有生之年看到真正的 AI 與更豐富的虛擬世界，也想上傳心智、不用死。他想像的未來像集合論的層級那樣不斷擴張、始終難以預測。