苦難、動物與 AI 的道德邊界

Singer 說自己在能理解家族背景的年紀就已經知道世界上有很多苦難——四位祖父母有三位死於納粹大屠殺，剩下的一位自己也曾被關進集中營、活了下來。Lex 接著提到自己的家族來自蘇聯，戰爭在他成長的文化裡留下很深的痕跡，問 Singer 戰爭對社會整體帶來了什麼影響。

Singer 說戰爭有一個有益的影響：讓人看到種族主義與威權政府能做出什麼事，所以他在澳洲長大時，公開的種族主義與反猶已經被視為完全不可接受。另一個是對核戰的恐懼：電影《On the Beach》裡，他住的墨爾本是地球上最後還有人活著的地方，他的童年籠罩在「可能活不到成年」的陰影下。

Lex 提到 Eric Weinstein 說過戰爭除了死亡與苦難之外「一切都很棒」，問戰爭有沒有正面之處；Singer 說他很難看到戰爭正面的一面。他同意外敵能讓一個國家團結，團結本身也是好事，但戰爭同時會養出不容質疑的民族主義與愛國情操，他對這點比較懷疑；至於戰友情誼，他說人與人要親近，不需要經過戰爭帶來的苦難與死亡。

Singer 把苦難定義成一種意識狀態：單就它本身來看，我們想讓它停下來、或不想再經歷一次；他強調這跟「苦難有沒有正面後果」（例如跑馬拉松、看牙醫）是分開的兩件事。

Singer 不認為苦難在現實中會被消除；他也說貧窮與苦難有客觀的層次（一直挨餓、一直受凍），但一旦基本需求被滿足，富裕社會可能會冒出新的相對苦難，例如無聊、缺乏目的感。他說等客觀的苦難都消除了，他才會想處理相對的那種。

談到納粹時期的服從，Singer 說很難有人能肯定自己在同樣處境下不會做出一樣的事，估計真的有資格這麼說的人很少、不到一成；Lex 說自己讀了很多二戰的書，擺脫不了自己不會是那一成的念頭。Singer 說他也不知道，希望自己是那一成，但沒有任何根據能說自己會跟大多數人不同。

Singer 舉自己四十多年前開始吃素為例：當時幾乎碰不到素食者，他相信這是對的，但還是想過朋友會不會覺得他是怪人；後來確實有一兩個朋友不太自在，他說這跟歷史上的例子比起來算很小的事。

Singer 把「今天該不該為信念表態」延伸到全球貧窮與氣候變遷，並舉 Greta Thunberg 為氣候罷課為例，認為一個學生這麼做一定需要很大的勇氣；Lex 接著說，在這個分裂的世界裡她同時招來大量支持與敵意，對青少年來說很不容易。

Singer 認為如果機器人發展出意識、有自己的主觀視角（人生能對它而言過得好或壞），就該有權利；在那之前不該有。他確定意識是能不能受苦的前提。

Lex 說自己有幾台 Roomba，試過讓它發出痛苦的聲音，發現自己會不自覺把它當成有意識的存在，即使程式是他自己寫的。Singer 說這推不出必須給它們權利；Aquinas、Kant 那種「對動物殘忍會養成殘忍的性格」的論證，他不接受作為善待動物的理由（理由就是動物在受苦），但可能接受用類似的理由說明不該虐待模擬痛苦的機器人。

Singer 介紹行為主義：Gilbert Ryle 主張「痛」這類詞的意義就等於它對應的行為，Norman Malcolm 用「作夢」的例子撐同樣的論點；但他也說現在很少人覺得這套說法站得住。Lex 提到自己剛訪問過協助瓦解行為主義的 Noam Chomsky，在研究人類行為上完全同意，但他讓 Roomba 叫過痛，說自己不知道怎麼看待這個經驗。Singer 說假的痛苦表現不是痛苦，但人會對它有反應是天性，也許還是好事。

Lex 問怎麼判斷一個系統從單純執行指令，變成表現出恐懼死亡、自我意識這類跡象；Singer 說他不夠懂程式、答不了，推測懂的人可以去看程式，看能不能用不涉及意識的方式解釋它的行為，解釋不了才要考慮它可能真的有意識。

Lex 提到機器學習說不出自己怎麼運作，到時候可能只能看行為判斷。Singer 說如果真的懷疑一個系統可能有意識，就該寧可從寬看待，跟對動物一樣：脊椎動物和章魚這類無脊椎動物有意識，他很有把握，昆蟲就難說；所以他認為折磨昆蟲是錯的，但這不代表拍死一隻要叮你的蚊子也是錯的。

Singer 說這本書的核心概念是 speciesism（物種主義）：人類對非我族類的利益有一種不認真看待的偏見，可以跟種族主義、性別歧視類比；這個詞借自 Richard Ryder，他自己把它在哲學上講得更精確、也帶給更多讀者。他認為痛苦的份量不取決於物種，就像不取決於種族或性別。

Lex 問如果能跟 AGI 對話，要問什麼問題判斷它有沒有意識；Singer 說會請它描述自己的感受，也會問「大腦移植到別人身上後你還是不是你」這類問題，看它有沒有自我的概念。他想像一個有意識的 AGI 被告知要換到新硬體時，可能會說「休息一下沒關係，別把我弄丟就好」。Lex 也提到 Neuralink 這類腦機介面，Singer 說如果真能擴充記憶，他很想要。

Lex 提到 Stuart Russell 等人在做價值對齊；Singer 說做得到應該是可能的，但問到他自己怎麼想，他說不太確定：Nick Bostrom、Toby Ord 這些哲學家認為這是真的問題，在 Microsoft、DeepMind 工作的人則說離超級智慧還很遠。Lex 說他自己做 AI 系統，比較站 DeepMind 那邊。Singer 同意這是個問題，但如果是一百年後的事，現在能做的恐怕不多，他覺得這點讓人安心；他仍贊成有人研究，也認為就算滅絕風險很小，能降低就該做，他跟長期風險論者的分歧只在於優先順序。

Lex 提出：用效益主義計算，全人類滅絕在數學上像無窮大，會讓優先順序算不下去；Singer 說如果當成無限大確實會打亂所有計算，但他不相信真的是無限——連 Bostrom 算的也是一個巨大但有限的數字。而「從未存在的可能生命」能不能跟已經存在的人的受苦與死亡相比，他自己不確定，覺得兩邊都說得通。

Singer 解釋效益主義：該做的事是期望效益最大的行動，古典效益主義說的效益是快樂與沒有痛苦；但實際上我們不知道怎麼衡量快樂與痛苦的量，也算不出各種行動的機率，頂多拿它當粗略的指引，而且只能著重短期後果。

面對「少數人的極端苦難能不能被多數人的利益蓋過」，Singer 說有可能，但要先知道苦難有多嚴重。他傾向認為痛苦與快樂不對稱：他不願承受一小時最痛苦的經驗來換一小時最快樂的，十小時也不換，也許二十小時——講完他自己問了一句「我這樣講對嗎」，才改口說二十小時。換算比例可能很高，但到了某個數量，他認為還是該加總，即使違反公平直覺。

Lex 問能不能用資料與 AI 算出讓福祉最大的稅率、人類能不能對目標函數達成共識；Singer 說這不是沒希望，但現在很難取得共識，因為大家對正義仍有不同直覺——不過得不到共識，不代表沒有正確答案。Lex 接著問誰有資格決定對錯、政府該不該扮演倫理監督的角色；Singer 說政治上他仍支持民主，雖然民主不太適合用來減少動物與遙遠的人（包括未來的人）的苦難，但他不知道有比它更好的制度——可以想像一位明智而仁慈的領導者做得更好，但現實中這種人太容易被權力腐化。

Lex 問起 Singer 十年前寫的《The Life You Can Save》（現在可以免費線上取得）；Singer 說這本書想讓人明白，幫助極端貧窮的人不難，現在有經過獨立評估驗證的高效組織在做。他也推薦 80,000 Hours 這個網站，幫人評估不同的職涯路線，例如去華爾街賺錢再捐出去，或直接投入非營利組織。

談到具體該捐多少，Singer 不主張不分收入的十一奉獻，而是像所得稅一樣採漸進量尺：收入普通的人從 1% 起捐，收入非常高的人則提高到 33 又三分之一%，他認為這些比例都不會真的造成生活上的困難。

Singer 說做這些事既是倫理要求，也有心理研究顯示，捐得多的人對生活比較滿意，他認為這跟擁有一個比自己更大的目的有關，也讓人不會無聊。

Singer 說到了七十幾歲難免會想到死亡，但他不覺得自己的哲學對此有什麼特別的洞見；他不認為死後還有什麼，認為人生的意義是自己賦予的——可以認出有些事客觀上是壞的（例如極端的苦難）、有些客觀上是好的，然後盡可能多做好事、少做壞事。