EP 1912021-06-144:15:19
讓社會制度追上科技的力量
Daniel Schmachtenberger
Schmachtenberger 認為,文明要避開自我毀滅,得讓社會制度跟上科技帶來的力量。對談從外星人、意識一路談到風險、治理、市場、意義與他的父親。
Daniel Schmachtenberger: Steering Civilization Away from Self-Destruction | Lex Fridman Podcast #191在 YouTube 看 ↗
重點6 條
- 社會技術要追上物理技術:他認為人類做決定的方式和石器時代差不多,卻握著核武與指數成長的科技。他說要避開自我毀滅,需要很快有進步的「社會技術」,能引導、約束物理技術,讓人類成為安全的容器。
- 自我終結的系統:他把這個詞定義成依賴某個基底、卻又在破壞那個基底的系統,並以復活節島和過去的帝國為例。他的主張是:不先弄懂過去的文明為什麼垮,就沒辦法把「不垮」當成設計出來的結果。
- 二戰後的秩序快到頭了:他描述核武時代靠聯合國與佈雷頓森林體系,用貿易互賴和相互保證毀滅撐住和平。他認為這套安排處理不了好幾個國家、好幾種災難性武器,加上全球供應鏈的脆弱,以及指數成長的經濟撞上地球的極限。
- 科技不是價值中立的:他認為每次物理技術大躍進,都會讓舊的社會制度失效,像犁之於部落、工業革命之於封建。他也提出,威權國家與大企業都在用新科技強化自己,開放社會的政府則沒有把新科技導向讓社會更好的方向。
- 指標會出錯,要靠智慧補:Lex 提議拿愛與個人成長當指標。他的回應是,任何一組指標都會漏掉東西,單一指標最後會變成「迴紋針最大化」;他把智慧理解成超出指標之外的判斷力,並提出成癮、同樂(compersion)當作觀察社會的指標。
- 有意義的人生有三種狀態:他認為「存在、做事、成長」三者要互相支撐。他說,從飽滿的狀態出發去做事,比從匱乏出發更會顧及外部性;談到死亡時,他說自己的生命重要性不如整體的生命。
時間軸33 段
Lex 請他想像外星人看完人類全部歷史,寫一頁以內的摘要。他說外星人會看到文明反覆自己毀掉自己,並判斷這很可能是撐不過「技術青春期」的星球,除非社會技術快速進步。
他覺得很難想像沒有其他智慧文明。談 UFO 時,他先說自己研究得不夠、沒有堅定的看法,但軍方飛行員與將領的目擊和雷達紀錄,他覺得「silly to just dismiss」。Lex 則認為若是外星科技,我們看得懂的反而是最笨的版本。
Lex 問政府握有外星飛行器資訊會不會公開。他舉解密後才曝光的往事,也轉述一則傳聞(Stanford 學者分析據稱來自 Area 51 的材料),並強調自己不為這些背書。Lex 接著談重力波,之後兩人聊到火星與其他星球若有微生物,會不會像入侵物種那樣影響生態。
Lex 問七十八億人該看成個別生物還是一個整體。他認為「個體或群體」二選一的框架不對,個人與群體彼此影響,好的社會系統是兩者的利益一致;他也提到嬰兒若離開群體長大,學不會語言與社會化的意識。
Lex 猜測意識也許是社會性的產物。他說這是很深的問題,講起 Sam Harris 與 Dennett 的爭論:兩人像是對同一個詞有不同的直覺,他引 Peirce 的話說第一哲學應該是符號學。
他先講明自己只陳述立場、不在這裡論證:他不認為意識是生物學或神經網路的湧現性質,第一人稱與第三人稱的現象是彼此無法還原的兩類東西。他認為更複雜的神經網路大概有更深的主觀經驗,但那是第一人稱領域內的複雜化。
Lex 估算大腦運算量,說三根香蕉的熱量換來的運算比現今 CPU 多出約一百萬倍。他補充大腦運算未必只有突觸放電,神經膠細胞、身體的內分泌、Penrose 提過的微管都可能有份,他說不確定。接著 Lex 讚嘆細胞自動機從簡單規則長出複雜性;他談群體智慧、Kauffman 與 Snowden,認為人和白蟻不同,能預測未來再做選擇。
Lex 問模仿欲望理論。他說模仿不是人類獨有,但人類的量大得多:嬰兒期特別長,是因為人會造工具、很快改變環境,所以生下來得少帶預設行為,花很長時間學習。人類在每種環境都成了頂級掠食者,他認為我們更像「little gods」,卻還在照掠食者的方式行事,這是他看世界的核心問題。
他粗略說明 Girard 的論點:人從別人身上學到要什麼,無法分享的東西就變成衝突。Lex 覺得這個想法既讓人沮喪也有解放的一面,因為我們能挑選自己身邊的人。
他同意身邊的人會改變我們,建議人要主動選環境。他提出「辯證綜合」:用最強的版本替對立的兩邊辯護,再找更高一層的解法。Lex 把它稱為帶著嚴謹的同理;他補充同理不等於同情,且得先有自己的行動能力才承擔得起。
他講完 Girard 論點的後半:衝突累積到後來,會轉嫁給代罪羊。接著轉述一位澳洲原住民學者朋友的批評,認為 Girard 對部落的描述是編的。他說太有說服力的模型會黏住腦袋,關鍵是知道模型不等於現實;他區分「複雜」與「繁複」,前者即使建了模型仍會出現沒預測到的行為。
Lex 問自我終結的系統是什麼。他舉過去的帝國和復活節島,定義成依賴自己正在破壞的基底的系統,並說要先弄懂過去的文明為何垮,才有機會設計出不垮的。
Lex 說人類的創造力是樂觀的理由。他回應有「天真的技術樂觀」也有「天真的技術悲觀」,希望的前提是所有災難風險都不發生;他列了 Tainter、Baudrillard 和 Diamond 談文明崩潰的書。Lex 提到自己對奈米機器人的興奮,他說 Drexler 當年主動強調風險值得尊敬,但先出手、把成本外部化的人在賽局上占便宜。
他說二戰是人類第一次有能力造成全球性的災難,所以需要比民族國家更高一層的協調:聯合國、世界銀行、IMF 與貿易互賴。他認為這套佈雷頓森林的解法現在「基本上已經結束,或快結束了」。
他說這套體系也把人類推向地球的承載極限,線性的物質經濟加上貨幣供給的指數成長,無法在有限的星球上永遠撐下去。供應鏈互連讓問題連鎖放大,新冠就是例子;從兩個超級強權握有核武,變成八、九個國家都有,無人機等武器更容易被非國家行為者取得。
Lex 問能力和破壞傾向是否呈反比。他認同建設與破壞的心理傾向不同,但說人數夠多時機率就不夠小,並舉烏克蘭軍火工廠被商用無人機攻擊為例。Lex 認為這是便宜的武器和人類愛的能力之間的賽跑,並說目前愛正在贏;Daniel 回應這個結局並非必然,因為搞砸的方式遠比做對的方式多。
Lex 問他常提的二、三、四階效應。他把風險分成兩種:有意傷害對手的軍備競賽,以及沒打算傷人、卻因副作用而傷到公共領域的外部性。他拿石油和 Facebook 當例子,說科技規模越大,副作用可能比原本要解的問題更大。
Lex 提議在推薦系統裡加入自我回報的福祉指標,用來衡量一個產品為世界增加或減少多少愛,並以自己的 YouTube 觀看紀錄當例子。他也說戰爭會在孩子心裡種下仇恨。對此他回應,短期看似贏了,對手之後會反過來研究你的技術,互相依賴的程度也使一處失敗會拖累所有人。
Lex 認為科技讓人越來越感到彼此相連,對戲劇性的渴望也不是人性的根本。他反問那些批評對立陣營的影片有沒有讓人更同理對方,接著舉耆那教、佛教與兒童兵為例,說人的行為是被環境與文化塑造的,不同文化的分布差很大。他主張「大眾愚昧」這個說法是對掌權階級有利的宣傳,並認為想要權力的衝動可以像愛吃高糖高脂一樣被調節。
他說快樂比舒適難測,工業革命以後社會常以舒適取代快樂;他也提到有些最舒適的國家自殺與精神疾病最高,不少很快樂的文化卻物質匱乏。他引 hormesis,認為適度的壓力才會養出適應力。
Lex 提議用個人成長和對他人的愛當指標。他說 GDP 在戰爭、成癮與醫療開銷增加時也會上升,任何指標都會漏掉東西。兩人談到智慧是「超出指標的判斷」,他認為單一指標若沒有持續改進,就會變成迴紋針最大化。
他提出一個社會指標:成癮越少,社會越健康。他認為未來文明得發展出「儀式化的不適」,像 sweat lodge、vision quest 之類,讓人一起克服艱難;這應該從文化中長出來,而不是由國家強制。
他用 compassion 與 compersion 軸說明:別人好我也開心是 compersion;兩人情緒完全脫鉤近似反社會;反向耦合則是嫉妒到幸災樂禍。Lex 說他很喜歡 compersion 這個詞;Daniel 說這正是他要提的指標,他會拿這條軸來最佳化。Lex 也提到 Rogan 是這種為朋友高興的人;Daniel 補充,健康的競爭是「strive together」。
他區分目的與意義,提出有意義的人生包括存在、做事、成長三種模式。Lex 問到死亡,他說自己有過害怕,也有過以為自己快死、卻覺得平靜美好的時刻;對他而言整體的生命比個人的生命更重要,並引一位蘇非詩人的詩,說自己無法不感到與未來的人相連。
Lex 問他對國家的看法。他說不希望美國聯邦政府明天消失,但也不認為現狀最好。他談部落的規模,以及凝聚與分裂兩股力量的拉扯,主張不同尺度都要有治理:個人、家庭、城市到全球,並認為城市的重要性會超過民族國家。他說關鍵是讓秩序自己浮現,而不是強加。
Lex 問科技能不能幫忙做出動態的審議平台。他說科技不是中立的,以牛拉犁為例,指出有些理論認為它改變了信仰、性別分工與社會結構;他說火車等技術讓 Stalin 能統治大片土地。他認為每次物理技術的躍進,都會讓前一代的社會制度失效。
他把民主看成嘗試讓秩序從眾人的選擇中浮現,前提是一起弄清楚現狀(sense making)與一起釐清重視什麼。他批評現在的提案只照顧一部分人,所以幾乎都只拿到半數票;也強調民主需要全面教育與可靠的新聞。
Lex 反駁說網路上已經有促成綜合不同想法的地方,並為維基百科辯護,說它讓大家更理解歷史上的苦難。Daniel 邀請聽眾分別站在擔心科技與樂觀科技的立場各想一遍,再把兩邊放在一起;他也以「廣告模式」和受託責任為題,批評 Facebook 與 Google 手中握著用戶的隱私資訊。
他認為威權國家在用新科技強化自己,大企業則靠網路效應形成近乎壟斷,舊的反壟斷法規管不到;他把這稱為「新封建」,說兩種吸引子都不好,他想用新科技做出更好的社會技術。
Lex 傾向相信市場最後會做出讓人更好的產品。Daniel 回應市場的底層理論在規模上壞掉了,資本主義其實是資本的管理,他認為掌握注意力比掌握資本影響更深。Lex 主張把透明度與控制權交給個別用戶;Daniel 同意廣播有用,但說不夠。
他認為現有的全球協調與新問題不相稱,核擴散、永續發展目標都沒做到;他引 Elon 的看法,說 AI 這類技術等出了事再管就太遲。他主張需要一場新的文化啟蒙,讓人民自己參與新制度的設計。
Lex 問他從父親學到什麼。他說他在家自學,父親為了陪伴孩子在家工作;父親教他把看不到的接線也做得漂亮、把討厭的工作做完不要抱怨。他自己在二十出頭有一段時間太否定父親的想法,後來修正了,也向父親道歉。
Lex 讀出他寫過的一段話,請他說說那樣的時刻。他提到與所愛的人說話時的感動,以及第一次服用大劑量蘑菇看樹到流淚;Lex 說自己也有同樣經驗,最後兩人以一杯薑、薑黃與辣椒的飲品碰杯收尾。