機器人、孤獨與同理心的邊界

Kate 曾在哈佛開過機器人倫理讀書會，她說現在重教會完全不一樣；課程涵蓋自動化武器責任、隱私資料安全、自動化對勞動市場的衝擊，但她個人更關注人與機器人一對一的社交關係。

Lex 提到總統參選人 Andrew Yang 主張全民基本收入因應自動化失業；Kate 用她在瑞士生活時的 UBI 討論脈絡對照，並指出大家高估了現在的機器人技術，又老是把機器人當成「一對一取代人力」；她提到比爾蓋茲說過類似「該向機器人課稅」的話，說那聽起來還是一對一取代人的想法。

Kate 說人會不自覺把機器人當成有生命的東西對待，但機器人現在連昆蟲都比不上；虐待是否會讓人對暴力去敏感化沒有定論，不過已有研究顯示人對實體空間裡的東西反應比對螢幕內容更強烈。

Kate 正在寫一本書，研究人類馴化動物、把動物用在勞動、戰爭與陪伴上的歷史；她認為比較機器人跟人類是錯誤的類比，動物史才是更好的參照。

Lex 坦承自己會把機器人擬人化，認為能力一旦對等，機器人跟人類就沒有根本的哲學差異，並想像未來可能出現機器人的民權運動；Kate 回應說，歷史上人類保護哪個物種，往往不是根據一致的生物學標準，而是跟牠有多少情感連結有關——她舉了鯨魚的例子：直到有人錄下鯨魚唱歌，大眾才突然開始關心，掀起了保育運動。

Lex 問人性本善還是有惡有善，Kate 說她傾向相信沒有絕對的善惡、一切都是灰色；Lex 接著分享自己因為猶太背景深入研究過大屠殺與二戰歷史，認為多數人心裡都有惡的成分，虐待機器人會把這一面暴露出來，而機器人學家有機會幫人找出比較好的那一面；Kate 提到她的研究顯示，人對待機器人的方式可能反映出這個人本身的同理心傾向。

Kate 說同理心不是零和遊戲，是可以練的肌肉；Lex 談到有些家長會要求小孩對智慧音箱說請、謝謝，說自己對所有語音系統都保持禮貌、覺得互動裡該留點鼓勵同理心的空間。Kate 說她同意，但接著扮演魔鬼代言人反問：如果有虐待傾向的人拿機器人當宣洩出口，那是讓他們少傷害真人，還是像朋友說的那樣「練出更殘忍的肌肉」，目前沒有答案。

Lex 承認自己通常會迴避性愛機器人這個話題，Kate 說只要跟人說自己做人機互動，對方第一個想聊的就是這個，讓她感到疲乏。Lex 認為人其實都很孤獨，想要的是被聽見，而這常常是家人朋友沒有耐心給的；Kate 則說性產業本身也該去汙名化，並指出大家擔心機器人取代伴侶，卻很少談機器人去填補原本什麼都沒有的地方。

Lex 提到自己主要研究自駕車，最常被問到電車難題；Kate 指出電車難題原本要說明的是「人的道德直覺不見得該拿來當放諸四海皆準的規則」，但 Moral Machine 這類群眾外包計畫（她說是朋友做的），反而把它當成能收斂出「正確答案」的工具，恰好跟電車難題原本想說明的事互相矛盾。

Kate 說要把倫理規則寫進機器，才讓人發現這些規則比原本以為的難寫成程式得多，很多情況連立法者都做不了決定；她認為實際上車廠會盡量避開問題與責任，或乾脆一律保護駕駛，因為沒人會買一台設定成犧牲自己的車。

Kate 定義擬人化：把「像人一樣」的特質、行為與感受投射到非人的事物上，對動物、玩偶甚至車頭燈都會發生；她提到 Amazon 有一整個團隊專門設計 Alexa 的「個性」，但語音介面還太原始，反而是設計得愈簡單（像失智症照護用的海豹造型機器人）愈容易讓人把它當成活的東西對待。

超過八成五的 Roomba 被主人取了名字，壞掉送修時還會指定要拿回原本那一台；但擬人化發生在該被當工具用的場合就會出問題——伊拉克、阿富汗戰場上，士兵對拆彈機器人 PackBot 產生情感依附，甚至冒生命危險去救它，壞掉時還會辦附鳴槍禮的「葬禮」。Kate 也提醒，企業利用這種情感連結來賣訂閱服務、留住用戶，是另一種該注意的灰色地帶。

Kate 舉了兩台：已停產的機器恐龍玩具 Pleo 設計很精巧，但更讓她驚訝的是自己跟它有多親近；她也提到親自拜訪 Boston Dynamics 後，看著 Spot 移動時幾乎不由自主把它當成有意圖的生物對待。

對於曾登上新聞、在 Twitter 上追蹤過 Kate 還發文稱讚她的類人機器人 Sofia，Kate 說她對 Sofia 的印象遠不如 Boston Dynamics，認為那更接近一場藝術實驗而不是技術突破，也觀察到大眾常被科幻與流行文化養出過高的期待。

談到最喜歡的虛構機器人，Kate 選了 Wall-E，她認為動畫師從 1940 年代就懂得做出「比真的更討喜」的角色；她舉《小鹿斑比》為例，動畫師原本想把鹿畫得盡量寫實，後來發現放大眼睛、縮小鼻子反而更討喜。

Lex 認為家用機器人廠商一定在研究怎麼讓外型引發更深的情感連結，Kate 不這麼認為；她說從 Amazon 的角度，他們要的是使用者對「服務」上癮，不是對「裝置」本身產生連結，她猜 Amazon 的想法是：情感連結一旦出錯，帶來的挫折可能比好處更多。

談到兩間已經結束營運的社交機器人公司，Kate 說原因不只一個，也不認為會一直這樣；其中之一是科幻與流行文化把大眾的期待墊得太高，產品光是要滿足「最低限度」的期待就得做很多工程；市場上也還沒出現一個殺手級應用，能讓夠多人真的想擁有一台家用機器人。

兩人談到人對情感連結的需求可能比想像中高，只是平常沒有意識到；接著聊到愛上機器人、跟機器人建立長期關係是否可能，Kate 認為把機器人拿來跟人類比較不是好框架，更適合的參照對象其實是寵物——機器人能填補一部分孤獨，但方式不一樣，也不是要取代人類伴侶。

Lex 問要讓機器人展現出人類等級的智慧有多難，Kate 說過關的關鍵是管理期待：如果先告訴使用者對方是個英文不好的烏克蘭少年，大家就不會期待完美的用詞與邏輯，測試自然容易通過。

Kate 認為人對實體物件的社交反應本來就比對螢幕更強，有身體通常是好事，但也可能弄巧成拙——她家有一隻 Hasbro 出的機器貓，因為做得太像真貓，反而讓她一直期待牠會像真貓一樣動，結果每次都很失望；相反地，選一種大眾不熟悉的動物（像海豹、恐龍），因為沒有人知道牠本來該長什麼樣，反而更容易讓人接受。

Kate 提到一位研究夥伴做過一台「有壽命」的機器人，故意設定運作一段時間後就會停止，只是想觀察自己會不會因此對它產生不同的感情；她也拿電子雞玩具當例子，說明即使技術非常原始，只要加上「會死亡」的設計，照樣能讓人投入感情。

談到擔心的方向從廣告端的情感操縱，延伸到政府用類似手法套取資訊；Kate 說人願意讓 Alexa 知道自己買什麼牌子的尿布，因為方便，但同樣的資料一旦被用來鎖定低收入族群推銷高利貸或誇大不實的教育方案，造成的傷害就嚴重得多，而這種傷害通常不會直接被人感受到。

Kate 說企業與社會的利益不一定一致，完全自由的市場又會因為資訊不對等而失靈；她也提出一個在同溫層裡算「有爭議」的看法——企業找倫理學者、成立跨領域倫理委員會，不完全是在洗白，很多企業是真的在乎、只是不知道正確答案（她也說不是每家都這樣）；她認為技術進展變得太快，企業內部與政策制定都需要更多跨領域的合作。

談到 YouTube、Twitter、Facebook 這類公司的推薦演算法大多不透明，歐洲已經在推動要求企業揭露自動化決策如何做成的立法；接著轉到軟體時代的智慧財產權，Kate 直言這套制度已經壞掉——專利申請曠日費時又昂貴，等核准下來程式碼可能都已經過時，她也提到 MIT Media Lab 對內部程式碼採取「預設開源」，理由是新人的問題通常不是被偷，而是根本沒人用。

Kate 說養小孩讓她更清楚，現在的 AI 系統跟人類智慧的發展方式差異很大，兩者沒什麼好比較的；真正讓她擔心的是，這些仰賴大量資料蒐集的系統，將會如何形塑孩子長大的世界。

被問到未來五到十年最期待看到什麼，Kate 說希望出現一款真正的「社交機器人」，而不只是 Alexa 那種音箱；她說自己很喜歡 Anki 與 Jibo 的一些設計，希望有公司能真正把這件事做出來。