EP 3292022-10-153:03:33 ROUND 2
社交機器人的倫理與 MIT 風暴
Kate Darling
Kate Darling 主張機器人該學動物、不該學人，也談機器人設計裡的偏見與操縱，以及她在 MIT 學到的機構人性課。
Kate Darling: Social Robots, Ethics, Privacy and the Future of MIT | Lex Fridman Podcast #329在 YouTube 看 ↗
重點6 條
- 機器人該學動物，不是學人：Darling 認為拿機器人跟人類比是條走不通的路，動物被馴化不是因為牠們像人，而是因為牠們能做人做不到的事，這才是機器人真正該扮演的角色。
- 一個小疏忽，就決定人愛它還是恨它：超市巡邏機器人 Marty 被裝上兩顆大眼睛，讓顧客覺得自己被監視；幫醫院送貨機器人取「性感護士」式的名字，也是同一種粗心。她認為該聽多元意見，但拍板的還是設計者，不是行銷部門。
- 語言模型讓「情感依附」變成迫在眉睫的問題：她認為工程師相信 Google 的 LaMDA 有意識並不天真，這種投射在人機互動實驗室裡經常發生；真正該擔心的是資料怎麼被蒐集、又怎麼被拿去操縱人，尤其是分不清廣告與對話的小孩。
- 她心目中的機器人該直接收費，不是靠賣資料：她認為機器人應該像作業系統一樣讓使用者付費維持，而不是靠置入行銷或賣資料賺錢，這樣才不會有誰在背後操縱它的建議。
- 從 MIT 的 Epstein 醜聞學到：懦夫比混蛋更該提防：她回顧 Joi Ito 辭職前後，認為敢承認錯誤、扛下責任的人，反而比一直迴避、把責任往外推的機構更值得信任；她也首度在節目上談自己 2019 年向 MIT 通報主管性騷擾、走完申訴流程的經過。
- 愛不是零和賽局：節目最後她說，多愛一個人不會讓原本的愛變少；機器人如果做得好，應該是擴大人類愛人的能力，而不是取代它。
時間軸24 段
回顧上次錄音穿 Bieber 上衣的糗事，帶出她從研究者變成暢銷書作者的這幾年。
她認為機器人沒有標準定義，業界執著於人形反而讓大家誤判該往哪個方向設計。
超市巡邏機器人裝了兩顆大眼睛卻沒設計互動，讓顧客覺得被監視；她認為好設計能讓人喜歡同一種功能。
兩人討論大公司的風控流程，如何把有趣的設計磨成毫無個性的通用版本。
從書裡「性感護士」式的機器人名字談起，指出助理型機器人常被預設女聲、強勢型常被設男聲。
講到 Boston Dynamics 機器狗常被誤認成有頭的動物，也聊她自己收藏八隻機器狗的日常。
以亞馬遜新款倉儲機器人為例，說明人機協作空間比想像中更難做到安全。
她認為多數工作不會整個被取代，礦業自動化反而創造出更安全的新職缺。
兩人聊視覺方案進展超乎預期，也聊坐上 Waymo 無人車後座的奇特感受。
從 Ring 攝影機配合執法談起，她認為能在市場活下來的機器人公司，一定是真的尊重隱私的那些。
大型語言模型的進展讓她重新興奮起來，也帶出 Google 工程師認定 LaMDA 有意識的爭議。
全書的核心比喻：機器人該像被馴化的動物一樣做人做不到的事，而不是模仿人。
從狗貓怎麼擠進「家人」的位置，談機器人有沒有機會走上同一條路。
她主張使用者該完全擁有自己的資料，也擔心機器人對小孩的行銷比電視廣告更難辨識。
她質疑人形機器人的必要性，但認同 Elon Musk、Jim Keller 這類把成本壓到最低的野心，可能意外把社交機器人的難題一起解決。
她合著的 We Robot 2022 論文指出，社交機器人同時具備個人化推薦、社交說服、自動化與資料蒐集，比傳統廣告更難防。
她認為讓人感受到機器人會痛苦，是很強的移情催化劑；也聊到自己曾把 Roomba 撞牆設計成尖叫，做完之後覺得自己像壞人。
她的推文提到，當使用者對機器人有情感依附時，公司該不該靠付費升級軟體收費；也以 Aibo 的年費訂閱討論這條界線。
她認為公司有責任處理演算法偏見，但「糾正」該拿捏到什麼程度沒有標準答案。
她回顧 Joi Ito 辭職前後，認為敢扛責任的人，反而比一直迴避的機構更值得信任。
她談神經多樣性不能當作失禮行為的擋箭牌，也談 MIT 該怎麼畫界線。
首度在節目上談 2019 年向 MIT 通報主管性騷擾、走完申訴流程的經過。
她說結婚誓詞寫的不是「一輩子」，而是「當隊友、一起做對團隊最好的事」。
她說愛不是零和賽局，機器人做得好，應該是擴大人類愛人的能力。