EP 2172021-09-032:24:52
Brooks 談運算的隱喻與創業的教訓
Rodney Brooks
機器人先驅 Rodney Brooks 談計算的哲學根基、AI 炒作的反覆循環,以及創業路上的教訓。
Rodney Brooks: Robotics | Lex Fridman Podcast #217在 YouTube 看 ↗
重點6 條
- 計算不是宇宙的本質,是好用的隱喻:Brooks 在新書《Not Even Wrong》裡追溯計算概念從 Turing、Hilbert 一路到 McCulloch 與 Pitts 的類神經網路的歷史,主張「計算」只是人類選定拿來理解世界的一種隱喻,好用是因為剛好能便宜地用矽做出來,不代表大腦真的在做同一件事。
- 感知比推理難,是演化排序的結果,不是巧合:他重新詮釋 Moravec's Paradox,指出下棋、解積分之所以看起來「聰明」,只是因為當年 MIT AI 實驗室裡那群聰明小孩本來就擅長這些;演化花了六億年打磨感知與移動,語言與推理反而是近幾十萬年才出現的晚輩。
- 對 AI 炒作循環保持警覺,但仍被 ImageNet 和自我對弈嚇到:他說每隔幾年業界就會喊「這次真的不一樣了」,讓他養成懷疑的習慣;但他也承認 ImageNet 的表現、AlphaZero 靠自我對弈打敗人類確實讓他意外,只是這些系統對世界的表徵仍然太過單薄。
- 視覺自駕比他預期走得更遠,但基礎建設才是關鍵:他原本以為純視覺方案撐不了多久,卻對 Tesla 拿掉 Mobileye 後自己重建、Waymo 無人車真的在路上跑感到驚訝;但他堅持大規模普及還是要靠道路重新設計,不是單靠更好的演算法。
- 兩間機器人公司教會他同一件事:客戶的期待比技術更難搞定:iRobot 靠把 Roomba 壓到兩百美元、在台灣與香港一顆一顆晶片找出來才打進家庭市場;Rethink Robotics 則因為客戶堅持要工廠機械手臂的定位精度,把原本瞄準三千美元的機器人硬生生推高到三萬五千美元,最後因為收購案被卡關而倒閉。
- 機器人有沒有臉,牽動的是人機之間能不能建立連結:Baxter 裝了會顯示意圖的螢幕眼睛,客戶反應兩極;Brooks 認為業界普遍把機器人當機器看待,是錯失掉的機會,未來真正做到規模的公司一定得處理好這種人的連結。
時間軸24 段
被問到最美的機器人,Brooks 選了學生 Aaron Edsinger 做的人形半身機器人 Domo,也談到 Baxter/Sawyer 用螢幕眼睛暗示下一步動作,讓工廠裡的人不會被機器手臂嚇到。
他回憶八、九歲時用冰塊盒與釘子當電極,通電後會長出銅橋,做出一個能簡單學習的電路。
他介紹正在寫的書,從 Turing 為了否證 Hilbert 的一個猜想才發明「運算」概念講起,一路帶到 Minsky、Knuth 等人這幾十年來持續辯論「運算」到底是什麼。
他把人工智慧、人工生命、神經科學與無生源論擺進一個二乘二矩陣,指出四個學門都在 1945 到 1965 年間成形,也都把運算當成共同隱喻;但他提醒隱喻是會過期的,量子力學至今卡在人類找不到合適的物理隱喻。
他把大腦形容成「頭裡那塊肉」,認為智慧有一部分存在於人與人之間的互動,尼安德塔人骨頭上的刻痕就是把記憶外包到身體之外、再讓別人接手的證據。
Brooks 指出每一種已知的智慧都先感知世界再行動,深度學習把停止標誌加幾個貼紙就會誤判,正是因為它學到的是標籤而不是對世界的真正理解;他也點出當年 MIT 實驗室覺得下棋才叫聰明、嬰兒看得懂東西不算聰明,是選錯了衡量標準。
他用孫子在陌生環境靠雙手合作打開窗戶、自己摸索各種鎖具機關的例子,說明真正的操作能力不是靠海量試錯,而是先有一套篩選機制去掉大部分無意義的嘗試;他也提到 DeepMind 拿他公司賣的 Sawyer 手臂偷偷做強化學習實驗的往事。
他說每隔幾年業界就有人喊這次真的不一樣了,讓他養成懷疑的習慣,但也承認 ImageNet 的表現讓他意外;他把自我對弈追溯到 Donald Michie 1961 年的井字棋論文與 Arthur Samuel 同年的西洋跳棋程式,兩者都比外界以為的更早。
話題繞回 Moravec's Paradox:這些遊戲系統靠的是對當下局面極簡短的描述,跟真實世界的感知完全是兩回事;他認為 AlphaFold 準到讓他意外,問題是不知道哪一次預測才可信,直到最近才開始有工具處理這件事。
他直言自己曾兩度看走眼:先是沒想到 Mobileye 的電腦視覺做得那麼好,後來 Tesla 丟開 Mobileye 從零自建、又靠資料引擎持續挖出邊角案例,讓他重新評估純視覺方案能走多遠。
他提出美國每年車禍死三萬五千人卻沒人抗議,自駕車只要死超過十人就會被罵翻的不對稱心理;他認為真正的突破要靠道路本身重新設計,就像檀香山與日本的全自駕列車全靠雙層閘門與封閉軌道才做到零意外。
他們聊到亞歷桑那州錢德勒市那台真的沒有駕駛的 Waymo,主持人形容坐進去看方向盤自己轉動的畫面確實震撼;Brooks 則指出公司從不肯透明公布安全員與車輛的實際配比。
他承認要達成不可能的事就得先相信它辦得到,就像萊特兄弟與登月計畫;但他把自己對炒作的憤怒,限定在明知做不到卻硬要吹的人身上,跟真心相信、只是常抓錯期限的人是兩回事。
他從 2018 年起在部落格公開預測,承諾每年 1 月 1 日回頭檢討,一路要對自己負責到 2050 年;被問到舊金山何時能有無人計程車,他答肯定不是十年內,還講了一輛 Cruise 無人車為了閃一個掏鑰匙的路人擋住人行道、逼嬰兒車繞路的親眼見聞,認為換成真人駕駛根本不會傻站在那裡擋路,這種事不該拿旁人的安全開玩笑。
他最自豪的一刻,是 2011 年福島核災後派出的機器人真的派上用場,靠的是先前六千五百台機器人在伊拉克、阿富汗拆解路邊炸彈累積下來的實戰經驗,而不是媒體愛炒的日本機器人技術多強。
為了把售價壓到兩百美元(對手電動品牌賣兩千歐元),他親自跑台灣新竹與香港的小工廠找便宜晶片,最後找到一顆剛好在預算內的 Winbond 晶片才湊出可行方案,2002 年聖誕節前趕工做出七萬台一次賣光。
他歸納三個常見死因:創辦人自己高估技術能做到什麼、訂價脫離客戶願意付的現實,以及低估客戶接受新科技需要的時間;他坦承這三項自己全部踩過。
他原本要做三千美元、靠力回饋控制的塑膠機械手臂,卻在工程師反對塑膠齒輪的扭矩問題後改用金屬齒輪,又因客戶堅持要跟傳統工業手臂一樣的定位精度,一路把價格推到三萬五千美元;最後因收購案牽涉外資審查卡了好幾輪,公司只好以三十分之一的價格賤賣資產收場。
Baxter 那對會顯示意圖的螢幕眼睛讓客戶反應兩極,有人覺得不夠像人反而失望;Brooks 認為多數機器人專家把機器人單純當機器看待,是錯失掉的機會,未來做到規模的公司一定得處理好人跟機器之間的情感連結。
他指出 Turing 原本只是用猜性別的修辭手法論證機器能不能思考,結果被後人玩成專找刁鑽問題騙倒對方的把戲;他認為真正的門檻是要讓系統擁有連續的記憶與存在感,這比單純比對話流不流暢難得多。
他最後悔沒趁那些 AI 先驅還在世時多問問題,尤其是沒問 Minsky 為什麼自己博士論文寫的是類神經網路,卻在 1968 年跟 Seymour Papert 合寫《Perceptrons》幾乎把整個領域打入冷宮;他也認為大公司高薪把頂尖人才鎖進公司、不准對外發表,對整個領域是壞事。
一則趣聞:MIT AI 實驗室的主機在深夜當機,Brooks 跟同事緊張到把晶片裝反冒煙,只因為當時人高馬大的 Donald Knuth 就站在旁邊催問什麼時候修好。
他建議年輕人想做出真正的影響,就得準備好一次次失敗、做不安全的選擇;談到死亡,他說自己怕的是失智而不是死亡本身,部落格那套檢討 32 年預測的機制,某種程度也是逼自己一年一年數著走向終點;被問到希望留下什麼,他說希望這本書至少改變一個人的想法。
他自認無神論者,覺得一切終究是隨機冒出來的一小片秩序,但不相信人類是宇宙裡唯一的文明,即使那代表宇宙可能只是一座文明的墳場;聊到終將被世人遺忘,他仍覺得這輩子挺好玩的,訪談在兩人互道感謝中結束。