光靠文字學不會真實世界。哈利介紹三個補上感官的團隊:Osmo 做嗅覺、Meta FAIR 做觸覺、李飛飛的 World Labs 做 3D,並聊這些路線走通之後的用途。
重點
文字不夠理解世界。哈利認為語言壓縮了大量資訊,又是好用的介面,所以 LLM 才會紅。但真實世界是 3D 加時間的 4D,連現在的多模態模型和影片生成模型,在他看來仍是從 2D 在想事情。
Osmo 把氣味變成資料。他們把李子切碎,用儀器分析氣體成分,再由 AI 判斷氣味,最後調出一份幾乎重疊的液體。哈利說這比較像重現氣味,不是傳送。核心是一張 250 幾個維度的氣味地圖,用 GNN 訓練,與受過訓練的人比賽勝率 53%。
Meta 讓機器人手指有觸覺。Digit 360 的指尖是會凹陷的彈性體,內側打光,再由相機看光怎麼扭曲。它還有感熱、氣體、麥克風和手指上的 AI 做反射動作。設計開源,搭配預訓練模型 Sparsh。
World Labs 賭 3D 世界。李飛飛等人成立兩個月,已融資 2 億 3 千萬美金,還沒有產品。目標是 Spatial Intelligence,也就是能在 3D 世界裡感知、理解並行動的模型。
多半還要等硬體。Osmo 的短期目標在香氛產業,Meta 和 World Labs 提出的應用(網購摸衣服、義肢、AR 作業系統)都要等其他公司的硬體成熟。
時間軸 點時碼從那一段開始
- LLM 為什麼紅語言資訊密度高,又是自然的操作介面,ChatGPT 一下就竄紅。
- 文字不夠,世界是 4D文字是人類發明的概念;多模態模型加影片模型也沒有真正理解 3D、觸覺和嗅覺。
- 三個團隊與本集預告Osmo 做嗅覺、Meta FAIR 做觸覺、World Labs 做 3D;說明今天要聊他們怎麼做、之後會怎樣。
- Osmo 與氣味傳送實驗從 Google 獨立出來、由 Google Ventures 支持;李子氣味從實驗室一端「傳」到另一端,哈利說更像重現。
- 人怎麼聞到、三個挑戰氣味由分子結構決定,要擷取結構、判斷氣味、重現氣味三件事;第一步由 GCMS 儀器完成。
- 氣味地圖Principal Odor Map 是分子結構的 embedding,250 幾個維度,靠近的點聞起來相似;未知分子點上去就能推測味道。
- GNN 是什麼分子是原子加化學鍵,社群網路是人加關係,都能畫成 graph 交給 GNN 提取特徵。
- 訓練與贏過人類用 5000 筆分子加氣味的標註資料訓練;與十幾位受過訓練的人比賽,勝率 53%;仍有偵測不到的分子。
- Osmo 的短期與長期目標短期鎖定香氛產業,鞋子真偽也能靠氣味判斷;長期想偵測疾病,並把氣味數位化。
- Meta FAIR 的 Digit 360彈性體指尖加內側打光加高幀率相機,把觸覺轉成影像;另有感熱、氣體、麥克風和手指上的反射 AI。
- 摸得出什麼分得出肥皂和奶油、生蛋和熟蛋、水壺有沒有水;拿鍋鏟煎蛋時生熟的觸覺差異也被抓到。
- 開源與 Sparsh設計開源,GelSight 負責生產;Sparsh 是給視覺式觸覺感測器用的通用 encoder,用自監督學習預訓練,概念跟預訓練的 LLM 一樣。
- 觸覺的應用展望網購重現衣服觸感、義肢有觸覺要等 Neuralink 之類的公司,人型機器人則要等整機出來。
- 李飛飛與 ImageNetAlexNet 的突破建立在李飛飛蒐集的 ImageNet 上;她看出瓶頸在資料而非算法。
- World Labs 與創辦成員9 月成立、融資 2 億 3 千萬美金、還沒有產品;成員來自 NeRF 與 Gaussian Splatting 的研究,另一位是李飛飛的學生。
- Spatial Intelligence定義為能在 3D 加時間的空間裡感知、理解並行動的模型;Justin Johnson 認為從影片學的模型腦袋還是 2D。
- 北極星與互動世界短期沒有產品路線圖;長期可低成本生成互動 3D 世界,李飛飛設想成 AR 與 VR 的作業系統。
- 模擬世界的想像三條路走通,就有能力模擬出一個小世界;哈利順勢聊到我們自己可能也活在模擬裡。
值得記的話
▶ 02:53「語言其實它就是一種非常壓縮了很多資訊在裡面的一種資料」
▶ 11:18「嚴格來說比起傳送氣味呢他比較像是重現氣味」
▶ 28:50「我是覺得不要低估人類科技的發展」
▶ 49:56「他提早看到了說其實資料是我們目前的瓶頸不是算法」
▶ 1:02:10「我們真的有能力可以去模擬出一個小世界了」
名詞與人物
- Osmo
- 想讓 AI 理解嗅覺的公司,原本是 Google 內的團隊,由 Google Ventures 支持。
- Principal Odor Map
- Osmo 的氣味地圖,250 幾個維度的分子結構 embedding,維度的意義連 Osmo 自己也說不出。
- GCMS
- 氣相層析質譜儀,把氣體分離成各種化合物並分析分子結構,不是 Osmo 發明的。
- GNN
- Graph Neural Network,專門處理點和線組成的資料,Osmo 用它把分子結構轉成地圖上的點。
- Digit 360
- Meta FAIR 的機器人手指,能感知觸感、熱、氣體與聲音,設計開源。
- Sparsh
- Meta 預訓練的觸感模型,是給視覺式觸覺感測器用的通用 encoder。
- GelSight
- Meta 找來生產 Digit 360 的商業夥伴。
- World Labs
- 李飛飛等人 9 月成立的公司,目標是 Spatial Intelligence,只做 AI 模型不做硬體。
- Spatial Intelligence
- World Labs 自己定義的詞,指能在 3D 加時間的空間裡感知、理解並行動的模型,對應 Large World Model。
- NeRF
- 用多角度的平面照片渲染出 3D 物件的 AI 技術,Ben Mildenhall 是創始人之一。
- 3D Gaussian Splatting
- 用 3D 高斯分布代表點雲中的點,哈利說嚴格來說不是 AI 技術;Christoph Lassner 研究出它的前身。
- SSL
- Self Supervised Learning,自監督學習,大型語言模型預訓練的做法,Sparsh 把它用在觸感影像上。
延伸
- Digit 360 與 Sparsh 只是硬體加預訓練模型,使用者還得拿少量資料訓練 decoder 並微調;哈利說這套軟硬體離商業化還有一段時間。
- 哈利說 Sparsh 用的自監督學習背後還有很多觀念,這集刻意不往下講。
- World Labs 這集只談團隊與願景,哈利說他們還沒有產品,也沒有短期的產品路線圖。