← 所有節目科技浪

2024 · EP67 · Meta 系列

讓 AI 聞得到摸得到的三個團隊

2024 年 12 月 2 日 · 65 分鐘

▶ 收聽這一集

原標題:EP67 - AI獲得了嗅覺、觸覺?如何讓AI跟人一樣體驗世界?

光靠文字學不會真實世界。哈利介紹三個補上感官的團隊:Osmo 做嗅覺、Meta FAIR 做觸覺、李飛飛的 World Labs 做 3D,並聊這些路線走通之後的用途。

重點

文字不夠理解世界。哈利認為語言壓縮了大量資訊,又是好用的介面,所以 LLM 才會紅。但真實世界是 3D 加時間的 4D,連現在的多模態模型和影片生成模型,在他看來仍是從 2D 在想事情。

Osmo 把氣味變成資料。他們把李子切碎,用儀器分析氣體成分,再由 AI 判斷氣味,最後調出一份幾乎重疊的液體。哈利說這比較像重現氣味,不是傳送。核心是一張 250 幾個維度的氣味地圖,用 GNN 訓練,與受過訓練的人比賽勝率 53%。

Meta 讓機器人手指有觸覺。Digit 360 的指尖是會凹陷的彈性體,內側打光,再由相機看光怎麼扭曲。它還有感熱、氣體、麥克風和手指上的 AI 做反射動作。設計開源,搭配預訓練模型 Sparsh。

World Labs 賭 3D 世界。李飛飛等人成立兩個月,已融資 2 億 3 千萬美金,還沒有產品。目標是 Spatial Intelligence,也就是能在 3D 世界裡感知、理解並行動的模型。

多半還要等硬體。Osmo 的短期目標在香氛產業,Meta 和 World Labs 提出的應用(網購摸衣服、義肢、AR 作業系統)都要等其他公司的硬體成熟。

時間軸 點時碼從那一段開始

  1. LLM 為什麼紅語言資訊密度高,又是自然的操作介面,ChatGPT 一下就竄紅。
  2. 文字不夠,世界是 4D文字是人類發明的概念;多模態模型加影片模型也沒有真正理解 3D、觸覺和嗅覺。
  3. 三個團隊與本集預告Osmo 做嗅覺、Meta FAIR 做觸覺、World Labs 做 3D;說明今天要聊他們怎麼做、之後會怎樣。
  4. Osmo 與氣味傳送實驗從 Google 獨立出來、由 Google Ventures 支持;李子氣味從實驗室一端「傳」到另一端,哈利說更像重現。
  5. 人怎麼聞到、三個挑戰氣味由分子結構決定,要擷取結構、判斷氣味、重現氣味三件事;第一步由 GCMS 儀器完成。
  6. 氣味地圖Principal Odor Map 是分子結構的 embedding,250 幾個維度,靠近的點聞起來相似;未知分子點上去就能推測味道。
  7. GNN 是什麼分子是原子加化學鍵,社群網路是人加關係,都能畫成 graph 交給 GNN 提取特徵。
  8. 訓練與贏過人類用 5000 筆分子加氣味的標註資料訓練;與十幾位受過訓練的人比賽,勝率 53%;仍有偵測不到的分子。
  9. Osmo 的短期與長期目標短期鎖定香氛產業,鞋子真偽也能靠氣味判斷;長期想偵測疾病,並把氣味數位化。
  10. Meta FAIR 的 Digit 360彈性體指尖加內側打光加高幀率相機,把觸覺轉成影像;另有感熱、氣體、麥克風和手指上的反射 AI。
  11. 摸得出什麼分得出肥皂和奶油、生蛋和熟蛋、水壺有沒有水;拿鍋鏟煎蛋時生熟的觸覺差異也被抓到。
  12. 開源與 Sparsh設計開源,GelSight 負責生產;Sparsh 是給視覺式觸覺感測器用的通用 encoder,用自監督學習預訓練,概念跟預訓練的 LLM 一樣。
  13. 觸覺的應用展望網購重現衣服觸感、義肢有觸覺要等 Neuralink 之類的公司,人型機器人則要等整機出來。
  14. 李飛飛與 ImageNetAlexNet 的突破建立在李飛飛蒐集的 ImageNet 上;她看出瓶頸在資料而非算法。
  15. World Labs 與創辦成員9 月成立、融資 2 億 3 千萬美金、還沒有產品;成員來自 NeRF 與 Gaussian Splatting 的研究,另一位是李飛飛的學生。
  16. Spatial Intelligence定義為能在 3D 加時間的空間裡感知、理解並行動的模型;Justin Johnson 認為從影片學的模型腦袋還是 2D。
  17. 北極星與互動世界短期沒有產品路線圖;長期可低成本生成互動 3D 世界,李飛飛設想成 AR 與 VR 的作業系統。
  18. 模擬世界的想像三條路走通,就有能力模擬出一個小世界;哈利順勢聊到我們自己可能也活在模擬裡。

值得記的話

  • 「語言其實它就是一種非常壓縮了很多資訊在裡面的一種資料」

    ▶ 02:53
  • 「嚴格來說比起傳送氣味呢他比較像是重現氣味」

    ▶ 11:18
  • 「我是覺得不要低估人類科技的發展」

    ▶ 28:50
  • 「他提早看到了說其實資料是我們目前的瓶頸不是算法」

    ▶ 49:56
  • 「我們真的有能力可以去模擬出一個小世界了」

    ▶ 1:02:10

名詞與人物

Osmo
想讓 AI 理解嗅覺的公司,原本是 Google 內的團隊,由 Google Ventures 支持。
Principal Odor Map
Osmo 的氣味地圖,250 幾個維度的分子結構 embedding,維度的意義連 Osmo 自己也說不出。
GCMS
氣相層析質譜儀,把氣體分離成各種化合物並分析分子結構,不是 Osmo 發明的。
GNN
Graph Neural Network,專門處理點和線組成的資料,Osmo 用它把分子結構轉成地圖上的點。
Digit 360
Meta FAIR 的機器人手指,能感知觸感、熱、氣體與聲音,設計開源。
Sparsh
Meta 預訓練的觸感模型,是給視覺式觸覺感測器用的通用 encoder。
GelSight
Meta 找來生產 Digit 360 的商業夥伴。
World Labs
李飛飛等人 9 月成立的公司,目標是 Spatial Intelligence,只做 AI 模型不做硬體。
Spatial Intelligence
World Labs 自己定義的詞,指能在 3D 加時間的空間裡感知、理解並行動的模型,對應 Large World Model。
NeRF
用多角度的平面照片渲染出 3D 物件的 AI 技術,Ben Mildenhall 是創始人之一。
3D Gaussian Splatting
用 3D 高斯分布代表點雲中的點,哈利說嚴格來說不是 AI 技術;Christoph Lassner 研究出它的前身。
SSL
Self Supervised Learning,自監督學習,大型語言模型預訓練的做法,Sparsh 把它用在觸感影像上。

延伸

  • Digit 360 與 Sparsh 只是硬體加預訓練模型,使用者還得拿少量資料訓練 decoder 並微調;哈利說這套軟硬體離商業化還有一段時間。
  • 哈利說 Sparsh 用的自監督學習背後還有很多觀念,這集刻意不往下講。
  • World Labs 這集只談團隊與願景,哈利說他們還沒有產品,也沒有短期的產品路線圖。