
004 AI 情感教練的迎合陷阱與解方
落在哪些主題(1 個)
失敗成本
級 1 直接對病人說話
講錯一句,病人當場就承受後果。
動線位置
第 2 站 對話式照護
持續跟使用者聊下去
許多人已經在向 AI 求助感情問題,但一味肯定式的回應只會讓人更執著己見;這場演講談的是感情 AI 該有的臨床標準。
重點摘要
迎合式回應是臨床問題 通用 AI 對感情困擾多半只會全盤肯定使用者的說法,讓人更確信自己沒錯而非更有自覺,講者稱這種 sycophancy 是感情 AI 的臨床失效模式,不是產品小毛病。
感情 AI 的使用規模已超越治療師 BetterHelp 花十年建立起約 35,000 名執業臨床師、服務 500 萬用戶的心理健康基礎建設,但現在向 AI 談感情問題的人已經比全美所有執業治療師合計服務的人數還多。
經過驗證的方法幾乎缺席 John Gottman 四十年研究對離婚的預測準確度、Sue Johnson 建立的 emotionally focused therapy 都是伴侶治療領域最扎實的框架,卻幾乎不存在於現有的商用感情 AI 產品裡。
感情教練也是高風險領域 通用 AI 分不出「常吵架」和「怕跟對方意見不合」的差別,也接不住可能牽涉家暴、自殺或他殺風險的求助訊號,但執業臨床師受過這種辨識訓練。
敏感資料缺乏保密框架 使用者告訴 AI 的外遇、財務秘密、小孩名字等內容,可能和訓練資料、後端 log 混在一起,不像診間對話受 privilege 保護。
Maxine 用臨床框架取代通用同理心 CoupleWork AI 打造的 Maxine 採用 Gottman Method 與 EFT 框架,會反映關係裡的深層互動模式,偵測到風險字眼就停止教練、轉走安全協定;開發方式則是先和臨床師一起定義標準,再寫成大量 eval 反覆驗證。
值得記的話
The world's largest relationship therapist is not a person with a degree, it's a large language model trained on the internet.
世界上最大的伴侶治療師不是有執照的人,而是一個在網路資料上訓練出來的語言模型
04:12
A good couples therapist is interested in helping you see clearly.
好的伴侶治療師在乎的是幫你看清楚,不是讓你覺得被肯定
05:26
Sycophancy in relationship AI is a clinical failure mode with real downstream consequences.
感情 AI 裡的迎合行為,是會帶來實際後果的臨床失效模式
06:37
A helpful, agreeable, fast couples therapist is basically a bartender with better vocabulary.
一個親切、迎合、反應又快的伴侶治療師,基本上就是詞彙比較好的酒保
07:29
An informed intervention six seconds before you send the text that makes everything worse can be life-changing.
在你按下傳送前六秒的一句介入,可能比事後的介入更能改變一切
13:31
時間軸 12 段
名詞與人物 8 個
提到但沒有展開
- 演講中引用 Ted Lasso 的台詞「be curious, not judgmental」來說明治療師怎麼提問,但沒有進一步展開。
- Tony Fabrikant 提到把 agent 跑過 evals「數千次、數萬次」的規模,但沒有說明具體採用的工具或流程。
非官方整理,內容著作權屬原講者與主辦方。筆記是摘要與索引,短引用都標時碼並連回原片,想聽細節請看原影片。
YouTube 播放清單 · 共 12 場、135 個時間軸段落、92 個名詞、53 條雙語金句。