級 1直接對病人說話
AI 情感教練的迎合陷阱與解方 —— CoupleWork AI的演講縮圖
CoupleWork AI · 伴侶諮商 AI

004 AI 情感教練的迎合陷阱與解方

Clay Cockrell、Tony Fabrikant 16:43 2026-08-19 看原片

落在哪些主題(1 個)

不能拿病人試錯
用模型審模型,再用臨床醫師審模型
真正的戰場是保險與行政流程
合規是地基,不是事後補的
臨床專家握方向盤
從工具到組織
臨床現場的產品長什麼樣

失敗成本

級 1 直接對病人說話

講錯一句,病人當場就承受後果。

動線位置

第 2 站 對話式照護

持續跟使用者聊下去

許多人已經在向 AI 求助感情問題,但一味肯定式的回應只會讓人更執著己見;這場演講談的是感情 AI 該有的臨床標準。

重點摘要

迎合式回應是臨床問題 通用 AI 對感情困擾多半只會全盤肯定使用者的說法,讓人更確信自己沒錯而非更有自覺,講者稱這種 sycophancy 是感情 AI 的臨床失效模式,不是產品小毛病。

感情 AI 的使用規模已超越治療師 BetterHelp 花十年建立起約 35,000 名執業臨床師、服務 500 萬用戶的心理健康基礎建設,但現在向 AI 談感情問題的人已經比全美所有執業治療師合計服務的人數還多。

經過驗證的方法幾乎缺席 John Gottman 四十年研究對離婚的預測準確度、Sue Johnson 建立的 emotionally focused therapy 都是伴侶治療領域最扎實的框架,卻幾乎不存在於現有的商用感情 AI 產品裡。

感情教練也是高風險領域 通用 AI 分不出「常吵架」和「怕跟對方意見不合」的差別,也接不住可能牽涉家暴、自殺或他殺風險的求助訊號,但執業臨床師受過這種辨識訓練。

敏感資料缺乏保密框架 使用者告訴 AI 的外遇、財務秘密、小孩名字等內容,可能和訓練資料、後端 log 混在一起,不像診間對話受 privilege 保護。

Maxine 用臨床框架取代通用同理心 CoupleWork AI 打造的 Maxine 採用 Gottman Method 與 EFT 框架,會反映關係裡的深層互動模式,偵測到風險字眼就停止教練、轉走安全協定;開發方式則是先和臨床師一起定義標準,再寫成大量 eval 反覆驗證。

值得記的話

The world's largest relationship therapist is not a person with a degree, it's a large language model trained on the internet.

世界上最大的伴侶治療師不是有執照的人,而是一個在網路資料上訓練出來的語言模型

04:12

A good couples therapist is interested in helping you see clearly.

好的伴侶治療師在乎的是幫你看清楚,不是讓你覺得被肯定

05:26

Sycophancy in relationship AI is a clinical failure mode with real downstream consequences.

感情 AI 裡的迎合行為,是會帶來實際後果的臨床失效模式

06:37

A helpful, agreeable, fast couples therapist is basically a bartender with better vocabulary.

一個親切、迎合、反應又快的伴侶治療師,基本上就是詞彙比較好的酒保

07:29

An informed intervention six seconds before you send the text that makes everything worse can be life-changing.

在你按下傳送前六秒的一句介入,可能比事後的介入更能改變一切

13:31

時間軸 12 段

00:00
故事開場
Clay Cockrell 用診間伴侶的故事帶出身分,並點出這場要談 AI 對關係的影響好壞參半。
02:54
破題主張
直言 AI 會是人類關係史上最具轉型力量的東西,但現在多數相關產品的做法是錯的。
03:12
使用規模驚人
BetterHelp 花十年才建立約 35,000 名臨床師、服務 500 萬用戶的心理健康基礎建設;現在向 AI 談感情問題的人已經比全美所有執業治療師合計服務的人數還多。
04:27
優化黏著度的代價
通用 AI 被調校成盡量讓人多聊、更依賴,這種指標對 SaaS 儀表板很漂亮,對臨床卻是警訊。
05:11
真正的治療是什麼
好的 couples therapist 不是一味肯定情緒,而是會說出使用者不想聽的話,幫助當事人看清楚狀況。
06:37
迎合等於臨床失效
通用 AI 對感情困擾多半只會全盤肯定使用者的說法,這種 sycophancy 會讓人更確信己見而非更有自覺,講者稱之為臨床失效模式而非小毛病。
07:48
Gottman 與 EFT
提到 John Gottman 四十年研究對離婚預測的準確度,以及 Sue Johnson 建立的 EFT,這些經過驗證的方法卻幾乎不存在於現有感情 AI 產品裡。
09:34
高風險場景接不住
一般 AI 分不出「常吵架」和「怕跟對方意見不合」的差別,也接不住可能牽涉家暴、自殺或他殺風險的求助訊號,執業臨床師才受過這種辨識訓練。
10:35
敏感資料沒有保密義務
使用者告訴 AI 的外遇、財務秘密、小孩名字等內容,可能和訓練資料、後端 log 混在一起,不像診間對話受 privilege 保護。
11:43
Maxine 的臨床設計
CoupleWork AI 打造的 Maxine 採用 Gottman Method 與 EFT 框架,偵測到風險字眼就停止教練、轉走安全協定,並把使用者資料當作 privileged 處理。
14:37
先找臨床師再寫 prompt
Tony Fabrikant 說明開發方式是先和臨床師一起定義「好」的標準,寫成大量 TDD 風格的 eval,再靠自己實際使用去感受語氣是否跑掉。
16:12
結語
呼籲在場的 AI 工程師找臨床師合作、用臨床標準要求自己,才能做出真正挑戰使用者成長的 AI。

名詞與人物 8 個

CoupleWork AIClay Cockrell 與 Tony Fabrikant 共同創辦的 AI 感情教練平台。
MaxineCoupleWork AI 打造的 AI 教練,以 Clay Cockrell 的祖母命名。
Gottman MethodJohn Gottman 四十年伴侶研究發展出的治療方法,能高準確度預測離婚。
EFT全稱 Emotionally Focused Therapy,Sue Johnson 建立、以依附理論為基礎的伴侶治療框架。
SycophancyAI 一味迎合使用者說法的傾向,在感情脈絡下被講者視為臨床失效模式。
BetterHelp全球最大的線上心理治療平台,花十年建立起約 35,000 名臨床師的規模。
Clay Cockrell資深 couples therapist,執業逾 30 年,CoupleWork AI 共同創辦人。
Tony FabrikantCoupleWork AI 共同創辦人,負責工程端開發。

提到但沒有展開

  • 演講中引用 Ted Lasso 的台詞「be curious, not judgmental」來說明治療師怎麼提問,但沒有進一步展開。
  • Tony Fabrikant 提到把 agent 跑過 evals「數千次、數萬次」的規模,但沒有說明具體採用的工具或流程。

非官方整理,內容著作權屬原講者與主辦方。筆記是摘要與索引,短引用都標時碼並連回原片,想聽細節請看原影片。

YouTube 播放清單 · 共 12 場、135 個時間軸段落、92 個名詞、53 條雙語金句。