重點摘要

架構把安全放兩端　輸入、輸出兩層 guardrail 包夾核心的 SonderCore，各自用獨立的 LLM 判斷是否要介入，模組化設計讓核心能持續迭代，又不必每次重新驗證整套安全機制。

抓對而非抓多　一般 LLM 的 guardrail 太保守，誤觸發對正在求助的使用者來說像被甩門；SonderMind 用主動危機、過去創傷揭露、一般情緒議題三種情境，校準出不同的介入方式。

臨床人員定義對錯　對話會被追蹤下來，交由臨床人員標註「應有的處置」，轉成含期望結果與分類的 eval，之後每次模型或 guardrail 異動都要通過這些由人定義的判準，而不是系統自行認定。

也要防止過度緊張　除了不能漏接風險，也要避免系統比人還容易恐慌；做法是讓臨床專家定義「正確」、用具體問題檢驗每個標註情境，並把它們變成上線前必須通過的關卡。

開源共用的安全基準　認為這類挑戰不是單一公司獨有，因此釋出 200 筆輸入 guardrail 與 100 筆輸出 guardrail 情境供業界參考，但強調這不能取代自己建立學習迴圈。

值得記的話

when you inappropriately guardrail on somebody, then that can often feel like a door slam to the face.

guardrail 誤觸發，對正在求助的人來說像被當面甩門

06:14

And so we were not going for more triggers here, we're going for more correct triggers.

重點不是觸發次數多，而是每次觸發都要正確

06:32

That's the key move here is that our system isn't deciding what correct is in a clinical edge case like this one.

這種臨床邊界案例裡，什麼才是對的不是系統自己決定

11:35

So, false positives matter, false negatives matter, the category matters, the timing matters. We catch what matters, and that's designing with the human as the center node.

假陽性、假陰性、分類、時機都重要，要抓的是真正關鍵的失誤

15:18

So this is the most rigorous way that we know to do something that's actually very old, and that's to be there for someone at their lowest point and provide safe care and let them know they are not alone.

這是他們所知最嚴謹的方式，去做一件很古老的事：陪一個人度過最低潮，讓他知道自己並不孤單

17:04

時間軸　12 段

名詞與人物　8 個

提到但沒有展開

• SonderMind 開源的 200 筆輸入 guardrail、100 筆輸出 guardrail 資料集，這場提到可用投影片上的 QR code 取得，但沒有進一步說明存取方式或授權條件。
• 提到有「annotation extraction script」能觸發並整理待討論的案例報告，但沒有展開技術實作細節。
• 問答提到 Anthropic、OpenAI 等前沿模型內建的 guardrail 過度保守，SonderMind 第一天就關閉改用自建機制，但沒有說明技術上如何關閉或替換。