全部場數

008 · 把語氣管理拆成四層架構

把 AI 語氣管理拆成身分、情境、語氣、事後把關四層,系統要像帶新人一樣持續盯著,不是寫死規則就沒事。

2026-06-2620:56Isadora Martin-Dye(Isadora & Co)Agent開發工具安全看原片

原標題:Stop Writing Tone Instructions. Layer Them. - Isadora Martin-Dye, Isadora & Co

重點摘要

  • 不是機器人是實習生把 AI 想成聰明但沒 EQ 的新人,規則寫完不能就放著不管,還要持續盯著它會不會講錯話。
  • 一個 prompt 做不了四件事身分、情境、語氣、事後檢查擠在同一份 system prompt 裡,注定在沒被預期到的對話裡出包。
  • 硬規則永遠優先哪些話品牌絕對不能講(例如假裝自己是真人),必須寫成不能被下層設定或使用者要求覆寫的規則。
  • 語氣要看人下菜同一套身分,對協調人跟對新人給的答案完全不同,語氣判斷還要看這個人正在經歷什麼事。
  • 事後否決是唯一的防線前三層都是在對模型下指令,只有讀完輸出後再做一次擋下或放行的檢查,才抓得住模型自信地講錯事實。

時間軸

時碼點下去會跳到影片的那一段。

時碼段落重點
00:00開場自介講者經營維吉尼亞一間 225 年歷史的婚禮會場,同時開發跟新人對話的 AI agent 與協尋失蹤者的公用工具,主張自己是在管理一個聰明但沒 EQ 的實習生,而不是寫死規則的機器人。
01:03標準做法失靈寫詳細 system prompt 加範例的做法在「happy path」內有效,但到了沒被預期過的第 21 輪對話,就會產出技術正確、卻完全不像品牌會講的話。
02:09四層架構登場一個 prompt 同時要做情境判斷、表達語氣、自我檢查四件事太勉強,因此拆成四層,各自負責一個工作。
03:15重構前後對照舊系統有 24 個散落各處的 system prompt,部分命名 Sage、部分沒有名字,現在整合成單一組裝入口,順序固定:硬性規則優先,任務類指令最後。
04:59Layer 1:不可變身分這層放的是品牌絕對不能說的話,規則不可被場地設定或使用者指令覆寫,是整套架構最上位、不會變動的部分。
05:16主動揭露是 AI系統要求 AI 一被問到是不是真人,就要在下一句話明確承認自己是 AI,而且做法是一開口就先講、不等對方問,理由是及早坦白比之後被發現更能建立信任。
06:07不能假裝有肉身AI 不能說「我很期待見到你」這類暗示自己有身體的話,只能說團隊會親自接待,因為使用者一旦發現自己在跟不存在的人培養關係,信任會整個崩掉。
07:11Threadline 的禁詞同一套架構套用在協尋失蹤者的工具 Threadline 上,Layer 1 禁止 AI 使用「confirmed」「matched」等字眼,因為對等待多年的家屬來說,這種用詞的殺傷力遠大於語氣不對。
08:18Layer 2:情境模式同一個 AI 跟新人與跟場地協調人講話要用不同語氣,對協調人像同事一樣談趨勢與預測,對新人絕不能用同樣直接的方式拒絕。
09:43語氣先於數字系統設計上會先用軟性情境資訊(例如新人正在經歷親人重病)決定語氣,再套用數字規則,順序反過來會讓文字讀起來機械化。
11:41Layer 3:語氣指南的極限大部分團隊只做到這層就停手,把語氣指南想成新人第一天拿到的入職手冊,能教會 AI 什麼叫「像我們」,卻無法規定絕對不能講的話,也抓不到生成後的錯誤。
13:08Layer 4:事後否決這是唯一會讀 AI 實際輸出內容的層,分成軟性攔截(抓沒有正面回答、過度保證、洩露隱私)跟硬性擋下(抓憑空生成的數字或事實)兩種,也是整套架構裡唯一不是用 prompt 寫成的部分。
14:22案例:承諾已被訂走的日期這層是後來才加的,起因是 AI 曾溫暖地跟新人說願意保留某個十月的週六,但那天其實已被訂走,講者才意識到語氣溫暖但講錯事實,比冷淡但正確更糟。
16:23多場地架構與外洩事故Layer 1 對所有場地共用,Layer 2、3 才依場地調整,但曾因品牌識別欄位沒設必填,導致新場地預設用了另一個場地的名字對外發信,結論是識別資訊缺失時系統要直接報錯,不能悄悄套用預設值。
19:15檢討與未來方向講者認為事後否決層該獨立成一個共用服務,不要分散寫進每個介面,也提到現在用規則比對而非分類器抓問題輸出,是刻意選擇「準確可預期」而非「涵蓋更多情境」的取捨。

值得記的話

名詞與人物

Bloom講者建立的婚禮會場 AI 對話平台,同一套四層架構套用在不同場地上。
Threadline講者做給失蹤者家屬用的公用工具,套用同一套架構,但語氣與風險完全不同。
Layer 1(immutable identity)品牌絕對不能被覆寫的硬性規則層,例如禁止 AI 假裝自己是真人。
Layer 4(post-generation veto)唯一會讀取 AI 實際輸出內容、決定放行或擋下的層。
Sage早期系統裡某個 AI 角色的名字,曾因識別欄位沒填而外洩成其他場地的預設身分。

延伸

  • 講者提到考慮把 Layer 4 的軟性攔截從規則比對換成分類器,但目前選擇規則比對的確定性,沒有進一步展開評估過程。
  • 講者提到 Layer 2 的情境判斷目前仍是各介面自行決定要不要載入哪些資訊,還沒有做成統一的條件判斷器。