008 · 把語氣管理拆成四層架構
把 AI 語氣管理拆成身分、情境、語氣、事後把關四層,系統要像帶新人一樣持續盯著,不是寫死規則就沒事。
原標題:Stop Writing Tone Instructions. Layer Them. - Isadora Martin-Dye, Isadora & Co
重點摘要
- 不是機器人是實習生把 AI 想成聰明但沒 EQ 的新人,規則寫完不能就放著不管,還要持續盯著它會不會講錯話。
- 一個 prompt 做不了四件事身分、情境、語氣、事後檢查擠在同一份 system prompt 裡,注定在沒被預期到的對話裡出包。
- 硬規則永遠優先哪些話品牌絕對不能講(例如假裝自己是真人),必須寫成不能被下層設定或使用者要求覆寫的規則。
- 語氣要看人下菜同一套身分,對協調人跟對新人給的答案完全不同,語氣判斷還要看這個人正在經歷什麼事。
- 事後否決是唯一的防線前三層都是在對模型下指令,只有讀完輸出後再做一次擋下或放行的檢查,才抓得住模型自信地講錯事實。
時間軸
時碼點下去會跳到影片的那一段。
| 時碼 | 段落 | 重點 |
|---|---|---|
| 00:00 | 開場自介 | 講者經營維吉尼亞一間 225 年歷史的婚禮會場,同時開發跟新人對話的 AI agent 與協尋失蹤者的公用工具,主張自己是在管理一個聰明但沒 EQ 的實習生,而不是寫死規則的機器人。 |
| 01:03 | 標準做法失靈 | 寫詳細 system prompt 加範例的做法在「happy path」內有效,但到了沒被預期過的第 21 輪對話,就會產出技術正確、卻完全不像品牌會講的話。 |
| 02:09 | 四層架構登場 | 一個 prompt 同時要做情境判斷、表達語氣、自我檢查四件事太勉強,因此拆成四層,各自負責一個工作。 |
| 03:15 | 重構前後對照 | 舊系統有 24 個散落各處的 system prompt,部分命名 Sage、部分沒有名字,現在整合成單一組裝入口,順序固定:硬性規則優先,任務類指令最後。 |
| 04:59 | Layer 1:不可變身分 | 這層放的是品牌絕對不能說的話,規則不可被場地設定或使用者指令覆寫,是整套架構最上位、不會變動的部分。 |
| 05:16 | 主動揭露是 AI | 系統要求 AI 一被問到是不是真人,就要在下一句話明確承認自己是 AI,而且做法是一開口就先講、不等對方問,理由是及早坦白比之後被發現更能建立信任。 |
| 06:07 | 不能假裝有肉身 | AI 不能說「我很期待見到你」這類暗示自己有身體的話,只能說團隊會親自接待,因為使用者一旦發現自己在跟不存在的人培養關係,信任會整個崩掉。 |
| 07:11 | Threadline 的禁詞 | 同一套架構套用在協尋失蹤者的工具 Threadline 上,Layer 1 禁止 AI 使用「confirmed」「matched」等字眼,因為對等待多年的家屬來說,這種用詞的殺傷力遠大於語氣不對。 |
| 08:18 | Layer 2:情境模式 | 同一個 AI 跟新人與跟場地協調人講話要用不同語氣,對協調人像同事一樣談趨勢與預測,對新人絕不能用同樣直接的方式拒絕。 |
| 09:43 | 語氣先於數字 | 系統設計上會先用軟性情境資訊(例如新人正在經歷親人重病)決定語氣,再套用數字規則,順序反過來會讓文字讀起來機械化。 |
| 11:41 | Layer 3:語氣指南的極限 | 大部分團隊只做到這層就停手,把語氣指南想成新人第一天拿到的入職手冊,能教會 AI 什麼叫「像我們」,卻無法規定絕對不能講的話,也抓不到生成後的錯誤。 |
| 13:08 | Layer 4:事後否決 | 這是唯一會讀 AI 實際輸出內容的層,分成軟性攔截(抓沒有正面回答、過度保證、洩露隱私)跟硬性擋下(抓憑空生成的數字或事實)兩種,也是整套架構裡唯一不是用 prompt 寫成的部分。 |
| 14:22 | 案例:承諾已被訂走的日期 | 這層是後來才加的,起因是 AI 曾溫暖地跟新人說願意保留某個十月的週六,但那天其實已被訂走,講者才意識到語氣溫暖但講錯事實,比冷淡但正確更糟。 |
| 16:23 | 多場地架構與外洩事故 | Layer 1 對所有場地共用,Layer 2、3 才依場地調整,但曾因品牌識別欄位沒設必填,導致新場地預設用了另一個場地的名字對外發信,結論是識別資訊缺失時系統要直接報錯,不能悄悄套用預設值。 |
| 19:15 | 檢討與未來方向 | 講者認為事後否決層該獨立成一個共用服務,不要分散寫進每個介面,也提到現在用規則比對而非分類器抓問題輸出,是刻意選擇「準確可預期」而非「涵蓋更多情境」的取捨。 |
值得記的話
名詞與人物
| Bloom | 講者建立的婚禮會場 AI 對話平台,同一套四層架構套用在不同場地上。 |
|---|---|
| Threadline | 講者做給失蹤者家屬用的公用工具,套用同一套架構,但語氣與風險完全不同。 |
| Layer 1(immutable identity) | 品牌絕對不能被覆寫的硬性規則層,例如禁止 AI 假裝自己是真人。 |
| Layer 4(post-generation veto) | 唯一會讀取 AI 實際輸出內容、決定放行或擋下的層。 |
| Sage | 早期系統裡某個 AI 角色的名字,曾因識別欄位沒填而外洩成其他場地的預設身分。 |
延伸
- 講者提到考慮把 Layer 4 的軟性攔截從規則比對換成分類器,但目前選擇規則比對的確定性,沒有進一步展開評估過程。
- 講者提到 Layer 2 的情境判斷目前仍是各介面自行決定要不要載入哪些資訊,還沒有做成統一的條件判斷器。