把主觀領域拆成模型學得會的題目

073Thais Castello Branco（Taste Labs）16:302026-07-31 上架

Ending AI Slop — Thais Castello Branco, Taste Labs

Taste Labs 創辦人 Thais 講為什麼模型寫不好、設計不好：能驗證的拉進 RL 環境，剩下的交給專家的判斷與高品質資料，並避開收斂到平均值。

這場講了什麼

• 能力跟著可衡量性走：Thais 認為模型寫程式強，是因為程式碼本身能拆解、驗證、執行，這是程式碼的性質，不是模型的。設計與寫作的問題正是不知道怎麼拆、怎麼驗、怎麼判斷好壞。
• 把模糊的題目拆成可驗證的：「好設計」要看對誰、什麼情境、什麼年代。以品牌為例，把顏色、字體、動態、質感拆開，就有了可以對照的 ground truth，比直接叫 LLM 當評審可靠。
• 平均值不等於最佳解：模型預測最可能的輸出，2 加 2 這類題目沒問題；寫作與設計裡，好東西多出在分布的兩端，收斂到平均就是大家覺得到處是 slop 的原因。
• 像路由一樣分配方法：一個大而模糊的問題拆成小塊後，每一塊各自判斷該用環境、後訓練資料，還是人類判斷。Thais 說只帶走一件事的話，就是這個路由的想法。
• 偏好資料不能湊成一個平均：不同人喜歡不同風格，彼此不同意不代表資料錯。要知道是誰、喜歡什麼、為什麼、什麼時候，再把偏好向量接到資料上。
• 資料品質靠流程控制：嚴格篩選專家、看專家的說明夠不夠具體、把評語對應到程式碼元件，再有意識地使用專家共識。Thais 主張寧可少而精，不要大量雜訊資料。

影片從哪一段開始看15 段

1. 00:12Taste Labs 的任務Thais 說公司幾週前才從 stealth 出來，目標是終結 AI slop。要解決它得先拆解、理解主觀領域，公司想做的是這一塊的資料與基礎設施層。
2. 01:14兩種合作對象一邊跟頂尖的 frontier lab 找出模型哪裡壞掉、該做成環境還是後訓練資料；一邊跟應用層公司處理不該在基礎模型層解決的事，例如脈絡與使用者意圖。
3. 02:03主觀領域為什麼難世界上多數事沒有單一正解，也難定義何謂好。程式碼強是因為程式碼可驗證；Thais 提出第一個原因：能力跟著可衡量性走。
4. 03:25「好設計」要先問清楚好不好取決於對哪種人、哪種品味、哪種情境，而且標準會隨年代變，這點跟程式碼與數學不同。
5. 04:28品牌是可拆解的例子用 coding agent 做內部儀表板或頁面時，公司既有的品牌規範是現成的祕密武器；「做出 on brand 的東西」比「做出很棒的東西」好定義。
6. 05:46品牌變成 RL 環境LLM as a judge 有 reward hacking 與幻覺問題，所以把品牌拆成元素當 ground truth；任務設計本身最難，輸出不該只跟原稿比，而要依拆解的規則評分。
7. 06:50從客觀到創意的光譜設計裡的對齊、字體接近客觀，創意則難衡量，所以整件事是個路由問題：拆成小塊，各找最適合的解法。
8. 07:30收斂到平均值第二個原因：模型預測最可能的結果並當成最佳解，這對 2 加 2 成立，對寫作與設計不成立；好作品常出現在打破規則的分布兩端。
9. 08:47用資料而非環境不易驗證的部分改以人類偏好與判斷的資料解決；Thais 提到合作的設計師社群有超過 1,000 位專家，刻意把分布拉回來。
10. 09:21把問題往驗證那邊拉越能用程式驗證越適合 RL，越靠脈絡、時間與偏好就越需要人類判斷。品牌遵循本身很難，交給人判斷比 LLM 評審好；但拆出哪些元素重要、變成可觀察可衡量的東西，就能把它拉向驗證那一邊。
11. 10:42偏好資料的多元性過去的偏好資料來自不明身分的人，混在一起就收斂到平均；Thais 主張世界是多重偏好，要替人建立偏好向量並附在資料上。
12. 11:46資料品質靠哪些可控的事買資料或自己整理都很難判斷什麼才有用；可控的是問題拆解、貼近真實的分布，以及嚴格的專家篩選。
13. 12:51資料的 QA用語具體與否能預測資料品質；若能把專家對頁面的評語對應到程式碼的某個元件，資料就更乾淨、更少雜訊。
14. 13:58人工 QA 與共識專家在對齊這種客觀項目上意見不一，才是資料有問題；在美感上意見不一，反而代表人的喜好真的有差異，是好資料。
15. 15:31質重於量主觀領域要少而精：由品味高的人做出的高品質資料，效果遠勝大量沒有目的的雜亂資料。

值得記的話5 句

• Code is something that decomposes, it verifies, it executes, and so it makes it a lot easier for us to be able to train on these domains.程式碼能拆解、能驗證、能執行，所以在這些領域上訓練容易得多02:35

• a lot of greatness and creativity happens, actually, at the ends of the distribution.許多偉大與創意的成果，其實出現在分布的兩端08:00

• So this routing logic, as I would say, if you have one takeaway, take this away.如果只能帶走一件事，就帶走這個路由的想法10:09

• It means that we need to fundamentally understand that the world is multi-preference.我們得從根本理解，這個世界有多種偏好11:14

• I would advocate for a quality over quantity approach.我主張質重於量15:31

名詞與人物7 個

Taste Labs

Thais 創辦的公司，幾週前才從 stealth 出來，目標是終結 AI slop

AI slop

模型輸出千篇一律、品質平庸的內容；Thais 把原因歸為收斂到平均值與重複

collapse to the mean

模型傾向給最可能的輸出，在主觀領域裡把結果壓回平均、失去分布兩端的好作品

LLM as a judge

用 LLM 當評審打分數；Thais 指出它有 reward hacking 與幻覺的問題，不一定是好方法

ground truth

把模糊任務拆解後得到的可對照標準，例如品牌的顏色、字體、動態、質感

preference vector

Thais 提的做法：替每個人建立偏好向量並附到偏好資料上，保留多元偏好而不是混成雜訊

Reducto

Thais 拿它的品牌當拆解範例，因為喜歡它的網站

提到但沒有展開

• Taste Labs 押注的是一個突然有數十億非專家在創作的世界，所以理解使用者意圖與脈絡，跟讓模型進步一樣重要；這一塊他們跟 agent 與應用層公司合作，不在基礎模型層解決。
• 研究端往往拿不到「到底是哪個因素造成這個結果」的回饋，所以 Taste Labs 專注在自己能完全衡量的資料品質上。

模型評估研究

在 YouTube 看原片 ↗