Andrew Hsu 從 Thiel Fellowship 一路講到 Speak 的產品與成本：為什麼不碰 fine-tuning、怎麼賭模型降價、做消費者 AI 為什麼要從使用者出發。
重點
早押 AI，撐過沒起色的幾年。他和共同創辦人在 2015 年前後自學深度學習，認定語音與語言模型會變得超越人類。產品前兩三年改版好幾次都沒起色，2019 年底重做、只專注韓國的英語教學，才開始有用。
模型每跳一階就解鎖功能。Whisper 與 ChatGPT 出現時，他說那正是他們等的時刻。現在最想做的是像真人家教的即時語音，但他認為過去 12 個月這一塊比預期慢，Realtime API 也貴得多。
不碰 fine-tuning，賭成本下降。下一代基礎模型六個月後就會更好，客製模型容易白做。他的說法是 Frontier 模型每 token 的價格大約每 12 到 18 個月掉近 90%，產品要照這個方向設計，所以他們做了依每個 prompt 動態分配模型的路由系統。
從使用者出發，不從模型出發。很多 app 是 model first，新鮮感過了留存就歸零。他舉 Nano Banana 為例，很強，但容易讓人做出只紅一週的產品。
通用助理取代不了垂直場景。他認為需要高產品執行上限、又需要專門化的領域才站得住，語言學習就是；Speak 的教法是練句型和固定片語，反覆操練到自動化，再放進角色扮演。
公司內部全面用 AI，但程式碼要有人看。工程、成長、行銷都用 AI，寫程式的工具他們幾乎都在用，並說 GPT-5 之後的 Codex 比 Claude Code 好。進 production 的每一行仍由人審，招募上他們也收 junior，條件是真的會用這些工具。
時間軸 點時碼從那一段開始
- Thiel 的第一屆2011 年入選 Thiel Fellowship 第一屆，當時在 Stanford 念神經科學博士、正在考慮退學。之後幾年做過幾間沒成的新創和研究，2016 年底、2017 年初才開始做 Speak。
- Speak 的起點他和共同創辦人是室友，約一年自學深度學習，相信 5 到 10 年內會有超越人類的語音與語言模型。前幾年改版好幾次都沒起色，2019 年底重做、只做韓國的英語教學後才開始有用。
- 押注 AI 的依據哈利問是不是有哪篇論文或哪個人讓他們這麼篤定。他答的是請教很多專家、自己訓練模型，Andrej Karpathy 就是其中一位專家；第一版能用的 app 靠語音辨識做輔助口說練習。
- Whisper 與 ChatGPT2022 年這兩個東西出來，他說那就是他們預期的時刻。早期 Whisper 轉得出四個人都聽不懂的初學者錄音；之後產品從輔助的辨識工具變成 LLM 家教，他說過渡很順，每次模型跳一階就解鎖新功能。
- 即時語音家教想做的是像時薪 1,000 美元真人家教的即時語音。他說 ChatGPT 的進階語音玩五、十分鐘很有趣但很快撞牆，發音回饋不夠好，完整體驗還要編排、介面與跨課程的進度規劃。
- 即時 API 的成本Realtime API 比不用原生多模態貴很多，降價也比預期慢。替代做法是語音辨識、LLM、TTS 串起來的 cascaded pipeline，但聽不出聲音裡逐字稿以外的資訊。
- 不碰 fine-tuning成本降得太快，六個月後下一代基礎模型就會更好。他看過公司花超過一百萬美元做 GPT-3.5 Turbo 的客製模型，GPT-4 一出來就被超過。
- 離終極版多遠他的回答是 90 到 95%，大部分技術已經在手邊。他認為就算研究明天全面停擺，應用層還有好幾年可做，缺的是產品執行和單字卡、練習題型等專用介面。
- 語言學習與消費者 AI他說語言學習有點運氣，現在成了消費者 AI 的主要用例之一。哈利講自己做 Chrome 外掛、首批約 1 萬次下載，覺得消費者 AI 很難；他的看法是通用助理不會解決一切，要選需要專門化的垂直場景，並提到 Speak method。
- 別從模型出發很多 app 是 model first 而不是 user first，沒有 PMF，只有來看熱鬧的人，留存歸零。他說模型和程式碼是達成產品能力的手段。
- 早期的安全恐慌2022 年底到 2023 年底大家很怕濫用，他們加了過度敏感的審核，後來又拆掉。他說期待在六個月內整個變了，像 whiplash；現在模型自己就會拒絕和轉移話題。
- GPT-4 與客製功能GPT-4 是第一個能用學習者母語給不錯回饋的模型，他們據此做 AI 角色扮演課。他們是最早拿到 GPT-4 alpha 的公司之一，rate limit 很嚴，得臨時重新設計產品。
- 訂閱與成本曲線定價維持簡單的月訂或年訂，有幾個層級，最高層幾乎無限使用。他的判斷是成本下降這個趨勢該一直押，也得練出估算功能成本的直覺。
- 動態路由模型最強的功能可由最貴的模型驅動，但便宜的主力模型也能做到差一點。他們建了依每個 prompt 動態分配模型的路由系統，並盯著「差價格或能力一點就能上線」的功能，成本過了門檻就推。
- 靜默上限與毛利大廠常見做法是靜默上限，而不是直接擋住。哈利觀察到程式碼工具開始漲價或改點數制；他說自己不知道這類產品的毛利，只聽到傳聞很差。Speak 的使用量理論上有天花板，他們很在意毛利。
- 從痛點出發哈利問怎麼找題目與 PMF。他說要先找到使用者的問題，把模型當工具；不是二選一，仍要極度熟悉前沿模型的能力，但出發點是使用者。
- Nano Banana 的例子他說 Nano Banana 在好幾方面是明顯的進步，但他昨天試，它只照做約一半的指令。看到新能力就做產品，頭一週可能有人用，之後沒有長期價值。
- Speak 的 PMF他說靠的是很多痛苦：app 推出大概三次，2019 年底重新包裝內容並加入課程與循序的 curriculum。解決的是在家大聲練英文又不怕出糗，他形容像私人健身房。
- 公司內部用 AI他們自稱 AI native，工程團隊全力使用，成長與行銷用來做素材，也拿來釐清文件、rubber ducking、做規劃。哈利提到行銷同事用 AI 把他的影片轉成泰語。
- 用哪些寫程式工具Cursor、Devin、OpenAI Codex、Codex CLI、Claude Code 都用。他說 Codex 剛推出不好用，GPT-5 之後是現在最好的，比 Claude Code 好；進 production 的程式碼每一行都要有人審，agent 也需要花功夫搭好 repo 與環境。
- 徵人與期待各層級都在徵，也收 junior，條件是會用這些工具，還要有 founder mentality。他認為期待升高不只對 junior，整個產業都一樣：管理層被拔掉，主管也被期待寫程式；組織扁平化之後，只剩懂技術的第一線主管和帶很多主管的資深總監，中間那層幾乎消失。
- 給 CS 學生的建議他們很難找到會做 AI 產品的人。CS 仍有價值，但他更看重動手做的能力；他說驚訝有不少剛畢業的人連 API 是什麼都不知道。
- 站在浪頭上的心情Speak 已經七、八年，現在是公司史上最振奮也最忙亂的時候。他承認有焦慮，覺得 OpenAI 在 coding agents 上的領先縮水；自己是 techno optimist，也離不開 X。
值得記的話
▶ 29:16「it's more model first than sort of user first, if you will.」
現在很多 app 是從模型出發，而不是從使用者出發
▶ 37:19「you can basically count on the price per token of a Frontier model dropping by like almost 90%. Every 12 to 18 months.」
他說 Frontier 模型每 token 的價格，每 12 到 18 個月可以預期掉近 90%
▶ 45:13「I personally believe that there is so much potential in these models that we have yet to unlock even if all research stopped tomorrow.」
就算研究明天停止，這些模型還有很多潛力沒被開發出來
▶ 49:25「and it might even work for the first week with your users because your users also think that they're cool, but then there's no like enduring value.」
追著新能力做產品，第一週也許有人用，之後沒有長期價值
▶ 1:00:33「I think CS is still valuable. I think the ability to build things is like I would index more on that than the ability to like understand CS theory.」
CS 仍有價值，但他更看重動手做出東西的能力，而不是理解 CS 理論
名詞與人物
- Speak
- Andrew Hsu 與共同創辦人做的語言學習 app，最早在韓國做英語口說練習，現在以 LLM 家教為核心。
- Thiel Fellowship
- Andrew 2011 年入選的第一屆計畫，哈利說明是給 20 多歲的人 10 萬美元，換他們離開學校去做想做的事。
- Speak method
- Speak 的教法：先學句型和固定片語，反覆操練到自動化，再放進角色扮演情境。
- Whisper
- OpenAI 的語音辨識模型，2022 年出現後，Speak 不用再自己訓練模型。
- Realtime API
- OpenAI 的原生多模態即時語音介面；他說好用但貴，降價比預期慢。
- cascaded pipeline
- 語音辨識、LLM、TTS 串起來的做法，是 Realtime API 的替代方案，但抓不到逐字稿以外的聲音資訊。
- PMF
- product market fit，產品與市場契合；他的說法是 Speak 花了好幾年、經過很多學習才走到。
- fine-tuning
- 他不看好的做法，理由是基礎模型進步太快，客製模型很快被超過。
- 動態路由
- 依每個 prompt 與條件把請求分給不同模型的系統，讓產品不綁死單一模型。
- silent cap
- 靜默上限：用量超過預算時不直接擋住，而是在設計上悄悄降低回應，保留彈性。
- Nano Banana
- Google 的圖像模型，他和哈利拿來說明「看到新能力就做產品」的風險。
延伸
- 他說 Speak 接下來幾個月會推出更接近真人家教的即時語音版本，節目沒有談細節。
- 他表示自己對 coding 產品的毛利沒有內部資訊，只聽過傳聞；節目沒有給出具體數字。