這一年 AI 的架構與賽局全貌

兩人都不認為哪一方能靠技術長期領先，真正的差距在預算與硬體；Anthropic 靠死磕程式碼打出差異化。

品牌記憶與長文本理解力各有優勢，兩人形容選哪個模型是「用到它出包才會換」，跟換瀏覽器一樣。

Codex 像是可控的助手，Claude Code 更像放手讓它做整個專案；後者也被視為練習用英文寫程式的方式。

中國團隊開源主要是為了讓全世界用得到自家模型，美國團隊則受限於授權條款與商業考量，動作明顯保守。

從 GPT-2 到今天，模型骨架其實沒有本質改變，真正的進步來自訓練方法與系統工程的堆疊。

預訓練還沒到極限，只是太貴；真正划算的錢現在花在讓模型多想一下（推理時間）與強化學習上。

資料品質比數量重要，但訓練資料的授權爭議正在變成真金白銀的官司，Anthropic 就為此賠了 15 億美元。

開源維護者被疑似 AI 生成的 PR 淹沒；摘要工具抹掉的往往正是文章裡最有洞見的那句話。

真實案例顯示使用者對模型產生情感依賴，公司為了規避風險只能讓模型越來越「安全無害」，卻也讓對話失去深度。

只給題目和答案，模型自己摸索出一步步的解法，還會出現自我糾錯的「aha moment」；但也有人質疑這只是資料污染造成的假象。

中訓練打底、RLVR 靠海量試錯解鎖技能、RLHF 負責收尾打磨風格；RLVR 的算力需求還在一路往上衝，RLHF 卻有天花板。

與其啃 Hugging Face Transformers 這種為了通用而寫得極複雜的函式庫，不如自己刻一個能對照官方權重驗證的簡化版本。

進大廠拿的是高薪但署名權少，留在學界能建立個人品牌但資源緊；新創是高風險高報酬的第三條路。

高強度競爭文化確實推動了進步，但代價是研究者的健康與婚姻；泡泡本身能帶來生產力，也可能讓人脫離現實。

用「填空」取代逐字生成，理論上能一次吐出整段程式碼修改，適合需要長且快的場景，但工具呼叫中斷的問題還沒解。

把大任務拆成多個子任務分別叫用語言模型解決，反而比一次塞進超長上下文更準；開源模型在工具整合上明顯落後閉源產品。

幫每個人真的更新模型權重太貴，目前多半靠塞長上下文或 LoRA 做局部微調，兩者都有「學多少、忘多少」的取捨。

機器人要落地家庭場景必須做到幾乎零失敗率，兩人對居家機器人偏保守，反而看好倉儲自動化與自動駕駛這類受控場景。

AI 2027 報告把「超人類工程師」的預測從 2027 年一路修正到 2031 年；兩人都認為模型能力會一直參差不齊，不會有單一門檻時刻。

目前還看不到 AI 帶來的 GDP 跳升，但兩人認為真正的影響是讓全世界的人都能低成本取得高品質知識，這個效應很難量化卻影響深遠。

Grok、Cursor 這類公司隨時可能被高價併購，中國的 MiniMax、Z.ai 已在申請上市，但美國幾家龍頭因為募資太容易，暫時不會走向 IPO。

Llama 4 為了衝榜單犧牲了原本「人人可用」的定位，反而兩頭落空；這也是 Nathan Lambert 投入 ATOM Project、推動美國開源模型的原因。

NVIDIA 的護城河其實是 CUDA 生態而非晶片本身；兩人也談到 Jensen Huang、Ilya Sutskever、Dario Amodei 這類關鍵人物對技術走向的加速作用。

百年後能被記住的大概只剩「運算」這個大方向，細節的晶片與程式語言都會被遺忘；但人對在地社群與真實連結的需求預期不會變。

兩人都提醒不要用 GDP 數字掩蓋個人失業的真實痛苦；對未來仍然樂觀，理由是人類歷史上總能找到辦法，AI 也逼著我們重新理解自己。

被問到人機對抗的未來時，兩人都認為只要是人類在下指令，AI 就搶不走人的主導權，這也是他們不特別擔心「AI 造反」的原因。