從 token maxing 看軟體工程的轉變

概要

• token maxing 變成公司文化Gergely 說從 Meta、Microsoft 等公司的人那裡聽到，內部有排行榜或能查同事的 token 用量，工程師怕墊底就刻意灌用量。Salesforce 則有每月最低花費目標，印象中大概是 175 美元。
• 績效考核會不會看Gergely 訪談的 Meta 主管說，績效評估裡有這個資料點，只是眾多資料點之一，但有時會被拿出來用，也可能被拿來當武器。
• 源頭是領導層想推 AIGergely 的看法是，這些衡量來自領導層希望工程師多用 AI。例子是 Coinbase 的 Brian Armstrong，發信要求大家上手，一週後就開除了一位工程師。
• AI 很難練到好Gergely 認為有兩件事讓工程師不好適應，一是要花很長時間、持續練習才會好，二是懂底層原理不會讓你更會用。就觀察所及，收穫比較大的團隊都是自我意識低、願意放下舊經驗的。
• 角色更寬、團隊更小Gergely 說測試與 DevOps 已經併進軟體工程師，產品角色也在跟進；但不認同「每個人都變工程經理」，覺得比較像 tech lead 帶人，卻不必處理人的問題。
• 大公司都在自建 infraGergely 觀察到 Uber、Airbnb 等公司內部大量自建 AI 工具，並歸納出幾個原因，最後用 Shopify 的例子說明為什麼提早投入值得。

原話

• “Understanding the theory will not make you better at using the tools”

  懂理論不會讓你更會用這些工具

  ▶ 11:39

• “the teams I'm seeing getting more value out of it, low ego, open to learning, open to leaving your priors behind”

  我看到從 AI 得到更多價值的團隊，都是自我意識低、願意學習、願意放下舊有想法

  ▶ 12:12

• “you are a manager without all the things that no one wants to become a manager for”

  你是個沒有那些讓人不想當 manager 的麻煩事的 manager

  ▶ 15:08

• “it's a low-risk way to get good with AI, to be hands-on”

  這是讓自己熟悉 AI、親手實作的低風險做法，Gergely 講的是大公司自建內部平台的原因之一

  ▶ 18:44

• “If you're at a large company and you're not already building an MCP gateway, what are you even doing?”

  如果你在大公司卻還沒在做 MCP gateway，你到底在做什麼？

  ▶ 19:52

延伸

• 主持人提到明天有關於 MCP gateway 與 AI 架構的場次，這場沒有展開細節。
• Gergely 提到自己的下一集 podcast 會訪 Shopify 的 CTO，這場沒有多談。
• DHH 的 mech suit 比喻是 Gergely 轉述的，出自自己前一天剛上線的那集 podcast。