哈利逛完 COMPUTEX 後的整理:全場都在講 AI Agent,價值卻還沒真的出現;再從 NVIDIA 的 RTX Spark 談運算為什麼會慢慢搬到個人裝置。
重點
今年的主軸是 AI Agent。哈利回頭數,2024 年大家講生成式 AI,2025 年講 Reasoning Model,2026 年所有人都在講 AI Agent。他的判斷是 Agent 已經可行,但還沒有產生極大價值。
個人端:寫程式最有感,其餘還很難用。他說真的大量用 Coding Agent 的軟體工程師,佔全球人口連 0.1% 都不到。寫程式以外,他自己把行政助理的工作交給 OpenClaw,有用,但門檻高、也常出問題。
企業端卡在阿姆達爾定律。企業買 token 主要為了寫程式,卻看不到明確的投資報酬。哈利認為 Agent 只加速寫 code 這一段,審查、測試、法務這些流程都沒變快,整體自然快不起來。
AI 不是泡沫,但泡沫論會再回來。他預期 Anthropic 成長趨緩加上企業質疑花費,會讓泡沫論重新升溫。他認為企業需要時間導入,而 Anthropic 這種 AI native 公司已經證明生產力可以暴增。
RTX Spark 帶出的問題。NVIDIA 這款 SoC 最高可到 128GB 統一記憶體。哈利更在意的是 Agent 的運算接下來會發生在哪裡,因為現在 Agent 的 AI 大腦幾乎 100% 跑在雲端。
成本會把運算推向邊緣。他認為消費者最在意成本,雲端與地端混用的做法能便宜很多。AI PC 現在像噱頭,其實是在為搬運算做準備;語音介面他預測最早往邊緣走。
時間軸 點時碼從那一段開始
- COMPUTEX 一週哈利整週從早上七點半排到半夜十二點,上了 8 支短影音,還錄了一集訪談美光高層的長節目,預計七月初才會上。
- 黃仁勳的暴風圈創作者猜不到黃仁勳會去哪個攤位,碰到就得暫停拍攝半小時到一小時。哈利覺得今年很多人是來看老黃的,不是來看機櫃。
- 老黃旁邊的 Lex Fridman事後看影片才發現黃仁勳身旁站著 Lex Fridman,手拿 GoPro 在拍 Vlog,哈利覺得很好笑。
- 逛展的價值資訊網路上都查得到,真正的價值是親眼看到機櫃、供電、散熱、銅線與光纖,加上聽 CEO 的 Keynote 掌握產業焦點。
- 年年換主軸2024 年生成式 AI、2025 年 Reasoning Model、2026 年 AI Agent,所有人像串通好了一樣都在講 Agent。
- Agent 還沒產生價值過去半年 AI 從 Chatbot 進入 Agent 時代,但可行只是第一步,中間還有一個 Gap 要縮小。
- 個人端:Coding 價值最大一個禮拜的專案現在兩小時就能完成,但大量使用的工程師不到全球人口的 0.1%。
- Agent 當行政助理原本花四萬塊請的行政助理,工作改交給自己的 OpenClaw,連 COMPUTEX 的行程與三人的行前報告都靠它整理。
- 門檻高、還會出包要知道這能力存在、準備一台空電腦、處理資安;報告漏了一支影片,OpenClaw 也常整台當掉。
- 企業端:Token Maxing 與 ROI企業買 token 給員工寫 code,Uber 今年才四個月就花光整年 AI 預算;Uber COO 說看不出用量與功能或生產力的關聯,每人每月上限改成 1500 美元。
- 泡沫論又要回來股市瘋狂奠基於 Agent 的 Promise,Anthropic 營收每月 double 再 double;哈利預期成長趨緩加上 ROI 質疑會引爆泡沫論,他自己想買兩家的 IPO。
- 阿姆達爾定律哈利的邏輯是 AI 不是泡沫,個人端看得到價值;企業端看不到,是因為只有寫 code 被加速,產品定義、code review、測試、法務這些流程都沒變;連 Andrej Karpathy 都說自己還用不好 Agent。
- AI native 公司Anthropic 把產品開發流程以 AI 為中心設計,新功能以天甚至小時推出;哈利同意馬斯克說的,要等各行各業的 AI native 公司出現,逼大家轉型。
- IPO 的提醒Anthropic、OpenAI、SpaceX 上市讓一般人能參與,但哈利提醒 IPO 股票波動大,要自己小心。
- RTX Spark 與統一記憶體NVIDIA 把 ARM CPU、GPU 與記憶體做在同一顆 SoC,最高 128GB 統一記憶體,哈利說定位是個人 AI Workstation,思路和高通的手機晶片路線不同。
- Agent 的運算在哪裡現在連 Mac mini 上的 Agent 也只是跑 Harness,模型用的是雲端的 Claude 或 GPT;展場的地端 Demo 他說是硬要。
- 成本會推動搬到邊緣消費者最在意成本;高通 Keynote 比較兩種做法,雲端加地端混用的成本差四倍。哈利說月付 2000 塊台幣沒人訂,500 塊就有機會。
- Sweet Spot 在哪到底多少運算會搬、需要什麼規格還沒人知道,他隨便假設可能是 64GB 統一記憶體,整個 PC 產業還在摸索。
- 語音介面先上邊緣哈利預測 Agent 的語音介面一定會往邊緣走,除了成本,延遲與隱私也有意義,在裝置上才做得到真正即時的互動。
值得記的話
▶ 12:22「AI Agent 現在是還沒有開始產生極大價值的」
▶ 26:19「你加速其中一個部分,但是其他部分沒有加速的話還是會把你整體的速度給卡住」
▶ 38:46「你真的有看過任何一個人現在是因為一臺筆電可以跑 32 B 的模型而去買它嗎」
▶ 43:07「在落地的時候成本就會開始越來越重要了」
▶ 44:13「所以不要說 AIPC 是騙人的東西,AIPC 是在展望未來,為未來做準備」
名詞與人物
- OpenClaw
- 哈利用來當行政助理的 AI Agent,他也叫它「龍蝦」,自己的那一隻取名 Jiro
- Harness
- 包住模型、讓它能當 Agent 運作的軟體;Mac mini 上跑的就是這一層
- Token Maxing
- 過去半年的風氣:比誰用的 token 多,代表公司越 AI native
- 阿姆達爾定律
- 只加速系統的某一部分,整體速度仍被其他步驟卡住
- AI native
- 從一開始就以 AI 為中心設計產品開發流程的公司,哈利舉 Anthropic 為例
- RTX Spark
- NVIDIA 發表的消費端 SoC,整合 ARM CPU、GPU 與記憶體
- 統一記憶體
- CPU 與 GPU 共用的記憶體池,省掉資料在 VRAM 與系統記憶體間搬運
- distributed AI
- 高通的說法,雲端與地端混合運算
- AI PC
- 哈利認為是為未來搬運算而預先鋪好的硬體,不是騙人的東西
- Lex Fridman
- 知名 podcaster,哈利在 COMPUTEX 影片裡看到他跟在黃仁勳旁邊
延伸
- 哈利提到這週錄了訪談美光高層的長節目,預計七月初上架。
- 語音介面那段,他說類似前幾集介紹過的 Thinking Machines 最新的 Interaction Model。