OpenClaw 的安全壓力與維護現場

概要

• 成長快，維護人手跟不上Peter 說專案才五個月，已有約 30,000 次 commit、將近 2,000 位貢獻者；加入 OpenAI 又成立了基金會，等於有兩份工作，目標之一是改善 bus factor，也就是看「誰在 commit」。
• 安全公告多到像被 DDoS累計 1,142 份公告、平均每天約 16.6 份、其中 99 份標為 critical。Peter 的判斷法是：喊得越兇、越說自己嚴重，越可能是垃圾報告。
• 高分漏洞不等於實際風險例如一份 CVSS 10 的案例，在建議的安裝方式下幾乎碰不到。真正的風險 Peter 認為是 lethal trifecta，其中包括能接觸不受信任的內容、又能對外溝通。
• 讓企業出人，而不是被收購Peter 否認「OpenAI 買下 OpenClaw」，說 OpenAI 要的是更多人接觸 AI，另外也找了 NVIDIA、Microsoft、Red Hat、Tencent、ByteDance 等公司的人進來維護，並用基金會維持中立。
• 不走全自動的 dark factoryPeter 認為好軟體不是一開始就想清楚再蓋出來，要邊做邊玩、邊改 prompt。瓶頸在於判斷方向與品味，不是產出速度。
• 本地資料與無所不在的 agentPeter 做 OpenClaw 的動機之一是資料留在自己手上，想像的未來是任何房間都能呼叫 agent，個人的 claw 與公司的 claw 還要能安全地互通。

原話

• “the higher they are screaming, how critical they are, the more likely it's slop.”

  喊得越兇、越說自己多嚴重，越可能是垃圾報告

  ▶ 04:56

• “if anyone can talk to your agent, they can exfiltrate anything that the agent can do”

  任何人能跟你的 agent 對話，就能把 agent 做得到的事全部外洩出去

  ▶ 11:10

• “Sometimes you go a little bit off track and then you see something new that inspires you”

  有時候你會稍微偏離路線，然後看到新東西得到靈感

  ▶ 27:17

• “The very low level of taste is if it doesn't stink like AI, and you know exactly what I mean.”

  品味的最低標準，是東西聞起來不像 AI，你一定懂我的意思

  ▶ 28:42

• “I think a skill that is becoming more and more important is saying no.”

  我認為越來越重要的一項能力是說不

  ▶ 42:27

延伸

• Peter 說那篇論文略過的安全文件寫的是：個人 agent 不要放進群組聊天，要放就開 sandbox；團隊用的 agent 只該知道團隊能知道的事。
• swyx 在 prompt injection 那段提到，這個詞是 Simon Willison 創的，dual LLM 的做法看起來聰明，但自己也想不透它會被怎麼攻破。