Material Security

038 · LLM 時代的資安攻防

36:22YouTube 上架 2023-10-26Ryan Noon（Material Security）

No Priors Ep. 38 | With Material Security Co-Founder Ryan Noon

Ryan Noon 談 LLM 對資安攻防的影響、資安市場為何由大廠主導，以及給新創創辦人的建議：選大市場、先把團隊顧好。

038 講了什麼

• 從保護 Gmail 帳號起家2016、2017 年前後，已經離開 Dropbox、住在歐洲的 Ryan 看到選舉期間 Gmail 帳號一個個被公開，用 Gmail API 寫出保護個人帳號的新做法，後來發現那只是一種更大思路的特例，Material 就從這裡長出來。
• 假設壞人已經進來Material 的第一個產品會找出信箱裡的敏感資料，遮掉、換成乾淨的副本，帳號被整包下載也拿不到好東西；自己需要時，多一道 Face ID 或 Touch ID 就能取回。Ryan 說核心概念是 defense in depth。
• LLM 先用在整理雜訊Ryan 說團隊很早就拿 LLM 試資安工作，第一個上線的用途是把信號整理出來、濾掉雜訊，再交給有經驗的人判斷。
• 攻擊方的門檻變低Ryan 舉假冒聲音的電話、冒充 CEO 傳簡訊給新員工為例，認為現在的詐騙信連文法都不對，光是用現成的開源 LLM 檢查拼字就會有明顯差別；也說以前要一屋子人做的事，現在一個人加一個 for loop 就夠了。
• 資安市場為什麼由大廠主導Ryan 引用 market for silver bullets 的說法，買方很難驗證產品有沒有效，於是通路和打包銷售的大廠佔優勢；但仍認為新創有空間，LLM 也能處理大量日誌解析這類舊工作。
• 給創辦人的建議Ryan 說別去煩惱 Gartner 的分類，先做出大家都該買的東西；團隊是地基，市場越大越能容錯。主持人補充，產業早期不必挑最難的題目做。

從哪一段開始看14 段

1. 00:02開場與創辦緣由主持人介紹 Ryan 是 Material Security 的共同創辦人暨董事長。Ryan 說公司約 2016、2017 年起步，起因是選舉期間 Gmail 帳號接連外洩，自己寫了保護帳號的程式。
2. 01:52Material 的產品賣給中型以上、用 Google Workspace 與 Office 365 的公司。先處理信箱裡的敏感資料，再擴到防釣魚與帳號接管，核心概念是假設壞人已經進來。
3. 04:58早期用 LLM 做資安Ryan 說 LLM 內建不少資安領域知識，第一個上線的用途是整理信號、濾掉雜訊，再交給有經驗的人判斷。
4. 06:49需不需要 fine-tune主持人問要不要補專屬資料。Ryan 說現成模型就夠用，許多 18 個月前很難的事現在很容易，並提到市面上有不少人為了「假裝有護城河」而做 fine-tune。
5. 07:52攻防與實際應用攻擊方也在用，所以防守方需要資安 LLM 公司。Ryan 認為最有意思的往往是小型的資安工程師專案，例如分析 npm 套件與程式碼裡外洩的敏感資訊。
6. 09:58最大的威脅Ryan 只談文字模型：資安很大一部分就是文字，假冒聲音的電話、冒充 CEO 的簡訊都能大規模進行，主持人補充現在有不少做語音複製的 API；Ryan 說詐騙者連文法都不對。
7. 11:29三年後的威脅主持人問三年後、GPT-6 的時候會怎樣。Ryan 說跟白宮的人談資安 LLM 時，派上用場的是青銅器對鐵器的類比：這是一次跳階，不代表大家完蛋；自動化讓一個人就能做過去要一整間人做的事。
8. 13:34國家層級與開放社會Ryan 說資安是所有創新的善後，因為實用性帶動採用、安全不會；也談到開放社會較脆弱、威權國家能直接管制，以及網路空間在美軍術語裡算一個 command。
9. 17:51政府與大眾的認知主持人問政府該做什麼。Ryan 提到 DARPA 的專案，也說多數人是透過 ChatGPT 的流行討論看待 LLM，主持人則認為 AI 是能力上的斷層。
10. 19:43大廠與新創的結構Ryan 用 market for silver bullets 解釋為何大廠靠通路和打包銷售勝出，也談 VC 對資安的態度與新創仍有空間；LLM 能吃掉不少日誌解析的舊工作。
11. 24:37廠商如何採用 LLMRyan 把廠商分成三類：成長型公司立刻整合、年輕上市公司稍後做較薄的功能、財星 500 大則還在做 science project。主持人提到 Material 與大廠的合作，Ryan 說客戶討厭一樣一樣買、也討厭買到爛的套裝，廠商之間要成熟地合作。
12. 26:42七年來資安的變化Ryan 說攻擊面變化不大，手機被鎖得很死，基礎設施則持續集中。Ryan 也說自己曾誤判雲端大廠會把這類功能打包，這是投資上的一個失誤。
13. 30:20給資安創辦人的話Ryan 說資安很模糊、沒人知道哪個產品有效，所以別去管分析師的分類，先做出連得上大家都在用的 API、又能省時間的東西。
14. 32:24創業的基本功先找對團隊，單人創辦也沒問題；市場越大越能容錯。主持人補充早期市場該做簡單的事，Ryan 則呼籲技術人別都去做開發工具與基礎設施。

值得記的話5 句

• if someone got iron weapons against your bronze armor like good night要是有人拿鐵製武器對上你的青銅盔甲，那就晚安了；這是 Ryan 跟白宮的人談資安 LLM 時派上用場的類比12:16

• utility drives adoption not safety推動採用的是實用性，不是安全14:53

• intelligence itself can now go Red Queen現在連智慧本身都可以進入紅皇后式的軍備競賽；前一句是拿原子能來對照15:08

• build an incredibly useful thing that everyone should buy做出一個非常有用、大家都該買的東西；這是 Ryan 給一位創辦人的建議30:50

• play the game on easy if you possibly can可以的話，就用簡單模式來玩33:42

名詞與人物8 個

Ryan Noon

Material Security 共同創辦人暨董事長，之前創辦的公司被 Dropbox 收購。

Material Security

做雲端信箱安全的公司，從保護 Gmail 帳號起家。

defense in depth

假設壞人已經進來，在後面再設一道防線的概念。

The Market for Silver Bullets

Ian Grigg 的論文，Material 每位新人的必讀；講的是買方、賣方、攻擊者三方之間，買方無法確認自己買的東西有沒有效。

Socket

Ryan 舉的例子，分析 npm 相依套件的資安公司。

DARPA

Ryan 提到正在做 LLM 相關專案的美國單位。

Gartner categories

分析機構的資安產品分類，Ryan 勸創辦人別被它綁住。

shovel selling

「賣鏟子」，Ryan 用來形容 AI 圈一窩蜂做工具的現象，認為被過度炒作。

提到但沒有展開

• Ryan 談到錯過的投資判斷：曾做過 Snowflake 的盡職調查，因為 AWS 有 Redshift 而建議不要投；AWS 事後的回應是「we get paid either way」。
• Ryan 說 AI 圈「賣鏟子」的太多：新創一窩蜂做測試、監控這類開發工具，缺的是技術人走出去，學一個不是自己的市場。

在 YouTube 看原片 ↗