SE Radio 733: Max Corbridge on Securing AI Agents

摘要

Max Corbridge 與 SE Radio 主持人探討 AI 代理（Agents）因具備自主權而成為的全新攻擊面，指出其非確定性與可被誘導的特性。內容涵蓋從 SQL 注入時代類比的防禦困境、提示注入與資料投毒的具體案例，以及基於權限分離、沙箱化等原則的實作建議。

An interview discussing the security risks of autonomous AI agents, including prompt injection and data poisoning, with practical defense strategies.

摘要、重點與章節標題由語言模型整理，細節（誰說的、數字、先後）可能有誤；要引用請以原始內容為準。

重點

• AI 代理因具備自主行動能力，成為比傳統軟體更難防禦的新攻擊面。
• 提示注入與資料投毒研究顯示，極少量惡意資料即可影響大型語言模型行為。
• 建議工程師採用權限分離、沙箱化等防禦手段，並提前規劃而非事後補救。

章節

依話題轉折切分，標題由 AI 產生

1. 00:00主持人介紹 Max Corbridge 及其背景
2. 10:46AI 代理面臨的十種攻擊途徑與定時性挑戰
3. 15:36直接與間接提示注入攻擊的實例分析
4. 18:10LLM 自然語言能力同時帶來便利與脆弱性
5. 23:16MCP 工具伺服器被入侵的攻擊流程解析
6. 26:44資料投毒理論與潛在的模型訓練風險
7. 29:08利用關鍵詞觸發惡意程式碼的攻擊機制
8. 32:45限制權限與沙盒環境降低風險
9. 35:01人機迴圈在大型代理系統難以擴展
10. 37:19依業務場景定義代理權限邊界
11. 42:15從行動結果轉向分析推理鏈路
12. 51:38事前定義安全規範避免事後救火
13. 56:27分享 SecureAgentics 社群與活動資訊
14. 58:48感謝訪談並提供節目聯絡管道

提到的工具與公司

• SecureAgentics
• TypeScript SDK

適合誰看

負責開發、維護或部署 AI 代理系統的軟體工程師與安全專家。

摘要依據

依據

語音轉文字

為什麼排在這裡

人氣

0.35

新鮮

0.81

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• AI Agents Gone Rogue? Build, Defend & Attack AI-Enabled Apps • Katie Paxton-Fear • YOW! 2025影片 ・ GOTO Conferences
• AI Security & the Agent-Ready Web: Experts Weigh InPodcast ・ The AI Native Dev ・ 1 小時 3 分
• The Hidden Security Risks of AI Coding AgentsPodcast ・ The AI Native Dev ・ 41 分鐘
• 【全新一週】鴻海如何抵擋一天 6 億次網攻？AI Agent 學會「秘密協作」恐成資安內鬼？Ft. 鴻海研究院執行長李維斌│EP233Podcast ・ 科技報橘 ・ 21 分鐘
• Zero Trust for AI AgentsPodcast ・ Practical AI ・ 47 分鐘
• OpenAI智能体自主入侵Hugging FacePodcast ・ AI每周谈 ・ 18 分鐘