You Can't Secure an AI Agent with Software | Charles Guillemet, Ledger

摘要

Charles Guillemet 指出，僅靠軟體無法安全地鎖定 AI 代理，因為軟體的許可權與 API 鍵缺乏物理驗證層。他認為，為了確保執行許可權，必須將硬體（如 Ledger 的硬體安全模組）置於系統迴圈中。透過硬體簽章與零知識證明，可以建立強烈的執行完整性保證，防止代理被注入或惡意執行。

Charles Guillemet argues that securing AI agents solely with software is impossible due to the lack of physical verification layers. He emphasizes that hardware must be integrated into the security loop to ensure execution integrity through hardware-enforced signatures and zero-knowledge proofs.

重點

• AI 代理無法僅靠軟體安全鎖定，因為缺乏物理驗證層。
• 攻擊與防禦的對稱性已消失，攻擊者只需發現漏洞即可。
• 需透過硬體簽章與零知識證明確保代理執行許可權的完整性。

章節

依話題轉折切分，標題由 AI 產生

1. 00:00硬體安全是確保 AI 代理的關鍵
2. 09:24虛擬政策需透過硬體簽章驗證
3. 12:51從開發者體驗轉向代理體驗
4. 15:12代理應用層替使用者隱藏錢包細節
5. 24:37零知識證明強化操作安全
6. 27:24安全疑慮主要來自於信任問題
7. 31:39需透過硬體建立執行確定性
8. 34:49內部硬體用於關鍵系統認證
9. 38:52根據風險等級選擇不同安全層級
10. 43:42硬體簽章提供比軟體更強的安全保障
11. 46:55未來代理經濟將採用新支付路徑

提到的工具與公司

• Ledger
• TEE
• Blockchain

適合誰看

對 AI 安全、硬體安全與區塊鏈技術感興趣的開發者與安全研究者。

摘要依據

講者

Conor Bronsdon

依據

節目逐字稿

為什麼排在這裡

人氣

0.35

新鮮

0.70

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• Aaron Levie, Steven Sinofsky & Martin Casado: How Do You Secure a World of AI Agents?Podcast ・ The a16z Show ・ 56 分鐘（在新分頁開啟原站）
• Securing tomorrow’s git forge, so we can reimagine everything else | Entire's Thomas Dohmke & Apiiro's Idan PlotnikPodcast ・ Dev Interrupted ・ 55 分鐘（在新分頁開啟原站）
• 逾百業者響應Nvidia Open Agent Safety Platform，打造跨產業的AI代理安全生態系文章 ・ iThome
• The Background Check You Can't Run on an AI Agent影片 ・ AI Native Dev ・ 48 分鐘
• How to build a secure-by-default AI coding agentPodcast ・ The Stack Overflow Podcast ・ 32 分鐘（在新分頁開啟原站）
• Zero Trust for AI AgentsPodcast ・ Practical AI ・ 47 分鐘