企业 AI 安全到底在防什么？对话御方治圆CEO张佑钧

摘要

邀請御方治圓 CEO 張佑鈞探討企業 AI 安全現狀，指出大模型與 Agent 目前多處於「裸奔」狀態，面臨被攻擊、洩漏敏感資料等風險。內容涵蓋 AI 安全與傳統網路安全的差異、醫療金融等行業面臨的具體威脅，以及第三方檢測與認證的重要性。

A podcast interview discussing the critical security risks of current AI and Agent implementations and the necessity of third-party testing and certification for enterprises.

摘要、重點與章節標題由語言模型整理，細節（誰說的、數字、先後）可能有誤；要引用請以原始內容為準。

重點

• 大模型與 Agent 目前普遍缺乏安全防護，易被攻擊並洩漏資料。
• AI 安全與傳統網路安全不同，需應對模型的不確定性與黑盒風險。
• 建議企業進行第三方檢測與認證，建立完整的 AI 安全解決方案。

章節

依話題轉折切分，標題由 AI 產生

1. 00:00大模型裸奔風險與御方智源背景
2. 12:52金融與醫療等高需求行業防護
3. 16:11實體工廠被篡改與物理層攻擊
4. 19:21車載大模型裸奔與模型層漏洞
5. 24:09第三方認證必要性與信任問題
6. 27:19從通用測試轉向客製化防禦
7. 32:29AI 安全檢測認證的定價策略
8. 35:53自建安全團隊未必划算，需考量專業與法規
9. 38:46政府監管嚴謹，需防範酗酒與宗教等風險
10. 43:46企業內建安全團隊能更精準識別風險
11. 50:45團隊分工明確，技術專家與認證單位協作
12. 53:34草創團隊專注品牌價值，暫不急於市場擴張
13. 56:42未來 AI 安全將成上架強制規範，需標記水印
14. 1:07:51安全永遠是生產、生活與生命的首要要素

適合誰看

正在使用或計劃部署 AI 與 Agent 技術的企業決策者、安全主管及開發者。

摘要依據

依據

語音轉文字

為什麼排在這裡

人氣

0.50

新鮮

0.87

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• Aaron Levie, Steven Sinofsky & Martin Casado: How Do You Secure a World of AI Agents?Podcast ・ The a16z Show ・ 56 分鐘
• Pt.2 Beyond Phishing: Cyber Threats in the Age of AI with Four FlynnPodcast ・ Google DeepMind: The Podcast ・ 26 分鐘
• The Next Chapter of AI Is Inside Our Software影片 ・ a16z ・ 55 分鐘
• The vulnpocalypse might not be so bad after all影片 ・ IBM Technology ・ 34 分鐘
• Don't Secure the Code. Secure the Coder.Podcast ・ The AI Native Dev ・ 40 分鐘
• AI is getting a little out of control影片 ・ AI Explained ・ 32 分鐘