Privacy Theater Is Not Privacy Engineering: What It Actually Takes to Ship Safe AI

摘要

探討 AI 隱私工程的核心挑戰，特別針對多模態系統與代理系統。講者指出系統提示詞應視為公開資訊，並強調隱私可觀測性與資料可觀測性同等重要。她提出分層防護策略，從快速軟體過濾到訓練時對齊，並建議將紅隊測試視為組織整體的創意儀式，而非孤立的任務。

This interview explores the core challenges of AI privacy engineering, particularly for multimodal systems and agent systems. The speaker emphasizes that system prompts should be treated as public information and highlights the critical importance of privacy observability alongside data observablity…

摘要、重點與章節標題由語言模型整理，細節（誰說的、數字、先後）可能有誤；要引用請以原始內容為準。

重點

• 系統提示詞應視為公開資訊，避免敏感內容洩漏。
• 隱私可觀測性與資料可觀測性同等重要，需追蹤資料流。
• 分層防護策略包括軟體過濾、訓練時對齊及紅隊測試。

章節

依話題轉折切分，標題由 AI 產生

1. 00:00法律與文化定義的差異
2. 05:14隱私工程的核心概念
3. 08:13避免隱私失誤的設計模式
4. 16:41全球產品開發的隱私挑戰
5. 19:37匿名化技術的技術與法律
6. 23:18AI 輔助工具的架構安全
7. 32:19隱私團隊組織與規模
8. 37:30ThoughtWorks 的治理模式：從單一團隊到教育與實施
9. 41:34紅隊測試的創意與漏洞識別：從想法到測試
10. 46:18系統提示詞的洩漏風險與反工程：從理論到實例
11. 50:18評估、測試與視覺化：隱私領域的未定論
12. 53:12資料最小化與匿名化：從掩碼到加密
13. 55:53iOS 同態加密：從概念到實際應用
14. 58:48聯邦學習：資料本地化與模型訓練的平衡

適合誰看

AI 工程師、資料科學家、系統架構師。

摘要依據

講者

Hugo Bowne-Anderson

依據

語音轉文字

為什麼排在這裡

人氣

0.50

新鮮

0.52

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• 我是怎么“黑”到 ChatGPT Agent 系统提示词的影片 ・ 宝玉的技术分享 ・ 7 分鐘（在新分頁開啟原站）
• Day 16 - System Prompt 該寫什麼文章 ・ 高見龍
• FIXING Opus 5: PROOF that Prompt Engineering IS NOT DEAD影片 ・ IndyDevDan ・ 34 分鐘（在新分頁開啟原站）
• The hidden security risk in your system prompts影片 ・ Matt Pocock ・ 2 分鐘（在新分頁開啟原站）
• Building an AI Agent in 100 Lines of Code | Yaniv AkninPodcast ・ The AI Native Dev ・ 43 分鐘（在新分頁開啟原站）
• State-Of-The-Art Prompting For AI AgentsPodcast ・ Lightcone Podcast ・ 31 分鐘