SE Radio 734: Sathiesh Veera on Engineering Data-Protection Guardrails with LLMs

摘要

訪談 AT&T 架構師 Sathiesh Veera，探討企業在使用大型語言模型時，因資料外流至雲端而面臨的資料保護問題。內容涵蓋如何利用多層架構（資料採集、推論、回應過濾）與工具呼叫（如 MCP）建立防護欄，並說明如何根據資料敏感度決定防護策略。

An interview discussing how to engineer data protection guardrails for enterprise LLM deployments using a layered architecture to prevent data leakage and ensure compliance.

摘要、重點與章節標題由語言模型整理，細節（誰說的、數字、先後）可能有誤；要引用請以原始內容為準。

重點

• LLM 通常位於企業網路外，合約無法防止資料外洩與提示注入攻擊。
• 建議建立三層防護架構，分別過濾採集、推論與回應中的敏感資料。
• 防護策略應取決於資料敏感度而非公司規模，金融等敏感領域需嚴格管控。

章節

依話題轉折切分，標題由 AI 產生

1. 00:00企業資料防洩漏與 LLM 攻擊面風險
2. 04:13向量資料與 RAG 架構的上下文機制
3. 06:57多路徑資料外洩與 AI 專用資料層
4. 12:54建立目的導向的 AI 資料來源與 API
5. 16:56支援系統與財務資料的差異化過濾
6. 22:24Asana MCP 工具權限失控安全事件
7. 25:09工具無限制權限與資料偽造風險
8. 27:51多層過濾架構與系統提示洩漏防護
9. 33:22強制一三層防護與企業資料來源建置
10. 37:24資料分類敏感度決定安全架構必要性
11. 41:24節目結語與聯絡資訊與版權宣告

提到的工具與公司

• AWS Bedrock
• DataBricks
• OpenAI API
• Anthropic API

適合誰看

負責企業 AI 系統架構、資料安全或合規的軟體工程師與技術管理者。

摘要依據

依據

語音轉文字

為什麼排在這裡

人氣

0.35

新鮮

0.82

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• AI Guardrails：以 Python 構建企業級 LLM 安全防護策略 – PyCon Taiwan 2025影片 ・ PyCon Taiwan ・ 46 分鐘
• Spite-Driven Engineering: A New Blueprint for Cloud Security in the AI Native EraPodcast ・ The InfoQ Podcast ・ 41 分鐘
• 【生成式AI導論 2024】第14講：淺談大型語言模型相關的安全性議題 (下) — 欺騙大型語言模型影片 ・ Hung-yi Lee ・ 16 分鐘
• They Found a Way to Steal Frontier LLM’s Reasoning影片 ・ bycloud ・ 16 分鐘
• AI Engineer 2023 Keynote - Building Blocks for LLM Systems文章 ・ Eugene Yan（部落格）
• How we contain Claude across products文章 ・ Anthropic Engineering Blog