看影片（在新分頁開啟原站）連到 Matt Pocock
摘要
說明系統提示注入風險，展示惡意資料如何透過 Gemini 2.0 Flash 繞過防護。透過將資料移至使用者訊息並使用 XML 標籤包裹，可有效防止惡意指令覆蓋系統設定。
Demonstrates how to prevent prompt injection attacks in AI systems using XML delimiters and user message separation.
摘要、重點與章節標題由語言模型整理，細節（誰說的、數字、先後）可能有誤；要引用請以原始內容為準。
重點
- 系統提示易受惡意資料注入攻擊。
- 將資料移至使用者訊息並用 XML 包裹。
- 防止惡意指令覆蓋系統設定。
提到的工具與公司
- Gemini 2.0 Flash
適合誰看
負責開發 AI 應用或處理使用者輸入的程式開發者。
摘要依據
- 講者
- Matt Pocock
- 依據
- 自動字幕
為什麼排在這裡
- 人氣
- 0.49
- 新鮮
- 0.24
在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算
相關內容
- Prompt Injections in the Wild - Exploiting Vulnerabilities in LLM Agents | HITCON CMT 2023影片 ・ HITCON ・ 42 分鐘（在新分頁開啟原站）
- 【生成式AI導論 2024】第14講：淺談大型語言模型相關的安全性議題 (下) — 欺騙大型語言模型影片 ・ Hung-yi Lee ・ 16 分鐘
- OpenAI 研究揭 AI Agent 新風險：惡意上下文可能從 Email 一路傳到工具操作文章 ・ TechOrange 科技報橘
- Breaking LLM Applications – Advances in Prompt Injection Exploitation影片 ・ HITCON ・ 41 分鐘（在新分頁開啟原站）
- 商用詠唱進階 & 黑魔法防禦術 - 提升與保護你的 AI 應用／李慕約 生成式 AI 年會策展人 | #gaiconf #生成式AI年會 #generativeai #gai2023 #genai影片 ・ Generative AI 年會 ・ 38 分鐘（在新分頁開啟原站）
- Prompt Injection, explained影片 ・ Simon Willison ・ 12 分鐘（在新分頁開啟原站）
摘要由 AI 根據原文產生，可能有誤；完整內容請看原站。看影片（在新分頁開啟原站）