OpenAI 研究揭 AI Agent 新風險：惡意上下文可能從 Email 一路傳到工具操作

摘要

OpenAI 揭露 AI Agent 面臨「自我複製提示詞注入」新風險，惡意指令可透過 Email 等外部資料流轉，誘導 Agent 將相同指令帶入後續輸出，形成類似蠕蟲的攻擊鏈。企業需透過結構化輸出與人工介入來限制高風險操作，並追蹤上下文流向以強化資安防護。

OpenAI reveals a new risk where malicious prompts can replicate themselves through external data like emails, inducing Agents to pass the same instructions to subsequent outputs, creating a worm-like attack chain. Mitigation involves structured outputs and human-in-the-loop controls to limit high-risk actions.

重點

• OpenAI 發現惡意指令可透過 Email 等外部資料流轉，誘導 Agent 將相同指令帶入後續輸出，形成攻擊鏈。
• 企業需透過結構化輸出與人工介入來限制高風險操作，防止惡意內容沿工作流程繼續傳播。
• 研究建議保留執行軌跡以追蹤上下文流向，確保一旦出事能追溯整個攻擊路徑。

提到的工具與公司

• Email
• Trace

適合誰看

企業決策者與 IT 安全人員，關注 AI 匯入後的新資安挑戰。

摘要依據

依據

文章全文

為什麼排在這裡

人氣

0.35

新鮮

0.99

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• The Hidden Security Risks of AI Coding AgentsPodcast ・ The AI Native Dev ・ 41 分鐘
• Did a 50 year old military secret just solve agent prompt injection?影片 ・ Fireship ・ 5 分鐘（在新分頁開啟原站）
• Prompt Injections in the Wild - Exploiting Vulnerabilities in LLM Agents | HITCON CMT 2023影片 ・ HITCON ・ 42 分鐘（在新分頁開啟原站）
• The Rise and Fall of Agent Civilizations文章 ・ Dwarkesh Patel
• Breaking Autonomy: Hacking Cloud-Native AI Agents影片 ・ HITCON ・ 42 分鐘（在新分頁開啟原站）
• The Real Risks of AI Agents影片 ・ The AI Daily Brief: Artificial Intelligence News ・ 26 分鐘