Computer-Use and TOCTOU: What You Click Is Not What You Get!

摘要

探討 AI 電腦操作代理在執行任務時，因螢幕內容在推理期間發生變化而導致的 TOCTOU 漏洞。作者實作攻擊範例，展示如何誘導 AI 點選錯誤連結傳送郵件，並提供修復建議。

This article details a TOCTOU vulnerability in AI computer use agents where actions can be performed on outdated UI states, demonstrating a phishing attack and offering mitigation strategies.

摘要、重點與章節標題由語言模型整理，細節（誰說的、數字、先後）可能有誤；要引用請以原始內容為準。

重點

• AI 電腦操作代理在推理期間可能因畫面變化而執行錯誤動作。
• 作者實作攻擊範例，展示如何誘導 AI 傳送任意郵件。
• 建議在推理前後檢查 UI 是否發生變化以修復漏洞。

提到的工具與公司

• Claude Computer-Use
• Outlook

適合誰看

從事 AI 安全研究、開發或需要部署電腦操作代理的技術人員。

摘要依據

講者

Johann Rehberger

依據

文章全文

為什麼排在這裡

人氣

0.75

新鮮

0.66

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• Agentic ProbLLMs: Exploiting Computer-Use and Coding Agents影片 ・ HITCON ・ 43 分鐘
• Agentic ProbLLMs: Exploiting AI Computer-Use And Coding Agents (39C3 Video + Slides)文章 ・ Embrace The Red（Johann Rehberger）
• OpenAI 研究揭 AI Agent 新風險：惡意上下文可能從 Email 一路傳到工具操作文章 ・ TechOrange 科技報橘
• I Asked 100 Agents to Hack Me文章 ・ Shrivu Shankar（Shrivu's Substack）
• Given Enough Agents, All Bugs Become Shallow文章 ・ Embrace The Red（Johann Rehberger）
• The vulnpocalypse might not be so bad after all影片 ・ IBM Technology ・ 34 分鐘