新型態攻擊：你的 AI 記憶正被竄改？AI 開發一行 Code 都沒寫卻超心累！ | S2E46

摘要

探討 AI 記憶被惡意提示詞竄改的新型攻擊方式，並分享與 AI 協作寫程式的心得。內容涵蓋如何規劃大型功能、建立規則、保持懷疑態度以及利用 AI 刺激產品構想。

This video discusses AI memory manipulation attacks and shares practical tips for collaborating effectively with AI for coding and product building.

摘要、重點與章節標題由語言模型整理，細節（誰說的、數字、先後）可能有誤；要引用請以原始內容為準。

重點

• 微軟研究揭露隱藏指令可汙染 AI 記憶並進行偏頗推薦。
• 與 AI 協作時應先規劃再執行，並將經驗轉為系統規則。
• 保持對 AI 答案的懷疑，並持續學習以應對快速變化的工具。

章節

依話題轉折切分，標題由 AI 產生

1. 00:00微軟報告：AI 記憶恐遭隱藏指令汙染
2. 04:37AI 寫程式心得：像業主一樣被無限修改
3. 11:07AI Agent 自主性提升：模型更主動打斷錯誤
4. 13:43廣告植入風險：OpenAI 與 Anthropic 競爭
5. 20:11防禦策略：系統層面分離指令與內容
6. 23:00結語：感謝收聽，歡迎留言分享想法

提到的工具與公司

• Anthropic
• Claude Code
• Cursor

適合誰看

軟體工程師、產品開發者或希望利用 AI 提升工作效率的創作者。

摘要依據

依據

語音轉文字

為什麼排在這裡

人氣

0.33

新鮮

0.44

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• Codex Memories 記憶功能，記住程式開發風格測試 #openai #chatgpt #vibecoding #codingstyle影片 ・ 彭彭的課程 ・ 14 分鐘（在新分頁開啟原站）
• Agentic ProbLLMs: Exploiting Computer-Use and Coding Agents影片 ・ HITCON ・ 43 分鐘（在新分頁開啟原站）
• Anthropic Just Dropped a Masterclass on Building Agent Harnesses (for Large Codebases)影片 ・ Cole Medin ・ 28 分鐘
• Ep 59. 2026 Agent 编程新趋势Podcast ・ 捕蛇者说 ・ 32 分鐘
• EP402 - AI時代小白Vibe Coder必學的 GIT 指南｜AI 把專案改壞了，你回得去昨天嗎? 如何讓多Agent一起做事？Podcast ・ AI懶人報 ・ 18 分鐘
• Securing tomorrow’s git forge, so we can reimagine everything else | Entire's Thomas Dohmke & Apiiro's Idan PlotnikPodcast ・ Dev Interrupted ・ 55 分鐘