Recovering Encrypted LLM Reasoning Traces

摘要

作者實作並演示如何從加密的 LLM 推理記錄中恢復敏感資訊，包括密碼與 API 金鑰。文章指出共享會話檔案可能洩漏大量資料，並提供具體的攻擊工具與步驟。

The author demonstrates recovering sensitive data from encrypted LLM reasoning traces by replaying them to a different model.

摘要、重點與章節標題由語言模型整理，細節（誰說的、數字、先後）可能有誤；要引用請以原始內容為準。

重點

• 利用共享加密金鑰，將加密推理記錄重放至較弱模型。
• 透過特定提示詞誘使模型解密並輸出原始推理內容。
• 測試成功恢復密碼與 API 金鑰，警告會話檔案不可輕視。

提到的工具與公司

• OpenAI
• GPT-5.6 Sol
• GPT-5.6 Luna
• Codex
• Luna

適合誰看

開發者、安全研究人員或關注 LLM 隱私與資安風險的技術人員。

摘要依據

講者

Johann Rehberger

依據

文章全文

為什麼排在這裡

人氣

0.75

新鮮

0.82

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• They Found a Way to Steal Frontier LLM’s Reasoning影片 ・ bycloud ・ 16 分鐘
• Stealing Reasoning Traces from Proprietary LLM APIs — Ilia Shumailov & Alexander PanfilovPodcast ・ Machine Learning Street Talk ・ 49 分鐘
• 如何从专有LLM API中窃取推理痕迹 | LLM安全 | 推理痕迹 | 大语言模型 | AI安全 | 越狱攻击 | 模型蒸馏 | 推理模型 | 加密推理 | 隐私泄露 | 提示注入影片 ・ Best Partners TV ・ 16 分鐘
• Can Hidden Reasoning Be Stolen From GPT, Claude, and Gemini?Podcast ・ Turing Post ・ 14 分鐘
• Two API Calls Exposed AI's Hidden Reasoning影片 ・ Jia-Bin Huang
• 如何提取 GPT/Claude/Gemini 隐藏思维链？影片 ・ EZ.Encoder Academy