讀原文（在新分頁開啟原站）連到 Armin Ronacher（部落格）
摘要
探討了如何從閉合權重模型中提取推理過程痕跡。作者指出，雖然業界常將這些痕跡描述為特殊且神秘，但實際上它們只是模型在回答前的思考草稿。透過 GPT-OSS 的 Harmony 格式，讀者可以清楚看到分析通道與最終回答的區分。文章還分析了推理預算的設定方式，以及如何透過禁用思考功能來誘導模型將推理內容混入最終回應中。
This article explores how to extract reasoning traces from closed-weight models. It explains that reasoning traces are simply the model's scratchpad thoughts before the final answer, not a special format. The author details how to detect these traces and how disabling thinking can trick models into漏…
重點
- 本文探討如何從閉合權重模型中提取推理痕跡。
- 推理痕跡實際上是模型在回答前的思考草稿，而非特殊格式。
- 透過禁用思考功能，可誘導模型將推理內容混入最終回應中。
提到的工具與公司
- GPT-OSS
- Prefill
- KV cache
- DwarfStar
- DeepSeek
適合誰看
程式開發者、AI 模型研究者、希望深入理解模型內部運作機制的人。
摘要依據
- 依據
- 文章全文
為什麼排在這裡
- 人氣
- 0.75
- 新鮮
- 0.84
在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算
相關內容
- Stealing Reasoning Traces from Proprietary LLM APIs — Ilia Shumailov & Alexander PanfilovPodcast ・ Machine Learning Street Talk ・ 49 分鐘（在新分頁開啟原站）
- 如何从专有LLM API中窃取推理痕迹 | LLM安全 | 推理痕迹 | 大语言模型 | AI安全 | 越狱攻击 | 模型蒸馏 | 推理模型 | 加密推理 | 隐私泄露 | 提示注入影片 ・ Best Partners TV ・ 16 分鐘（在新分頁開啟原站）
- NEW AI Reasoning: State of Thought (SoT)影片 ・ Discover AI ・ 29 分鐘（在新分頁開啟原站）
- They Found a Way to Steal Frontier LLM’s Reasoning影片 ・ bycloud ・ 16 分鐘（在新分頁開啟原站）
- Build A Reasoning Model From Scratch 2: Loading a Base Model, Text Generation, and KV Caching影片 ・ Sebastian Raschka ・ 1 小時 37 分（在新分頁開啟原站）
- How Reasoning Models Break Mechanistic Interpretability Techniques影片 ・ Neel Nanda ・ 42 分鐘（在新分頁開啟原站）
摘要由 AI 根據原文產生，可能有誤；完整內容請看原站。讀原文（在新分頁開啟原站）