讀原文(在新分頁開啟原站)連到 AI Hero(Matt Pocock)
摘要
本文解釋了 AI 程式碼字典中的「上下文視窗」概念。它定義了模型在每次請求中看到的有限且特定的資訊序列,包括系統提示、對話歷史及工具結果。內容強調上下文是模型感知的唯一介面,且會隨著對話不斷增長,若超過限制則需壓縮或清除。作者建議將上下文視為預算,只載入任務所需的內容,避免使用「記憶」等容易混淆的術語。
This article explains the concept of the 'context window' in the AI Coding Dictionary. It defines the finite, model-specific sequence of tokens a model sees on each request, including system prompts, conversation history, and tool results. The text emphasizes that the context window is the model's '
重點
- 上下文視窗是模型每次請求看到的有限資訊序列。
- 它包含系統提示、對話歷史及工具結果,是模型感知的唯一介面。
- 若超過限制,模型需透過工具呼叫才能獲取外部資訊。
適合誰看
程式開發者、AI 模型使用者或對 LLM 機制感興趣的技術人員。
摘要依據
- 講者
- Matt Pocock
- 依據
- 文章全文
為什麼排在這裡
- 人氣
- 0.75
- 新鮮
- 0.97
在主題頁與搜尋結果裡,名次由相關、人氣、新鮮三個分數決定;這一頁沒有搜尋的關鍵字,所以沒有相關分數。排序怎麼算
相關內容
- Context | AI Coding Dictionary文章 ・ AI Hero(Matt Pocock)
- Session | AI Coding Dictionary文章 ・ AI Hero(Matt Pocock)
- Most devs don’t understand how context windows work影片 ・ Matt Pocock ・ 10 分鐘(在新分頁開啟原站)
- Stop stuffing your context window (here's why)影片 ・ Matt Pocock ・ 2 分鐘(在新分頁開啟原站)
- Effective context engineering for AI agents文章 ・ Anthropic Engineering Blog
- Context Engineering:概念与技术实现深度解析影片 ・ 马克的技术工作坊 ・ 15 分鐘(在新分頁開啟原站)
摘要由 AI 根據原文產生,可能有誤;完整內容請看原站。讀原文(在新分頁開啟原站)