Input tokens | AI Coding Dictionary

摘要

這篇文章解釋了 AI 程式設計中輸入 Token 的定義與成本。輸入 Token 是模型在處理請求時讀取的資料，包括系統提示與對話歷史，其價格通常低於輸出 Token。由於模型是狀態less 的，每次請求都會重新傳送整個歷史，導致輸入 Token 佔用大量費用。文章指出若輸入成本高昂，可透過清理或壓縮歷史來節省費用。

This article explains the definition and cost of input tokens in AI coding. Input tokens are data the model reads before writing, including history and prompts, which are cheaper than output tokens. Since models are stateless, each request re-sends the entire history, making input tokens expensive.

重點

• 輸入 Token 是模型讀取請求的歷史資料，價格低於輸出 Token。
• 每次請求都會重新傳送整個對話歷史，導致輸入 Token 佔用大量費用。
• 若輸入成本高昂，可透過清理或壓縮歷史來節省費用。

適合誰看

程式開發者、AI 程式設計使用者、系統架構師。

摘要依據

講者

Matt Pocock

依據

文章全文

為什麼排在這裡

人氣

0.75

新鮮

0.97

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• Output tokens | AI Coding Dictionary文章 ・ AI Hero（Matt Pocock）
• Token | AI Coding Dictionary文章 ・ AI Hero（Matt Pocock）
• Model Selection & Token Efficiency影片 ・ Cursor ・ 1 小時（在新分頁開啟原站）
• Why AI Tokens are so Expensive - Computerphile影片 ・ Computerphile ・ 25 分鐘（在新分頁開啟原站）
• Why Cost Per Million Tokens Is A Useless KPI?Podcast ・ Agentic Conversations（原 MLOps.community） ・ 39 分鐘（在新分頁開啟原站）
• State of Agentic Coding #7 with Armin and Ben影片 ・ Armin Ronacher ・ 1 小時 35 分（在新分頁開啟原站）