跳到主要內容
AI 武林
影片高階EN6,997 次觀看

Stop Fine-Tuning to Fix Retrieval Problems — Anant Srivastava

來源 AI Engineer

看影片(在新分頁開啟原站)連到 YouTube・AI Engineer

其他版本:AIE Talks 摘要頁(在新分頁開啟)

摘要

Anant Srivastava 指出企業團隊常誤將提示詞、記憶與權重視為階梯,導致知識邊界混亂。他強調提示詞應處理穩定行為,記憶應存放變動且需引用的知識,權重則用於儲存已停止變化的反射模式。透過案例說明錯誤微調會導致陳舊資訊滯留,並提出讓系統透過運作迴圈改進的架構。

Anant Srivastava argues that prompts, memory, and weights serve distinct roles and warns against using fine-tuning to mask retrieval failures.

摘要、重點與章節標題由語言模型整理,細節(誰說的、數字、先後)可能有誤;要引用請以原始內容為準。

重點

  • 提示詞用於控制穩定行為與語氣,不該存放事實。
  • 記憶應存放變動快、體量大且需權限控制的知識。
  • 微調僅適用於已停止變化的反射模式以節省成本。

章節

依話題轉折切分,標題由 AI 產生

  1. 00:00Where should knowledge live?
  2. 00:15The real engineering problem
  3. 00:50Three tools, not a ladder
  4. 01:20How teams decide by accident
  5. 02:00Every edit is an architecture decision
  6. 02:40A support assistant goes wrong
  7. 04:34Accumulated, not designed
  8. 05:14Prompt: behavior, not facts
  9. 05:59Example: a support agent prompt
  10. 06:59Memory: current, large, citable
  11. 08:09The wrong job for memory
  12. 08:49Access control belongs in memory
  13. 09:14Example: a code assistant
  14. 10:08Chunking and metadata for code RAG
  15. 11:23Weights: what has stopped changing
  16. 12:28The fine-tuning mistake
  17. 13:53When fine-tuning works
  18. 15:08Medical coding: fine-tune the reflex
  19. 16:13Capability or cost?
  20. 16:58The decision table
  21. 17:33A circulating architecture
  22. 19:27The model is the easy part

適合誰看

負責設計或維護企業級 AI 系統架構的工程師與技術主管。

摘要依據

講者
Anant Srivastava
依據
自動字幕

為什麼排在這裡

人氣
0.86
新鮮
0.98

在主題頁與搜尋結果裡,名次由相關、人氣、新鮮三個分數決定;這一頁沒有搜尋的關鍵字,所以沒有相關分數。排序怎麼算

這個來源最近的內容

AI Engineer 的所有內容

摘要由 AI 根據原文產生,可能有誤;完整內容請看原站。看影片(在新分頁開啟原站)