Can Interpretability Control Model Training?

摘要

分享用可解釋性技術引導模型微調的實作方法，涵蓋概念驗證、預防性引導與資料過濾等策略。觀眾能學習如何將可解釋性應用於訓練流程以控制模型行為。

A talk on using interpretability to steer AI model fine-tuning.

這筆內容還沒有取得字幕或內文，這段摘要只根據標題與說明欄產生，可能不夠準確；實際內容請以原站為準。

適合誰看

正在研究或實踐大模型微調與可解釋性技術的研究人員。

摘要依據

依據

標題與說明欄（還沒有取得字幕或內文）

為什麼排在這裡

人氣

0.15

新鮮

0.29

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• Interpretability: Understanding how AI models think影片 ・ Anthropic ・ 59 分鐘
• Understanding the inner thoughts of AI影片 ・ Google DeepMind ・ 53 分鐘
• The Dark Matter of AI [Mechanistic Interpretability]影片 ・ Welch Labs ・ 24 分鐘
• Creating Models Worth Interpreting影片 ・ Neel Nanda ・ 1 小時 44 分
• How Reasoning Models Break Mechanistic Interpretability Techniques影片 ・ Neel Nanda ・ 42 分鐘
• ML Interpretability: feature visualization, adversarial example, interp. for language models影片 ・ Umar Jamil ・ 1 小時