The First Mechanistic Interpretability Frontier Lab — Myra Deng & Mark Bissell of Goodfire AI

摘要

Goodfire AI 創辦人 Mark Bissell 與 Myra Deng 探討將機械可解釋性從實驗室轉為生產級工作流的策略。他們認為當前 AI 訓練與調優過程缺乏有意圖性，並提出透過內部介面進行手術式編輯，以解決模型行為不可控的問題。

Goodfire founders discuss turning mechanistic interpretability into a production workflow to enable surgical model edits and intentional design.

摘要、重點與章節標題由語言模型整理，細節（誰說的、數字、先後）可能有誤；要引用請以原始內容為準。

重點

• Goodfire 透過 API 與平台將可解釋性轉為可重複的生產工作流。
• 主張用內部介面進行手術式編輯，取代傳統依賴資料的粗力調優。
• 探討如何將可解釋性應用於訓練階段，以實現更有意圖的模型設計。

章節

依話題轉折切分，標題由 AI 產生

1. 00:00Goodfire AI 實驗室與團隊介紹
2. 04:52可解釋性定義與核心應用場景
3. 06:58從訓練到後訓練的解讀應用
4. 09:25模型偏見、遺忘與 Grokking 現象
5. 11:57突破黑箱：解決未知學習問題
6. 18:22企業實戰：即時監控與模型導向
7. 29:12大規模模型即時導向與提示對比
8. 33:05即時模型適應與有意義設計
9. 36:48可接觸的研究領域與低門檻
10. 41:44超越規模的引導技術侷限
11. 45:14開放資源與神經百科分享
12. 56:31醫療應用與超智慧沙包策略
13. 1:00:34伯克利研究圈與對齊觀點
14. 1:06:48擴散模型與解讀滲透前景

適合誰看

專注於 AI 產品化、模型調優或希望深入理解大模型內部運作的工程師與研究者。

摘要依據

講者

Myra Deng、Mark Bissell、Alessio Fanelli

依據

語音轉文字

為什麼排在這裡

人氣

0.50

新鮮

0.40

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• The Dark Matter of AI [Mechanistic Interpretability]影片 ・ Welch Labs ・ 24 分鐘（在新分頁開啟原站）
• Interpretability: Understanding how AI models think影片 ・ Anthropic ・ 59 分鐘
• Understanding the inner thoughts of AI影片 ・ Google DeepMind ・ 53 分鐘
• Thinking in Silico: Goodfire CTO Dan Balsam on Concept Manifolds & a $1000/Month ML Research AgentPodcast ・ The Cognitive Revolution ・ 1 小時 57 分
• What Matters Right Now In Mechanistic Interpretability?影片 ・ Neel Nanda ・ 59 分鐘（在新分頁開啟原站）
• A Walkthrough of Progress Measures for Grokking via Mechanistic Interpretability: Why? (Part 3/3)影片 ・ Neel Nanda ・ 46 分鐘（在新分頁開啟原站）