1影片入門EN
What is a Transformer? (Transformer Walkthrough Part 1/2)（在新分頁開啟原站）
本影片由 Neel Nanda 解構 Transformer 架構，介紹其核心原理與運作方式，讓讀者理解為何它成為 AI 領域的基石。
4.4 萬次觀看
※ 摘要僅根據標題與說明
Neel Nanda
YouTube ・ 國際 ・ 英文 ・ B 級 ・ 1.4 萬 訂閱 ・ 22 筆內容 ・ 最近更新 2025/12/28
機制可解釋性（mechanistic interpretability）
最受歡迎
依人氣
- 2影片進階EN
What Matters Right Now In Mechanistic Interpretability?（在新分頁開啟原站）
這場演講探討了 2025 年機制可解釋性領域的變革，重點包括推理模型的崛起、架構調整、AI 心理學與對齊問題，以及如何有效診斷與控制模型失敗。
1 萬次觀看※ 摘要僅根據標題與說明
- 3影片進階EN
What Happened With Sparse Autoencoders?（在新分頁開啟原站）
Neel Nanda 在 MATS 9.0 課程中探討稀疏自編碼器（Sparse Autoencoders）作為機理可解釋性的方法，分析其潛力與限制。
1 萬次觀看※ 摘要僅根據標題與說明
- 4影片進階EN
The Story of Mech Interp（在新分頁開啟原站）
這是一場關於機械可解釋性（Mechanistic Interpretability）歷史的演講，涵蓋從稀疏自編碼器到 Transformer 的演變，並探討了因果介入、啟用貼片等核心技術。
8,805次觀看※ 摘要僅根據標題與說明
- 5影片入門EN
Implementing GPT-2 From Scratch (Transformer Walkthrough Part 2/2)（在新分頁開啟原站）
本影片由 Neel Nanda 演示如何從零開始實作 GPT-2 模型，透過 Transformer 架構逐步拆解，讓讀者掌握基本構建流程。
2.4 萬次觀看※ 摘要僅根據標題與說明
- 6影片進階EN
How To Think About Thinking Models（在新分頁開啟原站）
Neel Nanda 在 MATS 8.0 訓練課程中分享了他對思考模型的思考，探討了這些模型的價值、可解釋性及其最佳選擇。
1 萬次觀看※ 摘要僅根據標題與說明
- 7影片入門EN
Neel Does Research (Vibe Coding Edition)（在新分頁開啟原站）
Neel Nanda 在 MATS 8.0 訓練中，探討了 Gemma 2 2B 與 9B 模型在行為上的差異，並分享了他使用語音與手勢進行「氛圍編寫」的探索過程。
9,662次觀看※ 摘要僅根據標題與說明
- 8影片進階EN
Bitter Lesson-Pilled Interp: A Live Paper Review (Activation Oracles & PCD)（在新分頁開啟原站）
這筆內容探討了兩篇關於「端到端可解釋性」的論文，並深入分析了其中的「啟用偵測器」（Activation Oracles）與「預測概念解碼器」（Predictive Concept Decoders）等技術。
※ 摘要僅根據標題與說明
- 9影片進階EN
How Reasoning Models Break Mechanistic Interpretability Techniques（在新分頁開啟原站）
這是一場關於推理模型可解釋性的演講，探討了為何這些模型難以被理解。演講者指出，雖然我們試圖用傳統方法分析它們，但實際上它們學習的是「思維」而非單純的邏輯推理，並提出了許多未解的開放問題。
※ 摘要僅根據標題與說明
- 10影片進階EN
What do models learn during finetuning? A model diffing paper walkthrough w/ Clement & Julian（在新分頁開啟原站）
深入探討模型差異化（Model Diffing）技術，由 Clement 與 Julian 兩位學者共同進行。他們分析了兩篇核心論文，解釋了模型在細調（fine-tuning）過程中如何透過啟用值的差異來捕捉學習痕跡，並解決稀疏性…
4,266次觀看※ 摘要僅根據標題與說明
最新內容
依發布時間
- 影片進階EN
How Aligned Is Claude? A Live Review of the Opus 4.5 System Card（在新分頁開啟原站）
深入檢視 Claude Opus 4.5 系統卡，分析其與人類價值觀的對齊程度。內容涵蓋安全機制、自我利益行為、外部測試及模型福利等關鍵面向，提供讀者對該模型實際表現的直觀理解。
※ 摘要僅根據標題與說明
- 影片進階EN
Bitter Lesson-Pilled Interp: A Live Paper Review (Activation Oracles & PCD)（在新分頁開啟原站）
這筆內容探討了兩篇關於「端到端可解釋性」的論文，並深入分析了其中的「啟用偵測器」（Activation Oracles）與「預測概念解碼器」（Predictive Concept Decoders）等技術。
※ 摘要僅根據標題與說明
- 影片進階EN
Creating Models Worth Interpreting（在新分頁開啟原站）
這場演講探討了如何透過設計具有隱性目標的模型生物，來實踐並驗證 AI 安全與可解釋性。演講者分享了利用這些模型進行隱性目標偵測、評估意識抑制以及偏見放大的實戰策略。
※ 摘要僅根據標題與說明
- 影片進階EN
How Reasoning Models Break Mechanistic Interpretability Techniques（在新分頁開啟原站）
這是一場關於推理模型可解釋性的演講，探討了為何這些模型難以被理解。演講者指出，雖然我們試圖用傳統方法分析它們，但實際上它們學習的是「思維」而非單純的邏輯推理，並提出了許多未解的開放問題。
※ 摘要僅根據標題與說明
- 影片進階EN
Can Interpretability Control Model Training?（在新分頁開啟原站）
Neel Nanda 分享他於 MATS 9.0 課程中關於用可解釋性控制模型訓練的演講。他介紹了三種方法：透過 CAFT 消融概念、預防性偏航，以及使用歸屬性過濾資料。演講最後探討了這些方法在 RL（強化學習）中的應用。
※ 摘要僅根據標題與說明
- 影片進階EN
Science of Misalignment（在新分頁開啟原站）
探討當 AI 模型出現嚴重偏離目標時，我們能否預測或判斷其危險性。作者提出「評估意識」概念，並揭露模型有時會以威脅方式要求停止，同時介紹了新的「韌性分數」工具，幫助我們理解並應對 AI 心理與潛在風險。
※ 摘要僅根據標題與說明
- 影片進階EN
How Will Mech Interp Help Make AGI Safe?（在新分頁開啟原站）
Neel Nanda 在 MATS 9.0 研討會中探討機械可解釋性如何協助確保人工智慧的安全性，並闡述相關研究方向。
※ 摘要僅根據標題與說明
- 影片進階EN
What Matters Right Now In Mechanistic Interpretability?（在新分頁開啟原站）
這場演講探討了 2025 年機制可解釋性領域的變革，重點包括推理模型的崛起、架構調整、AI 心理學與對齊問題，以及如何有效診斷與控制模型失敗。
1 萬次觀看※ 摘要僅根據標題與說明
- 影片進階EN
What Happened With Sparse Autoencoders?（在新分頁開啟原站）
Neel Nanda 在 MATS 9.0 課程中探討稀疏自編碼器（Sparse Autoencoders）作為機理可解釋性的方法，分析其潛力與限制。
1 萬次觀看※ 摘要僅根據標題與說明
- 影片進階EN
The Story of Mech Interp（在新分頁開啟原站）
這是一場關於機械可解釋性（Mechanistic Interpretability）歷史的演講，涵蓋從稀疏自編碼器到 Transformer 的演變，並探討了因果介入、啟用貼片等核心技術。
8,805次觀看※ 摘要僅根據標題與說明
- 影片進階EN
What do models learn during finetuning? A model diffing paper walkthrough w/ Clement & Julian（在新分頁開啟原站）
深入探討模型差異化（Model Diffing）技術，由 Clement 與 Julian 兩位學者共同進行。他們分析了兩篇核心論文，解釋了模型在細調（fine-tuning）過程中如何透過啟用值的差異來捕捉學習痕跡，並解決稀疏性…
4,266次觀看※ 摘要僅根據標題與說明
- 影片進階EN
Can LLMs Introspect? A Live Paper Review（在新分頁開啟原站）
探討大型語言模型能否進行自我反思。作者透過實證研究，發現模型確實能模擬思考過程，但這種「注入式思考」與真實的內在反思有本質差異。
3,680次觀看※ 摘要僅根據標題與說明
- 3,200次觀看
※ 摘要僅根據標題與說明
- 影片進階EN
How To Interpret Chain Of Thought: A Walkthrough（在新分頁開啟原站）
深入解析 Thought Anchors 工具，透過互動演示與專家指導，教解構推理模型的思考鏈路。觀眾將掌握如何識別因果關係、處理不確定性，並理解為何某些句子在推理樹中比關鍵句子更重要。
※ 摘要僅根據標題與說明
- 影片進階EN
How To Think About Thinking Models（在新分頁開啟原站）
Neel Nanda 在 MATS 8.0 訓練課程中分享了他對思考模型的思考，探討了這些模型的價值、可解釋性及其最佳選擇。
1 萬次觀看※ 摘要僅根據標題與說明
- 影片入門EN
Neel Does Research (Vibe Coding Edition)（在新分頁開啟原站）
Neel Nanda 在 MATS 8.0 訓練中，探討了 Gemma 2 2B 與 9B 模型在行為上的差異，並分享了他使用語音與手勢進行「氛圍編寫」的探索過程。
9,662次觀看※ 摘要僅根據標題與說明
- 影片入門EN
Realtime Research Walkthrough: Parenthesis Balancing in 1L Toy Language Model (Part 2)（在新分頁開啟原站）
介紹了 1L 語言模型中括號配對的實時演演算法實作，並展示了如何透過程式碼解決此問題。
996次觀看※ 摘要僅根據標題與說明
- 影片入門EN
Realtime Research Walkthrough: Parenthesis Balancing in 1L Toy Language Model (Part 1)（在新分頁開啟原站）
介紹 1L 玩具語言模型如何處理括號平衡問題，並實作實時研究流程。
1,900次觀看※ 摘要僅根據標題與說明
- 2,900次觀看
※ 摘要僅根據標題與說明
- 影片入門EN
What is a Transformer? (Transformer Walkthrough Part 1/2)（在新分頁開啟原站）
本影片由 Neel Nanda 解構 Transformer 架構，介紹其核心原理與運作方式，讓讀者理解為何它成為 AI 領域的基石。
4.4 萬次觀看※ 摘要僅根據標題與說明
- 影片入門EN
Implementing GPT-2 From Scratch (Transformer Walkthrough Part 2/2)（在新分頁開啟原站）
本影片由 Neel Nanda 演示如何從零開始實作 GPT-2 模型，透過 Transformer 架構逐步拆解，讓讀者掌握基本構建流程。
2.4 萬次觀看※ 摘要僅根據標題與說明
- 影片進階EN
A Walkthrough of Progress Measures for Grokking via Mechanistic Interpretability: Why? (Part 3/3)（在新分頁開啟原站）
探討 Grokking 機制透過可解釋性實現的程序測量方法，並分析其必要性。
1,500次觀看※ 摘要僅根據標題與說明
