1影片進階EN
OpenAI Astra and Recurrent Depth / Looped Transformers（在新分頁開啟原站）
介紹 OpenAI 新推出的 Astra 模型中 rumored 的「迴圈深度」（looped transformer）架構設計。
12.1 萬次觀看
※ 摘要僅根據標題與說明
Sebastian Raschka
YouTube ・ 國際 ・ 英文 ・ A 級 ・ 9.8 萬 訂閱 ・ 25 筆內容 ・ 最近更新 2026/09/26
《Build a Large Language Model (From Scratch)》作者
最受歡迎
依人氣
- 2影片入門EN
Build A Reasoning Model From Scratch 1: Motivation & Code Setup（在新分頁開啟原站）
探討從零開始構建推理模型的動機與程式碼設定，並介紹如何安裝 Python 與 PyTorch。
※ 摘要僅根據標題與說明
- 3影片高階EN
Build A Reasoning Model From Scratch 4: Inference Scaling 1 (Temperature, Top-p, Self-Consistency)（在新分頁開啟原站）
深入探討推理時擴充套件技術，涵蓋溫度調控、Top-p 過濾及多項式取樣以生成多樣化回答，並透過自一致性方法提升大語言模型回答的準確性。
※ 摘要僅根據標題與說明
- 4影片高階EN
Build A Reasoning Model From Scratch 3: The Verifier for Evaluation and RL with Verifiable Rewards（在新分頁開啟原站）
介紹如何從零開始構建一個數學驗證器，用於評估大語言模型的推理能力，並可重複用於有可驗證獎勵的強化學習訓練。
※ 摘要僅根據標題與說明
- 5影片入門EN
Build A Reasoning Model From Scratch 2: Loading a Base Model, Text Generation, and KV Caching（在新分頁開啟原站）
介紹如何從零開始構建推理模型，涵蓋載入預訓練模型、文生文機制以及 KV 快取以提升效率。
※ 摘要僅根據標題與說明
- 6影片入門EN
Build an LLM from Scratch 1: Set up your code environment（在新分頁開啟原站）
介紹如何從零開始搭建 LLM 的程式環境，讓讀者掌握基礎設定步驟。
※ 摘要僅根據標題與說明
- 7影片進階EN
How Claude's Text Watermarking Works（在新分頁開啟原站）
深入解析 Anthropic 的 Claude 文字水印技術，透過解釋大語言模型的下一個詞樣本選擇機制，說明如何將其改造成水印系統。了解此機制有助於理解其實現短板的根源。
1.9 萬次觀看※ 摘要僅根據標題與說明
※ 摘要僅根據標題與說明
- 9影片高階EN
What I Learned From Implementing LLM Architectures From Scratch (And How to Get Started)（在新分頁開啟原站）
探討從零開始在 Python 與 PyTorch 中實作 LLM 架構的經驗，透過深入檢視注意力機制、正規化層及配置檔案，讓讀者理解現代 LLM 的運作細節。
3.5 萬次觀看※ 摘要僅根據標題與說明
- 10影片入門EN
Building LLMs from the Ground Up: A 3-hour Coding Workshop（在新分頁開啟原站）
這門課程教導如何從零開始建立大型語言模型，涵蓋基礎概念與實作步驟。
17.3 萬次觀看※ 摘要僅根據標題與說明
最新內容
依發布時間
- 影片高階EN
Build A Reasoning Model From Scratch 5: Inference Scaling 2 (Logprob Scoring, Self-Refinement)（在新分頁開啟原站）
介紹推理時延的擴充套件技術，涵蓋使用平均對數分數解決投票平局問題，並深入探討自修正機制。讀者將掌握如何計算 Token 機率、最佳化數值穩定性，並實作自修正迴圈來提升模型表現。
※ 摘要僅根據標題與說明
- 影片高階EN
Build A Reasoning Model From Scratch 4: Inference Scaling 1 (Temperature, Top-p, Self-Consistency)（在新分頁開啟原站）
深入探討推理時擴充套件技術，涵蓋溫度調控、Top-p 過濾及多項式取樣以生成多樣化回答，並透過自一致性方法提升大語言模型回答的準確性。
※ 摘要僅根據標題與說明
- 影片高階EN
Build A Reasoning Model From Scratch 3: The Verifier for Evaluation and RL with Verifiable Rewards（在新分頁開啟原站）
介紹如何從零開始構建一個數學驗證器，用於評估大語言模型的推理能力，並可重複用於有可驗證獎勵的強化學習訓練。
※ 摘要僅根據標題與說明
- 影片入門EN
Build A Reasoning Model From Scratch 2: Loading a Base Model, Text Generation, and KV Caching（在新分頁開啟原站）
介紹如何從零開始構建推理模型，涵蓋載入預訓練模型、文生文機制以及 KV 快取以提升效率。
※ 摘要僅根據標題與說明
- 影片進階EN
OpenAI Astra and Recurrent Depth / Looped Transformers（在新分頁開啟原站）
介紹 OpenAI 新推出的 Astra 模型中 rumored 的「迴圈深度」（looped transformer）架構設計。
12.1 萬次觀看※ 摘要僅根據標題與說明
- 影片入門EN
Build A Reasoning Model From Scratch 1: Motivation & Code Setup（在新分頁開啟原站）
探討從零開始構建推理模型的動機與程式碼設定，並介紹如何安裝 Python 與 PyTorch。
※ 摘要僅根據標題與說明
- 影片進階EN
How Claude's Text Watermarking Works（在新分頁開啟原站）
深入解析 Anthropic 的 Claude 文字水印技術，透過解釋大語言模型的下一個詞樣本選擇機制，說明如何將其改造成水印系統。了解此機制有助於理解其實現短板的根源。
1.9 萬次觀看※ 摘要僅根據標題與說明
- 影片高階EN
What I Learned From Implementing LLM Architectures From Scratch (And How to Get Started)（在新分頁開啟原站）
探討從零開始在 Python 與 PyTorch 中實作 LLM 架構的經驗，透過深入檢視注意力機制、正規化層及配置檔案，讓讀者理解現代 LLM 的運作細節。
3.5 萬次觀看※ 摘要僅根據標題與說明
- 影片入門EN
A Visual Tour of Modern LLM Architectures（在新分頁開啟原站）
以視覺方式介紹現代大語言模型架構，透過圖解與例項說明不同設計如何運作，讓讀者理解其核心原理與應用場景。
1.7 萬次觀看※ 摘要僅根據標題與說明
- 影片入門EN
LLM Building Blocks & Transformer Alternatives（在新分頁開啟原站）
介紹 LLM 的基礎構建方法與 Transformer 的替代方案，幫助讀者理解核心概念。
2 萬次觀看※ 摘要僅根據標題與說明
- 4.6 萬次觀看
※ 摘要僅根據標題與說明
- 影片入門EN
Build an LLM from Scratch 7: Instruction Finetuning（在新分頁開啟原站）
介紹如何從零開始構建一個自定義的語言模型，並深入探討指令精調（Instruction Finetuning）的具體步驟與方法。
※ 摘要僅根據標題與說明
- 影片入門EN
Build an LLM from Scratch 6: Finetuning for Classification（在新分頁開啟原站）
介紹如何從零開始構建一個自定義的語言模型，並專注於分類任務的細調方法。
※ 摘要僅根據標題與說明
- 影片入門EN
Build an LLM from Scratch 5: Pretraining on Unlabeled Data（在新分頁開啟原站）
介紹如何從頭開始用未標記資料訓練大型語言模型，內容聚焦於基礎原理與實作步驟。
※ 摘要僅根據標題與說明
- 影片入門EN
Build an LLM from Scratch 4: Implementing a GPT model from Scratch To Generate Text（在新分頁開啟原站）
介紹如何從零開始構建一個 GPT 模型，並實作生成文字的功能。
※ 摘要僅根據標題與說明
- 影片入門EN
Build an LLM from Scratch 3: Coding attention mechanisms（在新分頁開啟原站）
介紹如何從零開始手動編寫注意力機制，是建構大型語言模型（LLM）的基礎。
7.3 萬次觀看※ 摘要僅根據標題與說明
※ 摘要僅根據標題與說明
- 影片入門EN
Build an LLM from Scratch 1: Set up your code environment（在新分頁開啟原站）
介紹如何從零開始搭建 LLM 的程式環境，讓讀者掌握基礎設定步驟。
※ 摘要僅根據標題與說明
- 影片入門EN
LLMs: A Journey Through Time and Architecture（在新分頁開啟原站）
探討大語言模型（LLM）從誕生至今的演進歷程與架構變化，幫助讀者理解其發展軌跡。
1.2 萬次觀看※ 摘要僅根據標題與說明
- 影片入門EN
Building LLMs from the Ground Up: A 3-hour Coding Workshop（在新分頁開啟原站）
這門課程教導如何從零開始建立大型語言模型，涵蓋基礎概念與實作步驟。
17.3 萬次觀看※ 摘要僅根據標題與說明
- 14.9 萬次觀看
※ 摘要僅根據標題與說明
- 影片進階EN
Managing Sources of Randomness When Training Deep Neural Networks（在新分頁開啟原站）
探討如何有效管理訓練深層神經網路中的隨機性來源，並說明其對模型效能的影響。
3,200次觀看※ 摘要僅根據標題與說明
- 影片入門EN
Insights from Finetuning LLMs with Low-Rank Adaptation（在新分頁開啟原站）
這篇影片介紹了低秩適應（LoRA）技術，一種用於訓練大型語言模型的輕量化方法，讓使用者能以較低的代價快速學習模型知識。
※ 摘要僅根據標題與說明
※ 摘要僅根據標題與說明
- 影片入門EN
Conditional Ordinal Regression for Neural Networks (CORN) With Examples in PyTorch（在新分頁開啟原站）
探討如何使用 PyTorch 實現條件序數回歸（CORN），並提供具體程式碼範例。
6,500次觀看※ 摘要僅根據標題與說明
