Stanford CS229 Machine Learning | Spring 2026 | Lecture 11: Diffusion Models

摘要

深入解析擴散模型（Diffusion Models）的數學原理，涵蓋從正向加噪到逆向去噪的馬可夫鏈過程。學員將理解如何利用神經網路學習逆向函式，並掌握基於高斯分佈的損失函式匯出方法，了解其為何優於 GAN 與變分自編碼器。

This lecture explains the mathematical principles of diffusion models, covering the forward noising process, reverse denoising via Markov chains, and the derivation of the loss function based on Gaussian distributions.

摘要、重點與章節標題由語言模型整理，細節（誰說的、數字、先後）可能有誤；要引用請以原始內容為準。

重點

• 擴散模型透過逐步加噪與逆向去噪生成高品質影像。
• 正向過程為線性加噪，逆向過程利用馬可夫性質推導。
• 損失函式本質為兩個高斯分佈之間的 KL 散度。

章節

依話題轉折切分，標題由 AI 產生

1. 00:05擴散模型概覽與應用場景
2. 04:08從純噪聲逆向還原影像
3. 08:36前向加噪過程的數學定義
4. 10:44前向過程的協方差推導
5. 21:46前向過程收斂至標準正態
6. 27:34前向過程固定與逆向學習
7. 31:52逆向去噪過程的參數學習
8. 40:41布朗運動加噪導致不可逆性
9. 43:04連續時間視角下的隨機微分方程
10. 51:17隨機過程符號與密度函式含義
11. 54:24透過證據下界進行最大似然估計
12. 58:03推導變分下界與後驗推斷架構
13. 1:05:00KL 散度作為防止過擬合的正則化項
14. 1:12:32利用鏈式法則分解單步重建誤差

提到的工具與公司

• CS229
• GANs
• EM Algorithm
• MLP

適合誰看

正在學習機器學習理論、希望深入理解生成式模型原理的學生或研究者。

摘要依據

依據

人工字幕

為什麼排在這裡

人氣

0.56

新鮮

0.78

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• Stanford CS229 Machine Learning | Spring 2026 | Lecture 12: Representation Learning影片 ・ Stanford Online ・ 1 小時 16 分
• What are Diffusion Models?文章 ・ Lilian Weng（部落格）
• Stanford CME296 Diffusion & Large Vision Models | Spring 2026 | Lecture 8 - Trending Topics影片 ・ Stanford Online ・ 1 小時 50 分
• Variational Autoencoder - Model, ELBO, loss function and maths explained easily!影片 ・ Umar Jamil ・ 27 分鐘（在新分頁開啟原站）
• Generating 3D Models with Diffusion - Computerphile影片 ・ Computerphile ・ 16 分鐘（在新分頁開啟原站）
• How diffusion models work - explanation and code!影片 ・ Umar Jamil ・ 21 分鐘（在新分頁開啟原站）