Stanford CS229 Machine Learning | Spring 2026 | Lecture 7: Neural Networks 1 (Architecture)

摘要

介紹神經網路的架構與訓練方法，從線性模型擴展至非線性模型，並詳細說明反傳播演算法與激活函數（如 ReLU）。學員將學習如何定義神經網路函式、計算損失函式的梯度，以及理解層歸一化等技術如何穩定訓練過程。

This lecture introduces the architecture of neural networks, the backpropagation algorithm, and activation functions like ReLU for training deep learning models.

摘要、重點與章節標題由語言模型整理，細節（誰說的、數字、先後）可能有誤；要引用請以原始內容為準。

重點

• 介紹神經網路作為非線性模型的基礎架構與訓練框架。
• 詳解反傳播演算法如何計算梯度以更新模型參數。
• 說明 ReLU 激活函數與層歸一化對穩定訓練的作用。

章節

依話題轉折切分，標題由 AI 產生

1. 00:05課程概覽：深度學習與反向傳播基礎
2. 02:26非線性模型定義與參數最佳化框架
3. 20:00隨機梯度下降與區域性極小值特性
4. 29:34高維空間極小值分佈與滑雪比喻
5. 33:06批次梯度下降與 GPU 資源利用策略
6. 36:03反向傳播演算法與房屋價格預測案例
7. 38:55ReLU 激活函數及其生物神經網路啟發
8. 41:55高維輸入下的線性與非線性擴展
9. 55:56常見的非線性激活函數介紹
10. 59:01神經網路層數與參數索引方式
11. 1:03:19多層感知器與維度縮減策略
12. 1:11:35層歸一化原理與可調參數
13. 1:16:47層歸一化帶來的尺度不變性
14. 1:19:21卷積神經網路與權重共享機制

提到的工具與公司

• Stanford CS229
• ReLU

適合誰看

正在學習機器學習理論、準備進入深度學習領域的學生或工程師。

摘要依據

依據

人工字幕

為什麼排在這裡

人氣

0.65

新鮮

0.78

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• Stanford CS229 Machine Learning | Spring 2026 | Lecture 8: Neural Networks 2 (Backprop)影片 ・ Stanford Online ・ 1 小時 2 分（在新分頁開啟原站）
• Stanford CS229 Machine Learning | Spring 2026 | Lecture 2: Supervised Learning Setup影片 ・ Stanford Online ・ 1 小時 18 分
• Building makemore Part 3: Activations & Gradients, BatchNorm影片 ・ Andrej Karpathy ・ 1 小時 56 分（在新分頁開啟原站）
• The spelled-out intro to neural networks and backpropagation: building micrograd影片 ・ Andrej Karpathy ・ 2 小時 26 分（在新分頁開啟原站）
• MIT 6.S191 (2024): Convolutional Neural Networks影片 ・ Alexander Amini ・ 1 小時 8 分（在新分頁開啟原站）
• MIT Introduction to Deep Learning (2024) | 6.S191影片 ・ Alexander Amini ・ 1 小時 10 分（在新分頁開啟原站）