Building LLMs from the Ground Up: A 3-hour Coding Workshop

摘要

由 Sebastian Raschka 指導，教導程式人員如何從零開始使用 PyTorch 編寫大型語言模型。觀眾將學習從資料處理、核心架構到預訓練與微調的完整流程。

This tutorial teaches how to code large language models from scratch using PyTorch, covering architecture, pretraining, and fine-tuning.

這筆內容還沒有取得字幕或內文，這段摘要只根據標題與說明欄產生，可能不夠準確；實際內容請以原站為準。

提到的工具與公司

• PyTorch
• LitGPT

適合誰看

具備程式基礎並想深入理解大型語言模型原理的開發者。

摘要依據

講者

Sebastian Raschka

依據

標題與說明欄（還沒有取得字幕或內文）

為什麼排在這裡

人氣

0.49

新鮮

0.05

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• What I Learned From Implementing LLM Architectures From Scratch (And How to Get Started)影片 ・ Sebastian Raschka ・ 53 分鐘
• Build an LLM from Scratch 5: Pretraining on Unlabeled Data影片 ・ Sebastian Raschka ・ 2 小時 37 分
• Coding a Transformer from scratch on PyTorch, with full explanation, training and inference.影片 ・ Umar Jamil ・ 2 小時 59 分
• Train an LLM from Scratch with Karpathy's Nanochat影片 ・ Trelis Research ・ 29 分鐘
• Coding a ChatGPT Like Transformer From Scratch in PyTorch影片 ・ StatQuest with Josh Starmer ・ 31 分鐘
• The spelled-out intro to language modeling: building makemore影片 ・ Andrej Karpathy ・ 1 小時 58 分