Let's build GPT: from scratch, in code, spelled out.

摘要

Andrej Karpathy 從零開始用程式碼手動編寫 GPT 模型，並結合 GitHub Copilot 輔助開發。觀眾能透過此影片理解自回歸語言模型的實作細節與 PyTorch 架構。

Andrej Karpathy builds a GPT model from scratch using code and GitHub Copilot assistance.

這筆內容還沒有取得字幕或內文，這段摘要只根據標題與說明欄產生，可能不夠準確；實際內容請以原站為準。

提到的工具與公司

• PyTorch
• GitHub Copilot
• Google Colab
• nanoGPT

適合誰看

具備 PyTorch 基礎且想深入理解大語言模型原理的開發者。

摘要依據

講者

Andrej Karpathy

依據

標題與說明欄（還沒有取得字幕或內文）

為什麼排在這裡

人氣

0.92

新鮮

0.60

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• Let's reproduce GPT-2 (124M)影片 ・ Andrej Karpathy ・ 4 小時 1 分
• Let's build the GPT Tokenizer影片 ・ Andrej Karpathy ・ 2 小時 14 分
• Build an LLM from Scratch 4: Implementing a GPT model from Scratch To Generate Text影片 ・ Sebastian Raschka ・ 1 小時 46 分
• Coding a ChatGPT Like Transformer From Scratch in PyTorch影片 ・ StatQuest with Josh Starmer ・ 31 分鐘
• Building LLMs from the Ground Up: A 3-hour Coding Workshop影片 ・ Sebastian Raschka ・ 2 小時 45 分
• Coding a Transformer from scratch on PyTorch, with full explanation, training and inference.影片 ・ Umar Jamil ・ 2 小時 59 分