16.1 萬次觀看
※ 摘要僅根據標題與說明
最受歡迎
依人氣
- 2影片進階EN
[GRPO Explained] DeepSeekMath: Pushing the Limits of Mathematical Reasoning in Open Language Models（在新分頁開啟原站）
介紹 DeepSeekMath 7B 模型，該模型結合了新的 RL 技術與迭代資料收集，僅用 7B 引數便能在數學大挑戰中達到 51.7% 的成績，接近 GPT-4 水平。
17.5 萬次觀看※ 摘要僅根據標題與說明
- 3影片入門EN
Were RNNs All We Needed? (Paper Explained)（在新分頁開啟原站）
探討 RNN 的歷史地位與未來，指出其已過時，並介紹了 Transformer 如何取代它成為主流。
6 萬次觀看※ 摘要僅根據標題與說明
- 4影片入門EN
Byte Latent Transformer: Patches Scale Better Than Tokens (Paper Explained)（在新分頁開啟原站）
這篇論文探討 Byte 模型中「Latent Transformer」與「Token」的效能差異，指出在特定情境下，Latent Transformer 的表現優於 Token 架構。
4.8 萬次觀看※ 摘要僅根據標題與說明
- 5影片進階EN
On the Biology of a Large Language Model (Part 1)（在新分頁開啟原站）
深入解析 Claude 3.5 Haiku 的內部機制，透過作者團隊的電路追蹤方法，探討該輕量化生產模型在不同情境下的運作原理。
5.9 萬次觀看※ 摘要僅根據標題與說明
- 6影片高階EN
[Paper Analysis] On the Theoretical Limitations of Embedding-Based Retrieval (Warning: Rant)（在新分頁開啟原站）
探討向量嵌入在檢索任務中的理論限制，指出即使查詢極其簡單，模型仍可能無法返回所有相關結果。作者結合學習理論，證明嵌入維度限制了能返回的頂部 k 個結果數量，並透過 LIMIT 資料集驗證，即使最優模型也無法解決此問題。
3.7 萬次觀看※ 摘要僅根據標題與說明
- 7影片高階EN
TiDAR: Think in Diffusion, Talk in Autoregression (Paper Analysis)（在新分頁開啟原站）
TiDAR 是一種結合擴散與自回歸架構的序列級混合模型，能在單次前向傳播中同時進行擴散推理與自回歸樣本驗證。該模型透過精心設計的結構化注意力掩碼，利用 GPU 的計算密度平衡了生成效率與品質，並支援 KV 快取，在 1.5B 至 8B 規…
※ 摘要僅根據標題與說明
- 8影片高階EN
Titans: Learning to Memorize at Test Time (Paper Analysis)（在新分頁開啟原站）
分析了一篇關於「泰坦」架構的論文，該架構結合了注意力機制與新的長期記憶模組，以解決傳統模型在長上下文處理上的限制。實驗結果顯示，Titan 在語言建模、常識推理及基因組學等任務中表現優於傳統 Transformer 模型，並能更有效地處理…
2.5 萬次觀看※ 摘要僅根據標題與說明
- 9影片進階EN
Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters (Paper)（在新分頁開啟原站）
這篇論文探討如何透過測試時計算最佳化來提升大語言模型的效能，而非單純增加引數。
3.1 萬次觀看※ 摘要僅根據標題與說明
- 10影片進階EN
Leave No Context Behind: Efficient Infinite Context Transformers with Infini-attention（在新分頁開啟原站）
介紹了如何透過 Infini-attention 技術，解決大型模型在無限上下文處理上的效率問題，並展示了實際應用案例。
6 萬次觀看※ 摘要僅根據標題與說明
最新內容
依發布時間
- 影片入門EN
I BUILT A FULLY AUTOMATIC MANSPLAINER（在新分頁開啟原站）
介紹了 Yannic Kilcher 如何打造一個完全自動化的男性廁所解決方案，並展示了其與 DGX Spark 的連結。
1.2 萬次觀看※ 摘要僅根據標題與說明
- 影片高階EN
TiDAR: Think in Diffusion, Talk in Autoregression (Paper Analysis)（在新分頁開啟原站）
TiDAR 是一種結合擴散與自回歸架構的序列級混合模型，能在單次前向傳播中同時進行擴散推理與自回歸樣本驗證。該模型透過精心設計的結構化注意力掩碼，利用 GPU 的計算密度平衡了生成效率與品質，並支援 KV 快取，在 1.5B 至 8B 規…
※ 摘要僅根據標題與說明
- 影片高階EN
Titans: Learning to Memorize at Test Time (Paper Analysis)（在新分頁開啟原站）
分析了一篇關於「泰坦」架構的論文，該架構結合了注意力機制與新的長期記憶模組，以解決傳統模型在長上下文處理上的限制。實驗結果顯示，Titan 在語言建模、常識推理及基因組學等任務中表現優於傳統 Transformer 模型，並能更有效地處理…
2.5 萬次觀看※ 摘要僅根據標題與說明
- 影片進階EN
[Paper Analysis] The Free Transformer (and some Variational Autoencoder stuff)（在新分頁開啟原站）
這篇論文介紹了基於變分自編碼器（VAE）的無監督學習方法，用於擴充套件 Transformer 的解碼器。作者提出一種機制，讓生成過程能依賴隨機隱變數，無需監督資料即可訓練，並證實此方法能顯著提升下游任務表現。
2.4 萬次觀看※ 摘要僅根據標題與說明
- 影片入門EN
[Video Response] What Cloudflare's code mode misses about MCP and tool calling（在新分頁開啟原站）
探討 Cloudflare 的 Code Mode 功能，並指出其對 MCP（模型上下文協議）及工具呼叫的處理方式存在盲點。
9,738次觀看※ 摘要僅根據標題與說明
- 影片高階EN
[Paper Analysis] On the Theoretical Limitations of Embedding-Based Retrieval (Warning: Rant)（在新分頁開啟原站）
探討向量嵌入在檢索任務中的理論限制，指出即使查詢極其簡單，模型仍可能無法返回所有相關結果。作者結合學習理論，證明嵌入維度限制了能返回的頂部 k 個結果數量，並透過 LIMIT 資料集驗證，即使最優模型也無法解決此問題。
3.7 萬次觀看※ 摘要僅根據標題與說明
- 影片入門EN
Byte Latent Transformer: Patches Scale Better Than Tokens (Paper Explained)（在新分頁開啟原站）
這篇論文探討 Byte 模型中「Latent Transformer」與「Token」的效能差異，指出在特定情境下，Latent Transformer 的表現優於 Token 架構。
4.8 萬次觀看※ 摘要僅根據標題與說明
- 影片進階EN
Safety Alignment Should be Made More Than Just a Few Tokens Deep (Paper Explained)（在新分頁開啟原站）
標題指出安全對齊不應僅靠少量 Token 深度，而需更廣泛地考量。
1.3 萬次觀看※ 摘要僅根據標題與說明
- 影片高階EN
TokenFormer: Rethinking Transformer Scaling with Tokenized Model Parameters (Paper Explained)（在新分頁開啟原站）
探討 TokenFormer 如何透過將 Transformer 的引數分塊，解決模型過大問題。
1.9 萬次觀看※ 摘要僅根據標題與說明
- 影片進階EN
GSM-Symbolic: Understanding the Limitations of Mathematical Reasoning in Large Language Models（在新分頁開啟原站）
探討大型語言模型在數學推理上的限制，並分析 GSM 模型如何透過 Symbolic 方法來解決這些問題。
2.1 萬次觀看※ 摘要僅根據標題與說明
- 影片入門EN
Were RNNs All We Needed? (Paper Explained)（在新分頁開啟原站）
探討 RNN 的歷史地位與未來，指出其已過時，並介紹了 Transformer 如何取代它成為主流。
6 萬次觀看※ 摘要僅根據標題與說明
- 影片進階EN
Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters (Paper)（在新分頁開啟原站）
這篇論文探討如何透過測試時計算最佳化來提升大語言模型的效能，而非單純增加引數。
3.1 萬次觀看※ 摘要僅根據標題與說明
- 16.1 萬次觀看
※ 摘要僅根據標題與說明
- 影片進階EN
Context Rot: How Increasing Input Tokens Impacts LLM Performance (Paper Analysis)（在新分頁開啟原站）
本研究指出，大語言模型（LLM）的表現並非均勻處理所有上下文，隨著輸入字數增加，其可靠性會顯著下降。作者評估了包括 GPT-4.1 與 Claude 4 在內的 18 個模型，發現模型對長文字的處理能力遠不如短文字，這挑戰了傳統假設。
3.4 萬次觀看※ 摘要僅根據標題與說明
- 影片進階EN
Energy-Based Transformers are Scalable Learners and Thinkers (Paper Review)（在新分頁開啟原站）
探討能量基礎轉譯器（EBTs）能否像人類 System 2 思考一樣，僅憑無監督學習即可思考。作者提出一種新方法，透過驗證輸入與預測的相容性來最佳化，成功讓 EBTs 在文字與視覺模態下均能比 Transformer++ 更快、更有效地訓…
3.3 萬次觀看※ 摘要僅根據標題與說明
- 影片高階EN
On the Biology of a Large Language Model (Part 2)（在新分頁開啟原站）
深入解析 Claude 3.5 Haiku 的內部機制，透過作者團隊的電路追蹤方法，探討該輕量化生產模型在不同情境下的運作原理。
1.8 萬次觀看※ 摘要僅根據標題與說明
- 影片進階EN
On the Biology of a Large Language Model (Part 1)（在新分頁開啟原站）
深入解析 Claude 3.5 Haiku 的內部機制，透過作者團隊的電路追蹤方法，探討該輕量化生產模型在不同情境下的運作原理。
5.9 萬次觀看※ 摘要僅根據標題與說明
- 影片進階EN
[GRPO Explained] DeepSeekMath: Pushing the Limits of Mathematical Reasoning in Open Language Models（在新分頁開啟原站）
介紹 DeepSeekMath 7B 模型，該模型結合了新的 RL 技術與迭代資料收集，僅用 7B 引數便能在數學大挑戰中達到 51.7% 的成績，接近 GPT-4 水平。
17.5 萬次觀看※ 摘要僅根據標題與說明
- 影片入門EN
Traditional Holiday Live Stream（在新分頁開啟原站）
Yannic Kilcher 在 YouTube 上發表了一篇關於傳統節日直播的影片，探討了如何利用直播技術結合 AI 工具來提升內容互動與效率。
5,228次觀看※ 摘要僅根據標題與說明
- 影片進階EN
Privacy Backdoors: Stealing Data with Corrupted Pretrained Models (Paper Explained)（在新分頁開啟原站）
這篇論文探討如何透過被汙染的預訓練模型來竊取資料，並提出一種方法來修復這些漏洞。
1.8 萬次觀看※ 摘要僅根據標題與說明
- 影片進階EN
Scalable MatMul-free Language Modeling (Paper Explained)（在新分頁開啟原站）
這篇影片介紹了 Yannic Kilcher 的 Scalable MatMul-free Language Modeling 技術，透過最佳化計算方式讓模型在更大規模下執行，適合希望提升 AI 效能的讀者。
3.5 萬次觀看※ 摘要僅根據標題與說明
- 影片入門EN
Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools (Paper Explained)（在新分頁開啟原站）
探討如何評估主流 AI 法律研究工具的準確性，並指出目前缺乏可靠方法驗證其結果。
※ 摘要僅根據標題與說明
- 4.5 萬次觀看
※ 摘要僅根據標題與說明
- 影片入門EN
[ML News] OpenAI is in hot waters (GPT-4o, Ilya Leaving, Scarlett Johansson legal action)（在新分頁開啟原站）
標題指出 OpenAI 目前面臨嚴重爭議，主要涉及 GPT-4o 模型、伊利亞離職以及莎朗·史東的法律訴訟。
3.3 萬次觀看※ 摘要僅根據標題與說明
- 影片進階EN
ORPO: Monolithic Preference Optimization without Reference Model (Paper Explained)（在新分頁開啟原站）
ORPO 是一項不用參考模型就能最佳化偏好資料的單體方法，旨在解決大模型偏好調教中的參考模型依賴問題。
2.6 萬次觀看※ 摘要僅根據標題與說明
- 影片入門EN
[ML News] Chips, Robots, and Models（在新分頁開啟原站）
這則報導介紹了 Yannic Kilcher 於 ML News 發表的關於晶片、機器人與 AI 模型的影片，內容涵蓋相關技術趨勢。
2.9 萬次觀看※ 摘要僅根據標題與說明
- 影片入門EN
TransformerFAM: Feedback attention is working memory（在新分頁開啟原站）
介紹 TransformerFAM 是一個結合工作記憶與回饋迴路的 AI 架構，旨在提升模型對長期記憶的處理能力。
3.9 萬次觀看※ 摘要僅根據標題與說明
- 影片入門EN
[ML News] Devin exposed | NeurIPS track for high school students（在新分頁開啟原站）
標題說明這是關於 AI 模型 Devin 被公開揭露的報導，並提及 NeurIPS 學生競賽的相關資訊。
4.1 萬次觀看※ 摘要僅根據標題與說明
- 影片進階EN
Leave No Context Behind: Efficient Infinite Context Transformers with Infini-attention（在新分頁開啟原站）
介紹了如何透過 Infini-attention 技術，解決大型模型在無限上下文處理上的效率問題，並展示了實際應用案例。
6 萬次觀看※ 摘要僅根據標題與說明
