Build A Reasoning Model From Scratch 4: Inference Scaling 1 (Temperature, Top-p, Self-Consistency)

摘要

介紹如何從零開始實現推理時縮放技術，包括溫度調整、Top-p 過濾與自一致性方法，以提升大型語言模型的推理準確度與多樣性。觀眾可學習如何手動實作這些參數控制，並理解其對輸出品質的影響。

This video teaches how to implement inference scaling techniques like temperature, top-p, and self-consistency to improve LLM reasoning from scratch.

這筆內容還沒有取得字幕或內文，這段摘要只根據標題與說明欄產生，可能不夠準確；實際內容請以原站為準。

適合誰看

適合有程式基礎且想深入理解大型語言模型推理機制的人。

摘要依據

講者

Sebastian Raschka

依據

標題與說明欄（還沒有取得字幕或內文）

為什麼排在這裡

人氣

0.60

新鮮

0.93

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• Controlling Reasoning Effort in LLMs文章 ・ Sebastian Raschka（部落格）
• Stanford CS329A Self-Improving AI Agents | Part 2 | Test-Time Compute Scaling影片 ・ Stanford Online ・ 1 小時 3 分
• Build A Reasoning Model From Scratch 5: Inference Scaling 2 (Logprob Scoring, Self-Refinement)影片 ・ Sebastian Raschka ・ 1 小時 9 分
• Temperature & Top-p：掌控大模型的创造力开关影片 ・ 马克的技术工作坊 ・ 17 分鐘
• State of LLMs 2026: RLVR, GRPO, Inference Scaling — Sebastian RaschkaPodcast ・ The MAD Podcast ・ 1 小時 8 分
• 【生成式AI時代下的機器學習(2025)】第八講：大型語言模型的推理過程不用太長、夠用就好影片 ・ Hung-yi Lee ・ 24 分鐘