AI 武林：Llama

Is Speculative Decoding Worth It? Profiling vLLM on NVIDIA Blackwell — Akamai

AI Engineer — Wed, 07 Oct 2026 00:00:00 +0800

Sheilah Kirui 介紹 Speculative Decoding 技術，利用小模型預測多個 token 供大模型驗證以加速推理。

原站：https://www.youtube.com/watch?v=XTpyNrEgJQ4

Framework Desktop 擴充 NVIDIA GPU：用 OCuLink 外接 RTX 5070 Ti

ihower（張文鈿） — Sun, 04 Oct 2026 00:00:00 +0800

分享如何透過 OCuLink 技術，將 NVIDIA RTX 5070 Ti 外接到 Framework Desktop，解決 AMD 平台跑 PyTorch 專案的 CUDA 支援問題。

原站：https://ihower.tw/blog/13789-framework-desktop-nvidia-gpu-oculink

Inside-Out AI: Rebuilding Airbnb Behind the Scenes and Across the Guest Experience

Latent Space — Fri, 02 Oct 2026 00:00:00 +0800

Airbnb 前 Meta 大模型負責人 Ahmad Al-Dahle 分享如何將 AI 從內部開發流程帶到外部使用者體驗，透過 Everest 等工具加速產品上市。

原站：https://www.latent.space/p/airbnb

Webinar: AI Agent Simulation of Human Behavior with Michael Bernstein

Stanford Online — Wed, 30 Sep 2026 00:00:00 +0800

教授 Michael Bernstein 探討如何利用大型語言模型模擬人類行為，打造能預測組織與客戶反應的 AI 代理。透過深度訪談建立「數位孿生」，解決傳統模擬模型過於簡化或刻板印象的問題，協助決策者進行更精準的「如果」情境推演。

原站：https://www.youtube.com/watch?v=6EIkeKruJaI

OpenRouter: from Seed to Stripe — with OpenRouter’s Alex Atallah & AMP’s Anjney Midha

Latent Space — Sat, 26 Sep 2026 00:00:00 +0800

OpenRouter 創辦人 Alex Atallah 與 AMP 的 Anjney Midha 訪談，回顧從早期開源模型到成為百萬開發者路由層的歷程。

原站：https://www.latent.space/p/openrouter

Teaching LLMs to Speak Spotify — Yves Raimond & Jacqueline Wood, Spotify

AI Engineer — Fri, 25 Sep 2026 00:00:00 +0800

Spotify 分享如何用 NEO 四階段訓練法，將開源大型語言模型轉化為能理解其百萬級歌單與播客的「Spotify 語言」。透過凍結主幹的領域接地與多工指令微調，系統能支援使用者用自然語言互動、編輯喜好並生成動態體驗，同時保留語言能力。

原站：https://www.youtube.com/watch?v=2LRIAfng7eA

Understand Local AI in 15 Minutes

Tech With Tim — Tue, 22 Sep 2026 00:00:00 +0800

介紹本地 AI 的定義、硬體需求與最佳模型選擇，並提供從入門到高階的三種實際設定方案。看完後你能了解如何根據記憶體與頻寬選擇適合的模型，並判斷何時該用雲端還是本地 AI。

原站：https://www.youtube.com/watch?v=oZ-w0kOpylw

The current balance of power in open models

Interconnects — Mon, 21 Sep 2026 00:00:00 +0800

Podcast 訪談探討 2026 年開放權重 AI 模型的全球權力平衡，指出中國模型在商業可行性與下載量上已超越美國。內容分析開放模型與封閉模型的差異、學術界採用趨勢、技術演進速度，以及由此帶來的資安風險與監管不確定性。

原站：https://www.interconnects.ai/p/the-current-balance-of-power-in-open

From Voice Agents to AI Avatars with Alexander Smola - #777

The TWIML AI Podcast — Thu, 17 Sep 2026 00:00:00 +0800

Alex Smola 探討從語音代理到視覺化 AI 頭像的技術挑戰，包括即時語音處理的延遲、音訊分詞與推理成本，以及多模態系統如何模擬人類的情感智慧與文化適應能力。

原站：https://twimlai.com/podcast/twimlai/voice-agents-ai-avatars

Build a Local AI Agent in 10 Minutes using Python

Tech With Tim — Fri, 11 Sep 2026 00:00:00 +0800

教學如何在 Python 環境下，利用本地模型建立 AI 代理，無需 API 金鑰或雲端服務。觀眾可學習使用 Ollama 下載模型、安裝程式庫並撰寫指令碼，讓 AI 具備執行工具的能力。

原站：https://www.youtube.com/watch?v=ByWCsa8DbF8

从DeepSeek、Kimi到“黄仁勋联盟”：AI模型开源，到底“开”了什么？

硅谷101 — Thu, 13 Aug 2026 00:00:00 +0800

解析 DeepSeek、Kimi 等模型「開放權重」與真正開源的差異，探討不同許可證對開發者使用權限的影響，並分析黃仁勳聯盟對 AI 產業的意義。

原站：https://www.youtube.com/watch?v=NEHcGq80GQ0

Stanford CS229 Machine Learning | Spring 2026 | Lecture 20: GMM (EM), PCA

Stanford Online — Sat, 01 Aug 2026 00:00:00 +0800

深入解析強化學習中的策略梯度演算法，並詳細介紹 PPO 演算法如何透過截斷優勢函式來穩定訓練。內容涵蓋數學原理、PPO 的截斷機制，以及用 RL 訓練大型語言模型長鏈式推理的實務挑戰與方法。

原站：https://www.youtube.com/watch?v=J7CossjMvEg

Baseten CEO Tuhin Srivastava on the AI Inference Crunch, Custom Models, and Building the Inference Cloud

No Priors — Sat, 02 May 2026 00:00:00 +0800

Baseten 執行長 Tuhin Srivastava 與 Sarah Guo、Elad Gil 探討 AI 推理市場爆發、GPU 資源匱乏與客製化模型趨勢。

原站：https://traffic.megaphone.fm/PDP9772942588.mp3

当我们在讨论 Harness 的时候，我们在讨论什么 | 深度对谈: Minimax × Hermes Agent

十字路口Crossing — Wed, 29 Apr 2026 00:00:00 +0800

這場深度訪談邀請了 MiniMax 與 Hermes Agent 的代表，探討 Agent 技術從 OpenClaw 到 Hermes 的演進、Harness 如何解決記憶與技能沉澱問題，以及多 Agent 協作的未來。

原站：https://www.xiaoyuzhoufm.com/episode/69e96b5b1e94ae6921ee3c2b

How DeepSeek leveraged Qwen and Llama to build its model in $5M

The AI Native Dev — Tue, 07 Apr 2026 00:00:00 +0800

探討 AI 開放原始碼的真實含義，指出僅有授權不夠，需重視社群與貢獻。DeepSeek 透過知識蒸餾技術，僅用 500 萬美元便打造出 frontier 模型，顯示模型可透過組合其他模型（如 Qwen、Llama）快速建構。

原站：https://www.buzzsprout.com/2375985/episodes/18975696-how-deepseek-leveraged-qwen-and-llama-to-build-its-model-in-5m

Why Nvidia builds open models with Bryan Catanzaro

Interconnects — Thu, 05 Feb 2026 00:00:00 +0800

訪談 NVIDIA 應用深度學習研究副總裁 Bryan Catanzaro，探討 Nemotron 開放模型計畫的商業策略與技術目標。

原站：https://www.interconnects.ai/p/why-nvidia-builds-open-models-with

Agentic Search: 搜尋技術不會消失，只是變成 Agent 工具

ihower（張文鈿） — Wed, 31 Dec 2025 00:00:00 +0800

探討搜尋技術如何從傳統關鍵字匹配演變為由 AI Agent 主導的代理搜尋，涵蓋語意搜尋與代理搜尋的差異。讀者可了解 Agent 如何規劃步驟、呼叫工具並反思結果，以及將使用者滿意度納入評估的實作技巧。

原站：https://ihower.tw/blog/13595-agentic-search

【生成式人工智慧與機器學習導論2025】第3講：解剖大型語言模型

Hung-yi Lee — Mon, 29 Sep 2025 00:00:00 +0800

深入剖析大型語言模型內部運作原理，從 Token 化到 Embedding 表，再到 Attention 機制與層級結構。

原站：https://www.youtube.com/watch?v=8iFvM7WUUs8

The Man Behind World’s Largest Dev Con | Stephan & Devoxx

The AI Native Dev — Tue, 09 Sep 2025 00:00:00 +0800

Stephan Janssen 分享如何從「Vibe coding」快速原型轉向「Spec to code」完成大型專案，並探討 AI 代理在開發中的角色。內容涵蓋工具選擇、開發流程調整及對 DevOps 會議的規劃。

原站：https://www.buzzsprout.com/2375985/episodes/17809170-the-man-behind-world-s-largest-dev-con-stephan-devoxx

关于 AI Infra 的一切 | 对谈阶跃星辰联创朱亦博

42章经 — Sat, 02 Aug 2025 00:00:00 +0800

朱亦博分享 AI 基礎設施定義，解析從傳統到大模型時代的演變與差異，探討如何衡量 Infra 成效、團隊協作與未來挑戰。內容涵蓋最佳化指標、硬體選擇、多模態發展及《The Bitter Lesson》的啟示，幫助讀者理解 AI Infra…

原站：https://www.xiaoyuzhoufm.com/episode/688cc1cc8e06fe8de7d920cd

【生成式AI時代下的機器學習(2025)】第十一講：今天你想為 Foundation Model 裝備哪些 Task Vector？淺談神奇的 Model Merging 技術

Hung-yi Lee — Sat, 17 May 2025 00:00:00 +0800

李宏毅教授介紹 Model Merging 技術，透過計算不同微調模型與基礎模型的參數差（Task Vector），直接加減參數即可融合新能力，無需額外訓練或資料。

原站：https://www.youtube.com/watch?v=jFUwoCkdqAo

【生成式AI時代下的機器學習(2025)】第六講：生成式人工智慧的後訓練(Post-Training)與遺忘問題

Hung-yi Lee — Sun, 20 Apr 2025 00:00:00 +0800

李宏毅教授深入解析生成式 AI 的後訓練（Post-Training）與遺忘問題，說明如何為通用模型注入特定技能。課程探討了避免模型在學習新任務時遺忘原有能力的策略，並介紹了過濾難產生 Token 的技術。

原站：https://www.youtube.com/watch?v=Z6b5-77EfGk

【生成式AI導論 2024】第12講：淺談檢定大型語言模型能力的各種方式

Hung-yi Lee — Sat, 11 May 2024 00:00:00 +0800

介紹如何評估大型語言模型的能力，涵蓋選擇題、翻譯、長文閱讀等任務的評比方法。內容指出傳統基準如 MMLU、BLEU 存在缺陷，並探討模型可能偷看訓練資料的現象，提供更客觀的評估視角。

原站：https://www.youtube.com/watch?v=Hk8Z0uhmWg4

【生成式AI導論 2024】第11講：大型語言模型在「想」什麼呢？ — 淺談大型語言模型的可解釋性

Hung-yi Lee — Sat, 04 May 2024 00:00:00 +0800

李宏毅教授探討大型語言模型的可解釋性，透過實作實驗與理論分析，說明如何判斷模型是否透明、可解讀及可解釋。課程涵蓋開源與閉源模型的差異、探針分析（probing）方法、信心分數評估，以及模型可能編造解釋的風險，幫助讀者理解當前 AI 黑盒的…

原站：https://www.youtube.com/watch?v=rZzfqkfZhY8

【生成式AI導論 2024】第7講：大型語言模型修練史 — 第二階段: 名師指點，發揮潛力 (兼談對 ChatGPT 做逆向工程與 LLaMA 時代的開始)

Hung-yi Lee — Mon, 25 Mar 2024 00:00:00 +0800

介紹大型語言模型第二階段的訓練方法，即利用人類標註的指令資料進行微調（Instruction Fine-tuning）。講者解釋了為何僅靠網路爬蟲資料無法讓模型具備常識，並說明如何透過逆向工程 ChatGPT 對話來獲取訓練資料。

原站：https://www.youtube.com/watch?v=Q9cNkUPXUB8

Language Modeling Reading List (to Start Your Paper Club)

Eugene Yan（部落格） — Sun, 07 Jan 2024 00:00:00 +0800

整理一份語言模型領域的經典論文清單，每篇都附有一句話的核心摘要。讀者可以透過這份清單快速了解 Transformer、大型語言模型、提示工程及相關技術的關鍵概念，並建立自己的論文閱讀俱樂部。

原站：https://eugeneyan.com//writing/llm-reading-list

BERT explained: Training, Inference, BERT vs GPT/LLamA, Fine tuning, [CLS] token

Umar Jamil — Thu, 26 Oct 2023 00:00:00 +0800

詳細解說 BERT 模型的訓練、推理與微調機制，並與 GPT 及 LLaMA 進行比較。觀眾可透過視覺化步驟理解自注意力機制、[CLS] token 等核心概念，掌握自然語言處理的基礎原理。

原站：https://www.youtube.com/watch?v=90mGPxR2GgY