聽節目（在新分頁開啟原站）連到 What's Next｜科技早知道
摘要
探討 GTC 2026 上 AI 競爭焦點從模型轉向推理系統，分析 Eigen AI 等公司如何加速開源模型。內容涵蓋 GPU 與 LPU 分工、Token 消耗激增對商業模式的衝擊，以及推理最佳化技術路徑。
A podcast discussing the shift in AI competition from model training to inference systems at GTC 2026, featuring an interview with Eigen AI founders.
摘要、重點與章節標題由語言模型整理，細節（誰說的、數字、先後）可能有誤；要引用請以原始內容為準。
重點
- GTC 2026 顯示 AI 競爭戰場已從模型轉向推理系統。
- Agent 爆發導致 Token 消耗量激增，推動推理速度需求。
- GPU 與 LPU 分工合作，成為長序列推理的最優解。
章節
依話題轉折切分，標題由 AI 產生
- 00:00英偉達 GTC 2026 開幕與生態回顧
- 02:53黃仁勳自信滿滿與推理趨勢分析
- 07:24Eigen 團隊背景與推理最佳化方向
- 10:13Eigen 創始人 MIT 背景與技術理念
- 20:01推理架構層級與 Together AI 優勢
- 23:55英偉達收購 LPU 與 KV Cache 重要性
- 26:23Token 消耗暴增與推理成本挑戰
- 29:12TPU 生態瓶頸與 Blackwell 效能差距
- 33:24GPU 生態成熟度與推理系統架構分層
- 37:33稀疏化與量化技術提升推理效率
- 40:01專家剪枝在 MoE 架構中的應用實例
- 42:49自動 KV Cache 如何最佳化長序列推演
- 46:50互動型與 Agent 型別的應用場景分類
- 52:20開源模型普及與商業模式轉型趨勢
提到的工具與公司
- NVIDIA
- Groq
- LPU
- CUDA
- OpenCL
- AlphaMIO
適合誰看
關注 AI 產業趨勢、推理最佳化技術或大模型商業運作的從業人員。
摘要依據
- 依據
- 語音轉文字
為什麼排在這裡
- 人氣
- 0.50
- 新鮮
- 0.48
在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算
相關內容
- Shaping the Next Industrial Era: Meet the NVIDIA Inception Spotlight Startups at GTC Taipei 2026影片 ・ NVIDIA ・ 5 分鐘（在新分頁開啟原站）
- E230｜1万亿收入预期背后：英伟达的巅峰与软肋Podcast ・ 硅谷101 ・ 1 小時 6 分
- 【NVIDIA GTC Taipei 黃仁勳演講即時中文翻譯】思考、行動、推理！黃仁勳定錨 2026 AI 新賽道？（直播抽獎： NVIDIA RTX 4080）【泛科學 Watch Party】影片 ・ PanSci ・ 2 小時 46 分（在新分頁開啟原站）
- 81.Agent Infra，巨头都在布局的隐秘赛道｜与百度王雁鹏聊模型、智能体与 AI 基建的新动向Podcast ・ 卫诗婕｜漫谈 Light the Star ・ 1 小時 3 分
- EP116 - Google 挑戰 NVIDIA 霸權的開始？深度解析 TPUPodcast ・ 科技浪 Tech.wav ・ 1 小時 20 分
- The Biggest Chip Ever Built — Why OpenAI Runs On It | Cerebras CEO Andrew FeldmanPodcast ・ The MAD Podcast ・ 1 小時 13 分
摘要由 AI 根據原文產生，可能有誤；完整內容請看原站。聽節目（在新分頁開啟原站）