关于 AI Infra 的一切 | 对谈阶跃星辰联创朱亦博

摘要

朱亦博分享 AI 基礎設施定義，解析從傳統到大模型時代的演變與差異，探討如何衡量 Infra 成效、團隊協作與未來挑戰。內容涵蓋最佳化指標、硬體選擇、多模態發展及《The Bitter Lesson》的啟示，幫助讀者理解 AI Infra 的核心價值與實務要點。

An interview with Zhu Yibo discussing the definition, evolution, and future of AI infrastructure, including optimization metrics, hardware co-design, and industry insights.

摘要、重點與章節標題由語言模型整理，細節（誰說的、數字、先後）可能有誤；要引用請以原始內容為準。

重點

• AI Infra 涵蓋硬體、系統與平台服務三層架構。
• 大模型時代 Infra 需深入模型與硬體進行協同最佳化。
• 建議 Infra 人員靠近模型與硬體，重視長期計算效率。

章節

依話題轉折切分，標題由 AI 產生

1. 00:00揭月星辰朱亦博背景與 AI Infra 重要性
2. 09:13不同規模公司對基礎設施投入的差異
3. 12:17AI Infra 夾在兩端間的價值與生存之道
4. 16:56MFO 指標與 DeepSeek 強化學習訓練策略
5. 21:46演算法與系統團隊的協作模式與權衡
6. 26:10多模態發展與過往踩坑的經驗教訓
7. 29:13硬體革新與未來模型發展趨勢展望
8. 32:29資料管理公司如何轉型 AI 基礎設施
9. 35:32開源模型對推理市場與國產晶片的雙重影響
10. 38:51自研晶片的必要性與差異化競爭路徑
11. 43:49視覺推理模型在拍照解題等場景的應用
12. 46:53多模態模型成本下降速度與人才結構需求
13. 53:18大模型時代基礎設施人員配置與人才錯配
14. 56:25英偉達 GPU 持續的摩爾定律與算力優勢

提到的工具與公司

• Step 3
• DeepSeek
• Llama
• H20

適合誰看

適合正在從事或想轉行 AI 基礎設施、系統架構或大模型工程技術的從業人員。

摘要依據

講者

曲凯

依據

語音轉文字

為什麼排在這裡

人氣

0.50

新鮮

0.19

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• AI Infrastructure, Distribution, and the Next Wave of SoftwarePodcast ・ AI + a16z ・ 39 分鐘
• 81.Agent Infra，巨头都在布局的隐秘赛道｜与百度王雁鹏聊模型、智能体与 AI 基建的新动向Podcast ・ 卫诗婕｜漫谈 Light the Star ・ 1 小時 3 分
• The Future of AI Infrastructure with CoreWeavePodcast ・ Practical AI ・ 50 分鐘
• OpenAI’s Compute Chief: We Can’t Build Fast Enough | Sachin KattiPodcast ・ The MAD Podcast ・ 44 分鐘
• You Kaichao: vLLM, Open-Source Infra, Model Co-Design & Journey from Community to Startup影片 ・ Zhang Xiaojun Podcast ・ 2 小時 59 分（在新分頁開啟原站）
• How Capital is Powering the AI Infrastructure Buildout with Magnetar Capital Managing Director Neil TiwariPodcast ・ No Priors ・ 36 分鐘