聽節目（在新分頁開啟原站）連到 OnBoard!
摘要
探討開發大模型應用所需的新一代技術棧，涵蓋了從開發框架、資料儲存到可觀測性的全面變革。
This podcast episode discusses the new technology stack required for developing large model applications, covering comprehensive transformations in development frameworks, data storage, and observability.
重點
- 開發大模型應用需要全新的技術棧，以應對複雜的AI工作流。
- AI 應用將引入新的可觀測性體系，以精確追蹤 Token 生成與使用者體驗。
- 多模態與非結構化資料將重塑基礎設施與開發工具的架構。
章節
依話題轉折切分，標題由 AI 產生
- 00:00直播回放：什麼是開發大模型應用的新一代底層技術棧？
- 25:24低程式碼與進階工程：從傳統 API 到 Agent 管理的變革
- 35:39Kubernetes 的侷限與新正規化：模型服務與資源排程的重構
- 40:39虛擬化節節敗退：GPU 計算與 SQL 檢索的重新崛起
- 47:59從 MySQL 到 Oracle：處理非結構化資料的 ETL 挑戰
- 50:21現代可觀測性：解決複雜系統指標與故障診斷的痛點
- 56:35AI 應用的歷史追蹤：從 Chat History 到行為最佳化
- 1:03:56混合檢索架構：向量檢索與知識圖譜的融合
- 1:20:16雲原生與 API 成本：OpenAI 的猶豫與開源生態的博弈
- 1:24:24Model Inference 的開源化：從 Hugging Face 到專用雲
- 1:35:25雲廠商與模型提供商：API 時代的格局與未來關係
- 1:38:47端側模型部署：Facebook 的 Neural Style Transfer
- 1:43:12電商平台的 AI 路由：推薦系統與模型形態的融合
- 1:48:54Snowflake 與 Oracle：資料與工程層面的 AI 賦能機會
提到的工具與公司
- Bedrock
- Anthropic
- Kubernetes
- CNCF
- DSPy
- Caffe2
- PyTorch
適合誰看
對 AI 開發棧、可觀測性工程及多模態資料處理感興趣的開發者與技術人員。
摘要依據
- 講者
- Monica Xie
- 依據
- 語音轉文字
為什麼排在這裡
- 人氣
- 0.50
- 新鮮
- 0.08
在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算
相關內容
- Everything Gets Rebuilt: The New AI Agent Stack | Harrison Chase, LangChainPodcast ・ The MAD Podcast ・ 47 分鐘（在新分頁開啟原站）
- EP 48. 对话Lepton AI创始人贾扬清：AI需要怎样的基础设施，模型与应用未来格局Podcast ・ OnBoard! ・ 1 小時 27 分（在新分頁開啟原站）
- LLM Architecture in 2026: What You Need to Know with Sebastian RaschkaPodcast ・ Vanishing Gradients ・ 1 小時 18 分（在新分頁開啟原站）
- EP 54. 深度对谈顶尖AI开源项目：大模型开源生态, Agent 与中国力量Podcast ・ OnBoard! ・ 3 小時 19 分（在新分頁開啟原站）
- Accelerating AI innovation影片 ・ CoreWeave ・ 9 分鐘（在新分頁開啟原站）
- E223｜应用爆发之年：聊聊模型技术进化与商业化Podcast ・ 硅谷101 ・ 1 小時 7 分（在新分頁開啟原站）
摘要由 AI 根據原文產生，可能有誤；完整內容請看原站。聽節目（在新分頁開啟原站）