聽節目(在新分頁開啟原站)連到 What's Next|科技早知道
摘要
探討端側 AI 如何解決記憶缺失問題。康洪文指出,大模型適合儲存公域知識,而端側應專注於記錄個人記憶。節目分析了端側與雲端的差異,並預測未來算力與模型將持續最佳化,最終實現完整的記憶系統。
This podcast explores how end-side AI can solve the memory deficit issue. Henry Kang discusses the difference between end-side and cloud-side, predicting future improvements in compute and models.
摘要、重點與章節標題由語言模型整理,細節(誰說的、數字、先後)可能有誤;要引用請以原始內容為準。
重點
- 端側 AI 應專注於個人記憶,而非公域知識。
- 端側執行比雲端更適合個人隱私與自主權。
- 未來算力將指數增長,模型將持續最佳化。
章節
依話題轉折切分,標題由 AI 產生
- 00:00英偉達 RTX Spark 如何將小型 AI 超算塞進筆記本
- 04:31大模型記憶的生態位與社會資源最大化
- 09:22ClipTo 如何實現本地完全百分百的本地執行
- 12:27端雲混合架構如何協助職場人士協同記憶
- 16:05多模態 Notebook LLM 如何理解複雜任務
- 19:01單一智力不夠:記憶與知識的結合必要性
- 23:58純資料不叫記憶:如何定義個人知識庫
- 27:17AI 模型算力不足催生 Memory Layer 需求
- 31:48從 Notebook LM 看端側 Memory 的挑戰
- 36:50從模型迭代到端側自研的艱難路徑
- 42:10Memory Layer 能否在全球生態中落地
- 47:00從資料飛輪看 Memory Layer 的價值
- 50:55Memory Layer 是否會是 AI 五層蛋糕中的一環
- 55:54端側部署 Memory Layer 的門檻與挑戰
提到的工具與公司
- OpenAI
適合誰看
對端側 AI 技術感興趣、希望了解個人記憶系統的開發者。
摘要依據
- 依據
- 語音轉文字
為什麼排在這裡
- 人氣
- 0.50
- 新鮮
- 0.72
在主題頁與搜尋結果裡,名次由相關、人氣、新鮮三個分數決定;這一頁沒有搜尋的關鍵字,所以沒有相關分數。排序怎麼算
相關內容
- EP145 - 記憶體如何成爲 AI 的關鍵瓶頸?| 專訪 美光 資深副總裁 Jeremy Werner 與 Mark Montierth影片 ・ 科技浪 ・ 50 分鐘
- Agent memory resolved?影片 ・ AI Jason ・ 15 分鐘(在新分頁開啟原站)
- 用 AI 让我们变笨了吗?| S10E25Podcast ・ What's Next|科技早知道 ・ 46 分鐘
- How might LLMs store facts | Deep Learning Chapter 7影片 ・ 3Blue1Brown ・ 23 分鐘(在新分頁開啟原站)
- Why Your Agent Needs Memory, Not Just ContextPodcast ・ The AI Native Dev ・ 44 分鐘
- Inside the $41B AI Cloud Challenging Big Tech | CoreWeave SVPPodcast ・ Gradient Dissent ・ 53 分鐘(在新分頁開啟原站)
摘要由 AI 根據原文產生,可能有誤;完整內容請看原站。聽節目(在新分頁開啟原站)
