Podcast進階EN
Why People Are Paying 10x More for AI - and What That Means for the Chip Market | Sid Sheth, d-Matrix
來源 Eye On A.I.
聽節目（在新分頁開啟原站）連到 Eye On A.I.
摘要
Sid Sheth 與 Craig Smith 探討 AI 晶片市場如何因「高互動性」需求而分裂，NVIDIA 架構在低延遲推理上受限，而 D-Matrix 等專用架構能提供更快的記憶體頻寬。訪談中還分享了利用 AI 進行 M&A 策略、組織自動化及未來經濟變遷的觀點。
Sid Sheth discusses the emerging premium token economy in AI inference, the limitations of NVIDIA GPUs for low-latency tasks, and the rise of organizational AI agents.
摘要、重點與章節標題由語言模型整理，細節（誰說的、數字、先後）可能有誤；要引用請以原始內容為準。
重點
- AI 晶片市場正因低延遲需求分裂為兩層，NVIDIA 無法滿足高互動性。
- D-Matrix 採用專用架構，提供比 GPU 快一個數量級的記憶體頻寬。
- AI 正從工具轉變為能獨立決策的組織智慧，並改變企業運作模式。
章節
依話題轉折切分，標題由 AI 產生
- 00:00AI 代理驅動企業運作與晶片市場趨勢
- 03:13低延遲推理成高互動付費關鍵
- 05:51D-Matrix 加速伺服器部署與收購 Vega Isle
- 13:30機器人自主應用與 Lego 式晶片架構
- 19:12任務抽象化通往全自動化組織管理
- 21:47企業內部 AI 代理框架與 C 級助手應用
- 26:11大模型推理能力提升引發真實辯論
- 29:59私有資料中心迴流趨勢與轉型
- 33:50企業資料駐留疑慮與 API 整合
- 36:14美國市場主導與創新源頭策略
- 38:56晶片供應鏈瓶頸與產能展望
- 41:43解決關鍵問題驅動供應鏈合作
- 48:21醫療領域應用與藥物研發前景
提到的工具與公司
- NVIDIA
- Claude Code
- OpenCL
- ChatGPT
適合誰看
關注 AI 硬體架構、晶片市場趨勢或企業組織自動化策略的從業人員。
摘要依據
- 講者
- Craig S. Smith
- 依據
- 語音轉文字
為什麼排在這裡
- 人氣
- 0.35
- 新鮮
- 0.84
在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算
相關內容
- The Biggest Chip Ever Built — Why OpenAI Runs On It | Cerebras CEO Andrew FeldmanPodcast ・ The MAD Podcast ・ 1 小時 13 分
- EP125 - NVIDIA 護城河失效？誰會是 AI 晶片贏家？ | 專訪 耐能智慧創辦人暨執行長劉峻誠博士影片 ・ 科技浪 ・ 1 小時 16 分
- EP146 - 市值只有 NVIDIA 的 1%，卻想挑戰 AI 晶片霸主：深度解析 Cerebras影片 ・ 科技浪 ・ 1 小時 15 分
- Ep 74: Chief Scientist of Together.AI Tri Dao On The End of Nvidia's Dominance, Why Inference Costs Fell & The Next 10X in SpeedPodcast ・ Unsupervised Learning ・ 59 分鐘（在新分頁開啟原站）
- 达摩院首席科学家：CPU不行，龙虾再好也跑不快！ #科技 #芯片 #AI影片 ・ 老石谈芯 Shilicon Talk ・ 2 分鐘（在新分頁開啟原站）
- Build Custom AI Infrastructure with NVIDIA NVLink Fusion影片 ・ NVIDIA ・ 2 分鐘（在新分頁開啟原站）
摘要由 AI 根據原文產生，可能有誤；完整內容請看原站。聽節目（在新分頁開啟原站）