看影片(在新分頁開啟原站)連到 科技浪
其他版本:Podcast 版(在新分頁開啟)
摘要
探討市值僅 NVIDIA 1% 的 Cerebras 公司,其晶片面積達 Costco 全尺寸披薩大小,卻以每秒 2.1 萬 TB 的頻寬挑戰 NVIDIA。作者深入解析 Cerebras 為何選擇 SRAM 儲存權重與 KV Cache 來解決記憶體密度與面積的矛盾,並對比其與 NVIDIA Blackwell 的技術差異。
This episode explores Cerebras, an AI hardware company with only 1% of NVIDIA's market cap, whose chips are as large as a Costco pizza but boast an extreme 21,000 TB/s bandwidth. The author delves into why Cerebras chose SRAM to store model weights and KV Cache, solving the density-area trade-off, a…
重點
- Cerebras 市值僅 NVIDIA 1%,晶片面積巨大卻頻寬極高
- 採用 SRAM 儲存模型權重與 KV Cache 解決密度與面積矛盾
- SRAM 頻寬達 2.1 萬 TB/s,遠超 NVIDIA Blackwell 的 8 TB/s
章節
依話題轉折切分,標題由 AI 產生
- 00:00諾爾 VPN 如何從防毒軟體轉型為 AI 晶片競爭者
- 02:57Cerebras 為何市值僅 NVIDIA 的 1% 卻敢挑戰霸主地位
- 07:19Meta 租出 AI 算力引發股價飆升的背後邏輯
- 16:47Meta 與 OpenAI 為何必須全力押注 Frontier AI 平台
- 21:34Cerebras 如何將 GPT-5.6 模型部署於其專有晶片上
- 24:39Cerebras 成立初衷:從 AI 專用於計算的廣告營收
- 33:07Cerebras 的技術起點:基於 AI 運算第一性原理的突破
- 37:35為何傳統 GPU 架構難以應對大模型的前後文 KV Cache 問題
- 48:33SRAM 與 HBM 的技術代差:Cerebras 如何透過小體積高頻寬記憶體勝
- 54:49Cerebras 客戶群:從量化交易到 Coding Agent 的應用場景
- 58:16Cerebras 的技術賭注:低電壓推論與叢集規模記憶體的最佳化
- 1:02:04低電壓推論如何解決電壓功耗平方關係帶來的算力瓶頸
- 1:06:28叢集規模記憶體如何重新設計乙太網路架構以突破速度限制
- 1:11:00Cerebras 如何重新定義 AI 時代的散熱與通訊協議
提到的工具與公司
- SRAM
- HBM
- Blackwell
- WS-E3
- NVIDIA
適合誰看
對 AI 晶片架構、記憶體設計與 AI 運算原理感興趣的技術愛好者。
摘要依據
- 依據
- 語音轉文字
為什麼排在這裡
- 人氣
- 0.33
- 新鮮
- 0.71
在主題頁與搜尋結果裡,名次由相關、人氣、新鮮三個分數決定;這一頁沒有搜尋的關鍵字,所以沒有相關分數。排序怎麼算
相關內容
- 挑战GPU、绕过HBM,深挖史上最大芯片背后的Cerebras影片 ・ 硅谷101 ・ 44 分鐘(在新分頁開啟原站)
- E251|推理芯片之战:聊聊Groq、Cerebras与OpenAI三大路径与Bill Dally的设计哲学影片 ・ 硅谷101播客 ・ 1 小時 32 分
- Cerebras AI 專用晶片捨棄 HBM!記憶體市場要洗牌了嗎?【科學關鍵字EP2】影片 ・ PanSci ・ 10 分鐘(在新分頁開啟原站)
- The Biggest Chip Ever Built — Why OpenAI Runs On It | Cerebras CEO Andrew FeldmanPodcast ・ The MAD Podcast ・ 1 小時 13 分(在新分頁開啟原站)
- AI内存的技术混战 | 伯恩斯坦研究报告 | AI内存 | HBM | CXL | DRAM | NAND | KV缓存 | 存储器产业 | AI算力底层硬件 | 存储级内存 | 人工智能推理影片 ・ Best Partners TV ・ 20 分鐘(在新分頁開啟原站)
- XEP27 - Cerebras 深度分析:高速推論市場、競爭壁壘與成長空間【試聽】影片 ・ 科技浪 ・ 16 分鐘
摘要由 AI 根據原文產生,可能有誤;完整內容請看原站。看影片(在新分頁開啟原站)
