跳到主要內容
AI 武林
影片進階中文5,047 次觀看

EP146 - 市值只有 NVIDIA 的 1%,卻想挑戰 AI 晶片霸主:深度解析 Cerebras

來源 科技浪

看影片(在新分頁開啟原站)連到 科技浪

其他版本:Podcast 版(在新分頁開啟)

摘要

探討市值僅 NVIDIA 1% 的 Cerebras 公司,其晶片面積達 Costco 全尺寸披薩大小,卻以每秒 2.1 萬 TB 的頻寬挑戰 NVIDIA。作者深入解析 Cerebras 為何選擇 SRAM 儲存權重與 KV Cache 來解決記憶體密度與面積的矛盾,並對比其與 NVIDIA Blackwell 的技術差異。

This episode explores Cerebras, an AI hardware company with only 1% of NVIDIA's market cap, whose chips are as large as a Costco pizza but boast an extreme 21,000 TB/s bandwidth. The author delves into why Cerebras chose SRAM to store model weights and KV Cache, solving the density-area trade-off, a…

重點

  • Cerebras 市值僅 NVIDIA 1%,晶片面積巨大卻頻寬極高
  • 採用 SRAM 儲存模型權重與 KV Cache 解決密度與面積矛盾
  • SRAM 頻寬達 2.1 萬 TB/s,遠超 NVIDIA Blackwell 的 8 TB/s

章節

依話題轉折切分,標題由 AI 產生

  1. 00:00諾爾 VPN 如何從防毒軟體轉型為 AI 晶片競爭者
  2. 02:57Cerebras 為何市值僅 NVIDIA 的 1% 卻敢挑戰霸主地位
  3. 07:19Meta 租出 AI 算力引發股價飆升的背後邏輯
  4. 16:47Meta 與 OpenAI 為何必須全力押注 Frontier AI 平台
  5. 21:34Cerebras 如何將 GPT-5.6 模型部署於其專有晶片上
  6. 24:39Cerebras 成立初衷:從 AI 專用於計算的廣告營收
  7. 33:07Cerebras 的技術起點:基於 AI 運算第一性原理的突破
  8. 37:35為何傳統 GPU 架構難以應對大模型的前後文 KV Cache 問題
  9. 48:33SRAM 與 HBM 的技術代差:Cerebras 如何透過小體積高頻寬記憶體勝
  10. 54:49Cerebras 客戶群:從量化交易到 Coding Agent 的應用場景
  11. 58:16Cerebras 的技術賭注:低電壓推論與叢集規模記憶體的最佳化
  12. 1:02:04低電壓推論如何解決電壓功耗平方關係帶來的算力瓶頸
  13. 1:06:28叢集規模記憶體如何重新設計乙太網路架構以突破速度限制
  14. 1:11:00Cerebras 如何重新定義 AI 時代的散熱與通訊協議

提到的工具與公司

  • SRAM
  • HBM
  • Blackwell
  • WS-E3
  • NVIDIA

適合誰看

對 AI 晶片架構、記憶體設計與 AI 運算原理感興趣的技術愛好者。

摘要依據

依據
語音轉文字

為什麼排在這裡

人氣
0.33
新鮮
0.71

在主題頁與搜尋結果裡,名次由相關、人氣、新鮮三個分數決定;這一頁沒有搜尋的關鍵字,所以沒有相關分數。排序怎麼算

摘要由 AI 根據原文產生,可能有誤;完整內容請看原站。看影片(在新分頁開啟原站)