The Biggest Chip Ever Built — Why OpenAI Runs On It | Cerebras CEO Andrew Feldman

摘要

Matt Turck 與 Cerebras 執行長 Andrew Feldman 討論了 AI 推理的瓶頸。Andrew 解釋了 Cerebras 開發的巨型晶片如何透過大規模 SRAM 解決記憶體限制，並實現每秒每使用者的 token 速度，讓 AI 從實驗階段進入實際生產應用。

Matt Turck and Cerebras CEO Andrew Feldman discuss the bottleneck in AI inference. Andrew explains how Cerebras built the largest chip ever, using massive SRAM to overcome memory limits and achieve blazing fast token speeds, marking the transition from experimental AI to production-ready systems.

重點

• Cerebras 開發了史上最大晶片，解決記憶體瓶頸。
• AI 推理速度決定產品能否進入實際生產。
• 每秒每使用者 token 速度是衡量 AI 效能的關鍵指標。

章節

依話題轉折切分，標題由 AI 產生

1. 00:00Cirrus 晶片：史上最大晶片為何能跑通
2. 04:21晶片產業格局：從單一晶片到多核專化
3. 11:20全球晶片競爭：中美市場與生態系差異
4. 14:38雲端運算：AI 工作流與市場泡沫
5. 17:42供需失衡：AI 需求與記憶體瓶頸
6. 22:53CPU 短缺：AGI 時代的行動執行器
7. 26:22架構誤區：為何不要將模型嵌入晶片
8. 31:07SRAM 突破：為何超大 SRAM 能解決速度問題
9. 34:24深科技挑戰：八千萬美元月營收的背後
10. 40:49系統思維：如何設計高可靠性的巨型晶片
11. 52:56分散式計算：為何超級電腦才擅長大運算
12. 59:28雲端服務：Anthropic 與 OpenAI 的合約細節
13. 1:02:43服務與訂閱：從測試環境到專用解決方案
14. 1:12:17生態系策略：CUDA 模式之外的競爭優勢

提到的工具與公司

• Cerebras
• ASIC
• SRAM
• HBM
• TPU
• TSMC
• CUDA

適合誰看

對 AI 晶片架構、推理效能與生產應用感興趣的技術人員。

摘要依據

講者

Matt Turck

依據

語音轉文字

為什麼排在這裡

人氣

0.50

新鮮

0.76

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• EP146 - 市值只有 NVIDIA 的 1%，卻想挑戰 AI 晶片霸主：深度解析 Cerebras影片 ・ 科技浪 ・ 1 小時 15 分
• 挑战GPU、绕过HBM，深挖史上最大芯片背后的Cerebras影片 ・ 硅谷101 ・ 44 分鐘（在新分頁開啟原站）
• EP145 - 記憶體如何成爲 AI 的關鍵瓶頸？| 專訪 美光 資深副總裁 Jeremy Werner 與 Mark Montierth影片 ・ 科技浪 ・ 50 分鐘
• E251｜推理芯片之战：聊聊Groq、Cerebras与OpenAI三大路径与Bill Dally的设计哲学影片 ・ 硅谷101播客 ・ 1 小時 32 分
• Fast inference changes what you can build影片 ・ DeepLearningAI ・ 2 分鐘（在新分頁開啟原站）
• The Story Behind Cerebras’ $63 Billion IPO with Founder and CEO Andrew FeldmanPodcast ・ No Priors ・ 31 分鐘（在新分頁開啟原站）