跳到主要內容
AI 武林
影片進階EN3,706 次觀看

Fast inference changes what you can build

來源 DeepLearningAI

看影片(在新分頁開啟原站)連到 YouTube・DeepLearningAI

摘要

說明大型語言模型推論時,記憶體傳輸是主要瓶頸,並介紹 Cerebras Wafer-Scale Engine 如何解決此問題。課程教導如何利用該硬體建立即時應用,如即時翻譯與語音代理。

This short course explains how the Cerebras Wafer-Scale Engine solves the memory bottleneck in LLM inference to enable real-time applications.

這筆內容還沒有取得字幕或內文,這段摘要只根據標題與說明欄產生,可能不夠準確;實際內容請以原站為準。

提到的工具與公司

  • Cerebras
  • WSE-3

適合誰看

正在學習大型語言模型推論最佳化或開發即時 AI 應用的開發者。

摘要依據

依據
標題與說明欄(還沒有取得字幕或內文)

為什麼排在這裡

人氣
0.46
新鮮
0.72

在主題頁與搜尋結果裡,名次由相關、人氣、新鮮三個分數決定;這一頁沒有搜尋的關鍵字,所以沒有相關分數。排序怎麼算

摘要由 AI 根據標題與說明欄產生(還沒有取得原文),可能有誤;完整內容請看原站。看影片(在新分頁開啟原站)