Modal Clusters are generally available

摘要

Modal 正式推出 Modal Clusters，透過單一裝飾器即可啟動多節點 GPU 叢集並支援 RDMA 高速通訊。使用者可透過裝飾器設定叢集大小與 RDMA 開關，自動處理節點排程與網路配置，僅按實際使用時間計費。

Modal announces generally available Modal Clusters with built-in RDMA support for high-speed multi-node training and inference workloads.

摘要、重點與章節標題由語言模型整理，細節（誰說的、數字、先後）可能有誤；要引用請以原始內容為準。

重點

• Modal 推出 Modal Clusters，透過單一裝飾器即可啟動多節點叢集。
• 內建 RDMA 支援，自動配置 PyTorch 與 NCCL，通訊速度達 6.4 Tbps。
• 僅按實際使用時間計費，並提供自動節點健康檢查與修復。

提到的工具與公司

• Modal
• PyTorch
• NCCL
• gVisor
• RDMA
• InfiniBand
• GLM 4.7
• Llama 3.1

適合誰看

正在訓練大模型或進行多節點推理，需要高速度網路與彈性叢集資源的開發者。

摘要依據

依據

文章全文

為什麼排在這裡

人氣

0.35

新鮮

0.97

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• Anthropic integration with Modal brings scalable compute to Claude Science文章 ・ Modal Blog
• Product Updates: RTX Pro 6000 Blackwell, Command K, Sandbox FS API and more文章 ・ Modal Blog
• DeepSeek V4.1 Flash on Strix Halo: Single-Node SSD vs Two-Node Cluster (DwarfStar)影片 ・ Donato Capitella
• 代理式AI帶動CPU需求 Intel以開放生態布局資料中心商機文章 ・ MakerPRO