Qwen3.8-2.4T-A95B now available on Modal

摘要

Alibaba 推出 Qwen3.8-2.4T-A95B 開源模型，支援一 M token 語意窗，並透過 Modal Auto Endpoints 提供部署。文章介紹如何利用 SGLang 與自訂 DFlash 猜測器加速推理，提升程式碼與長程任務表現。

Alibaba launches Qwen3.8-2.4T-A95B on Modal with inference acceleration via SGLang and DFlash.

摘要、重點與章節標題由語言模型整理，細節（誰說的、數字、先後）可能有誤；要引用請以原始內容為準。

重點

• Qwen3.8-2.4T-A95B 模型在程式設計與研究任務上顯著最佳化。
• 透過 SGLang 與 DFlash 猜測器實現推理加速。
• 目前以 OpenAI 相容共享端點形式提供一個月試用。

提到的工具與公司

• Qwen3.8-2.4T-A95B
• Modal
• SGLang
• DFlash

適合誰看

需要部署大型語言模型或最佳化推理速度的開發者與工程師。

摘要依據

依據

文章全文

為什麼排在這裡

人氣

0.35

新鮮

0.80

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• Qwen3.8-27B & How to Serve it Fast影片 ・ Sam Witteveen ・ 18 分鐘
• Qwen 3.8 Max文章 ・ AINews（Latent Space／smol.ai）
• Qwen3.8-27B 正式开源！越狱无审查！最低 8GB 显存就能跑，媲美顶级闭源模型？本地部署实测 | 零度解说影片 ・ 零度解说 ・ 11 分鐘
• Introducing Modal Auto Endpoints: Optimized inference you actually own文章 ・ Modal Blog
• Day 0 Support for Qwen3.8-2.4T-A95B on vLLM文章 ・ vLLM Blog
• 阿里除夕献礼千问3.5，原生多模态，超高性价比 ,硬刚Gemini影片 ・ 技术爬爬虾 ・ 9 分鐘