Day-0支持|摩尔线程率先完成MiniMax M3大模型适配

来源:摩尔线程 #摩尔线程#
722

MiniMax M3开源地址:

https://huggingface.co/MiniMaxAI/MiniMax-M3

开发者可下载镜像进行开箱体验:

registry.mthreads.com/mcconline/inference/vllm:v0.20.0-ph1-4.3.5-torch2.9-20260605-mtcc51

MiniMax M3是目前国内唯一同时具备前沿Coding & Agentic能力、超长下文与原生多模态的开源大模型,也是第一个将完整frontier能力带入开放世界的模型。该模型基于自研MSA(MiniMax Sparse Attention)架构,可将上下文窗口扩展至1M级别,并在BrowseComp、SWE-Bench Pro等国际权威评测中达到前沿水平。作为原生多模态模型,M3重构了整个数据管线,从第零步开始多模态训练,使文本和视觉语义空间高度对齐。

图示:MiniMax M3的Coding & Agentic能力在软件工程、终端执行、工具调用等多维度权威评测中达到前沿水平。

针对MiniMax M3的核心技术特性,MTT S5000从硬件算力、软件栈到开源框架进行了全链路精准匹配与深度优化:

支撑超长上下文:高密度算力与大显存提供坚实支撑。

MSA架构带来的超长上下文窗口,对推理阶段的KV Cache存储和访存带宽提出了极高要求。MTT S5000凭借硬件级原生FP8加速单卡AI算力(稠密)高达1000 TFLOPS;同时配备80GB大容量显存与1.6TB/s的超高带宽,为百万token级长序列提供充足的缓存空间与卓越的数据吞吐能力。此外,依托MUSA C++与Triton-MUSA等抽象层,M3的新算子结构可实现快速迁移,确保摩尔线程平台能够快速完成架构适配。

赋能前沿Coding与Agentic能力:实现低延迟、高吞吐的推理优化。

面向M3重点强化的编程与智能体场景,摩尔线程基于此前对DeepSeek-V4、MiniMax M2.7、GLM-5.1等多款国产旗舰模型的Day-0适配经验,已形成一套高效、系统化的复杂推理任务优化方法论。本次适配通过原生算子定制,在保障模型精度无损的前提下,显著提升推理吞吐、降低响应延迟;同时,摩尔线程完成了vLLM与SGLang两大主流推理框架的同步拉起,以MUSA开放架构拥抱开源生态,为开发者提供灵活多样的部署选择。

推动原生多模态推理:覆盖全精度与贯通全场景。

M3作为从Step 0即进行多模态混合训练的模型更适配当下Agentic AI多元场景的需求,同时这也要求算力底座具备多元化算力。MTT S5000智算卡覆盖从FP8至FP64全计算精度,可无缝适配从模型研发到商业化落地的完整链路,助力国产旗舰大模型快速完成生态普及。

随着MiniMax M3在MTT S5000上完成适配,开发者现在即可基于MUSA软件栈与vLLM/SGLang双框架完成部署,并持续获得算子级性能优化。依托MUSA架构对主流AI生态的深度兼容与持续演进,摩尔线程已具备覆盖前沿模型“适配—部署—优化”的完整工程能力,帮助开发者以更快响应、更稳运行、更低迁移成本接入最新模型能力,加速大模型创新落地与规模化应用。

关于摩尔线程

摩尔线程以全功能GPU为核心,致力于向全球提供加速计算的基础设施和一站式解决方案,为各行各业的数智化转型提供强大的AI计算支持。

我们的目标是成为具备国际竞争力的GPU领军企业,为融合人工智能和数字孪生的数智世界打造先进的加速计算平台。我们的愿景是为美好世界加速。

责编: 爱集微
来源:摩尔线程 #摩尔线程#
THE END
关闭
加载

PDF 加载中...