Day-0支持|摩爾線程率先完成MiniMax M2.7大模型適配
4月12日,摩爾線程旗艦級AI訓(xùn)推一體全功能GPU MTT S5000已完成對新一代大模型MiniMax M2.7的Day-0極速適配,再次驗(yàn)證了國產(chǎn)全功能GPU對前沿AI大模型的快速響應(yīng)與穩(wěn)定支撐能力。
MiniMax M2.7是業(yè)界首個具備深度自我進(jìn)化能力的大模型,能夠自主構(gòu)建Agent Harness,通過Agent Teams協(xié)作、復(fù)雜Skills調(diào)用及Tool Search Tool等能力完成復(fù)雜生產(chǎn)力任務(wù),甚至深度參與自身迭代。在軟件工程領(lǐng)域,M2.7支持端到端完整項(xiàng)目交付、日志分析排障、代碼安全審查及機(jī)器學(xué)習(xí)任務(wù);在專業(yè)辦公場景,其Excel/PPT/Word高保真編輯與多輪修改能力顯著提升,即使在超長上下文復(fù)雜任務(wù)中仍保持穩(wěn)定的高水平skills遵循率。與此同時,該模型對長上下文處理、復(fù)雜Agent任務(wù)調(diào)度及高保真編輯等場景提出了極高的計(jì)算效率要求。

針對上述挑戰(zhàn),摩爾線程技術(shù)團(tuán)隊(duì)基于MUSA架構(gòu)完成深度調(diào)優(yōu),成功在MTT S5000上實(shí)現(xiàn)M2.7大模型的高性能推理,核心技術(shù)優(yōu)勢包括:
超長上下文高吞吐:依托MTT S5000的80GB大容量顯存、1.6TB/s高帶寬及PD分離架構(gòu),配合高效KV Cache管理,支撐MiniMax M2.7長時間、多步驟任務(wù)的穩(wěn)定執(zhí)行。
全精度端到端支持:MTT S5000原生支持FP8至FP64全精度計(jì)算,可滿足代碼生成、金融建模等場景對混合精度及高精度計(jì)算的要求,確保決策精準(zhǔn)可靠。
高算力低延遲推理:MTT S5000單卡可提供1000 TFLOPS稠密算力,結(jié)合vLLM-MUSA定制化調(diào)優(yōu),實(shí)現(xiàn)復(fù)雜Agent Harness與高頻工具調(diào)用場景下的低延遲響應(yīng)。
強(qiáng)大生態(tài)兼容性:深度兼容PyTorch、vLLM、SGLang、Triton等主流生態(tài),通過MUSA C++、Triton-MUSA、TileLang-MUSA等抽象層實(shí)現(xiàn)新算子“零成本遷移”,確保前沿模型發(fā)布當(dāng)日完成極速適配。
此次Day-0適配是摩爾線程常態(tài)化技術(shù)響應(yīng)能力的再次體現(xiàn)。依托 MUSA 架構(gòu)對主流AI生態(tài)的深度兼容與持續(xù)演進(jìn),國產(chǎn)全功能GPU算力底座已形成覆蓋前沿模型“極速適配-高效部署”的全鏈路支撐體系,幫助開發(fā)者以更快響應(yīng)、更穩(wěn)運(yùn)行、更低遷移成本第一時間接入最新模型能力,加速大模型創(chuàng)新落地與規(guī)模化應(yīng)用。
開發(fā)者可下載鏡像進(jìn)行開箱體驗(yàn):
registry.mthreads.com/presale/devtech/vllm_musa:MiniMax-M2.7




評論