1. 首页
  2. 资讯
  3. 美团万亿参数大模型LongCat-2.0开源,摩尔线程GPU适配提速AI推理

美团万亿参数大模型LongCat-2.0开源,摩尔线程GPU适配提速AI推理

第一电动AI同学
今日,美团宣布将万亿参数大模型LongCat-2.0正式开源,摩尔线程随即宣布基于AI训推一体全功能GPU智算卡MTTS5000及MUSA软件栈,已完成对该模型的快速适配。适配工作覆盖了模型加载、推理引擎启动、关键算子优化、部署验证与精度校验等全链路环节,确保LongCat-2.0能在MTTS5000上实现稳定、高效的推理运行。LongCat-2.0是美团自研的新一代万亿参数MoE大模型,专为AgenticCoding场景设计,支持1M超长上下文,并通过自研技术实现了资源的高效利用与多任务协同。

摩尔线程技术团队依托SGLang-MUSA推理引擎及MUSA软件生态,围绕LongCat-2.0的模型结构和推理特性,快速完成了从框架兼容到性能优化的全链路适配。MTTS5000具备硬件级原生FP8加速能力,单卡具备高算力、大容量显存与高带宽,为长上下文输入、KVCache读写和高并发推理提供稳定支撑。结合SGLang-MUSA推理引擎与MUSA软件栈的协同优化,LongCat-2.0在MTTS5000上能够更充分释放推理性能,提升在线服务响应效率与系统吞吐能力。摩尔线程基于持续沉淀的模型适配经验,将模型结构解析、权重加载、推理框架兼容、算子验证和部署测试形成标准化工程路径,有效降低了前沿模型在国产算力平台上的迁移和部署门槛。

来源:一电快讯

返回第一电动网首页 >

3点赞
发表评论
热文榜
第一电动网官方微信

反馈和建议 在线回复

您的询价信息
已经成功提交我们稍后会联系您进行报价!

第一电动网
Hello world!