美团开源万亿参数大模型LongCat-2.0,同步开放中国国产卡推理代码

美团正式开源万亿参数大模型 LongCat-2.0,总参数 1.6T,平均激活约 48B,专为真实 Agentic Coding 任务设计。架构上创新引入 LongCat 稀疏注意力和 N-gram Embedding,前者通过流感知索引与层级化索引减少碎片化访存,加速百万级长上下文训练与推理;后者在 MoE 稀疏度已接近 97% 的情况下将 135B 参数投入嵌入层,兼顾参数收益与结构稳定性。后训练采用多教师在线蒸馏,将专家分为 Agent、推理和交互三类,通过 MOPD 架构在国产算力集群上无缝融合。作为业界首个在五万卡国产算力集群上完成推理的万亿参数模型,LongCat-2.0 验证了国产芯片承载复杂大模型任务的成熟能力。针对中国国产芯片显存、带宽和互联的多重限制,美团从模型、芯片适配与部署三个方向逐一突破:模型层面通过 ScMoE 利用国产芯片控核能力实现 Dense 与 MoE 分支物理核心级并行,结合 KV-cache 切分缓解超长上下文显存压力;芯片适配层面以 Super Kernel 减少算子启动开销,通过 Weight Prefetch 隐藏 I/O 延迟,在受限条件下最大化硬件利用率;部署层面采用 PD 分离兼顾 TTFT 与 TPOT,配合异步化 Expert-Parallel 负载均衡解决大 EP 度下的负载不均。本次开源同步提供 BF16、FP8 及 INT8 等多精度版本,并将针对国产算力极致优化的推理成果完整开放,目标是让存量国产卡乃至老卡都能流畅部署万亿大模型推理服务。

风险提示
关于防范以“虚拟货币”“区块链”名义进行非法集资的风险提示 ——银保监会等五部门

免责声明
作为区块链信息平台,本站所提供的资讯信息不代表任何投资暗示,鉴于中国尚未出台数字资产相关政策及法规,请中国大陆用户谨慎进行数字货币投资。

关于我们
168ABC.com 报道全球区块链和加密货币新闻,基于公正、真实、透明和准确的新闻标准,提供相关领袖意见、评论与指南,向读者介绍在今日或将来能成功地运用的科技技术。我们相信区块链革命中最重要的是人们理解和迎接变化的能力,每天有数以万计的知识需要学习和理解,欢迎加入我们的旅程,聚集所有发声来实践改变,掌握航向前方的动力。

本资讯链接
- 168财经网