美团LongCat-2.0正式开源,国产卡推理代码同步发布
币界网消息,美团宣布正式开源LongCat-2.0,并同步开放国产卡推理代码。作为业界首个在五万卡国产算力集群上完成推理的万亿参数模型,LongCat-2.0已全面开源。针对显存与带宽受限的国产算力芯片,团队在模型架构、芯片适配到部署策略上进行了深度协同优化,使得万亿参数模型在存量卡上同样能够稳定、高效运行。本次开源提供了bf16、fp8以及int8等多精度版本,全面覆盖不同算力平台的部署需求。同时,团队将针对国产算力极致优化的推理成果同步开源,旨在让更多的国产卡,包括老卡,都能流畅部署万亿大模型推理服务,发挥更大价值。