OpenBMB发布了MiniCPM5系列的第二代模型MiniCPM5-2B,这是一个拥有25.2亿参数的稠密因果语言模型,其中约19.8亿参数位于嵌入层之外。模型采用42层架构、分组查询注意力机制,原生支持131,072个token的上下文窗口,并基于标准Llama架构设计,无需定制内核即可在主流推理引擎中运行。在34项基准测试中,MiniCPM5-2B平均得分53.9,超越同尺寸竞品,甚至高于更大规模的Qwen3.5-4B(51.1分)。其代码推理能力突出,在LiveCodeBench v6上达到69.1分,工具使用表现尤为亮眼,τ²-Bench Telecom得分97.1。训练采用SFT、强化学习及在线策略蒸馏的流程,基于UltraData分层数据管理方法。模型权重采用Apache 2.0许可,支持端侧部署。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅