Hugging Face 推出 Olmo-core 3,这是一套面向大型混合专家模型(MoE)的开放、可扩展训练基础设施。该工具的核心目标是降低大规模 MoE 模型的训练门槛,使研究者和开发者能够更便捷地开展训练工作。其开放性设计支持社区复现实验结果并进行二次开发,有助于推动开源大模型训练生态的发展。总体而言,Olmo-core 3 为大规模 MoE 训练提供了可及性更高的基础设施方案,对促进开源社区在相关领域的研究与协作具有积极意义。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅