Reflection AI 发布了其首个开放权重模型 Beam,这是一个稀疏混合专家(MoE)架构模型,总参数量 501B,每 token 激活 23B,面向编程、推理和智能体工作负载。据团队介绍,Beam 在推理基准上仅需 GLM 5.2 等更大开放模型三到四分之一的推理算力,主打推理效率而非绝对能力领先。模型基于 23.8 万亿 token 预训练,数据筛选剔除了约 95% 的原始网络 token,同时保留了约 1.8 万亿被常规过滤器丢弃的高质量数据。架构上采用局部与全局注意力交错及细粒度路由专家,并改进了 DeepSeek-V3 的无辅助损失负载均衡方法。预训练在 6144 块 NVIDIA GB300 GPU 上不到四周完成,有效上下文经中期训练扩展至 100 万 token。Beam 目前处于红队测试阶段,尚未开放自托管,仅通过候补名单提供早期访问。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅