Meta 发布 Muse Spark Open,一款面向智能体编程工作流优化的 816B 参数混合专家(MoE)模型,每个 token 激活 42B 参数,通过 256 个专家中的 top-8 路由实现。该模型基于 NVIDIA GB300 NVL72 Blackwell Ultra 训练,具备更高的首次尝试准确率、可靠的工具调用能力以及对代码仓库的深度理解。其 100 万 token 上下文窗口可容纳包含复杂依赖、遗留代码和数千文件的完整项目,无需拆分任务。模型在图像和文档理解之外新增音频与视频感知,通过 1.8B 感知编码器原生处理交错模态。Meta 生成的 NVFP4 检查点针对 Blackwell Ultra 优化,借助原生 FP4 Tensor Core 加速压缩全部 816B 参数的内存占用,减少每 token 字节移动量,提升单用户吞吐并释放内存以支持更大 KV 缓存和并发长上下文会话,从而降低每 token 成本。在 GB300 NVL72 上运行智能体负载可实现每 GPU 每秒最高 5 万 token、每用户每秒最高 600 token。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅