🔥 今日值得一读 阶跃星辰甩出6000亿参数MoE!100万上下文,API百万token仅1美元
StepFun Launches Step 5 Preview: A 600B-Total, 27B-Active MoE Model With 1M Context for Long-Horizon Agentic Work
MarkTechPost 🔥 重点 大模型Agent多模态开源 🕐 今天 14:37

📖 AI 总结

StepFun 发布旗舰模型 Step 5 Preview,定位软件工程、专业知识工作与金融等长周期智能体任务,主打以显著更低的任务成本实现相当水平的智能表现。该模型采用稀疏混合专家架构,总参数约 6000 亿,每 token 仅激活约 270 亿(约 4.5%),支持 100 万 token 上下文,可输入文本、图像和视频,并提供低、中、高三档推理强度及工具调用、JSON 模式、提示缓存等能力。架构上采用 92 层窄而深的 Transformer 布局,团队认为更深的堆叠有助于隐式多跳推理,训练则依赖在线长周期强化学习,并配合 MTP-3 推测解码、FP8 MoE 与 KV 缓存卸载,官方称长周期强化学习端到端提速超 3 倍。模型目前以托管 API 形式提供,开放权重计划于 2026 年 10 月 15 日发布,届时 6000 亿参数在 BF16 下约需 1.2TB 显存,需多 GPU 服务器部署。

🔍 深度解读 换个视角,同一件事有不同答案

正在读取芙娘的解读…
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅