🔥 今日值得一读 微软甩出2万亿参数MAI-Base-2,效率碾压开源对手!
Microsoft reveals cutting-edge MAI-Base-2 model with 2T parameters
SiliconANGLE 🔥 重点 大模型论文方法 🕐 今天 08:39

📖 AI 总结

微软AI研究团队发布了新一代基础模型MAI-Base-2,采用混合专家(MoE)架构,拥有2万亿参数,每次推理仅激活800亿参数。该模型在科学、编程和数学等内部基准测试中超越了当前最强的开源基础模型DeepSeek-V4-Pro-Base,并在某些指标上实现了最高12倍的硬件效率提升。训练方面,微软动用16000块英伟达GB200芯片,耗时38天,使用50万亿token数据集,其中约五分之一用于训练集成在内的计算机视觉模块,使其在理解科学图表等任务上优于前代。技术上,模型全部采用MoE层,并引入梯度裁剪和开源工具Muon优化训练流程。微软计划通过Azure云平台向“可信合作伙伴”授权模型权重,并用其驱动新一代大语言模型。

🔍 深度解读 换个视角,同一件事有不同答案

正在读取芙娘的解读…
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅