一张3090就能跑!中国电信全栈国产AI办公搬进企业本地
一张3090就能跑!全栈国产模型,把AI办公搬到企业本地
量子位 重要 商业化算力开源 🕐 今天 20:22

📖 AI 总结

中国电信AI开源了全栈国产化的轻量级代码智能体大模型Xing4.0-29B-A4B,采用MoE架构,总参数290亿、推理仅激活约40亿,经4-bit量化后显存占用从约60GB压缩至约15GB,一张RTX 3090即可本地运行。模型完全基于华为昇腾910C算力及国产MindSpore/MindFormers框架训练,实现“国芯训国模”,并完成昇腾推理适配。能力上原生支持256K上下文,重点强化Coding与Agent长程任务处理,可本地完成200页投标文件约20分钟初评、合同台账转可视化大屏等复杂工作,并适配主流Agent框架与工具链。目前已在智能客服场景私有化部署,复杂业务办理成功率超90%,模型已在多个平台开源并登上HuggingFace趋势榜第四。

🔍 深度解读 换个视角,同一件事有不同答案

正在读取芙娘的解读…
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅