开源一站式生产级AI部署平台来了,企业落地门槛直降!
范式智能联合睿思智联推出开源一站式 生产级 AI 部署平台 “模域ModelSphere”
量子位 重要 开源商业化算力 🕐 10-16 15:16

📖 AI 总结

范式智能联合睿思智联于10月16日发布一站式生产级AI部署平台“模域”(ModelSphere),以Apache 2.0协议在GitHub开源,面向企业用户免费开放。平台将算力管理、模型部署与运行优化整合于统一流程,针对企业在大模型规模化落地中普遍面临的资源利用率低、芯片生态割裂、部署门槛高等问题,提供图形化部署、自动弹性扩缩容、PD分离部署、三级KV缓存等企业级能力。其内置AutoTune智能调度策略,系统极限吞吐效率较基准提升约285%,性能达原来4倍。平台通过EngineX推理引擎统一调度华为昇腾、天数智芯、摩尔线程、海光DCU等国产算力,并已适配DeepSeek-V4、Qwen、Kimi、MiniMax、GLM等主流模型。该平台的开源有望降低大模型部署与硬件适配门槛,帮助企业释放异构算力的商业潜能。

🔍 深度解读 换个视角,同一件事有不同答案

正在读取芙娘的解读…
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅