Arm推出AI Portal,端侧AI从模型可用迈向平台可用!
Arm 推出 AI Portal:当 AI 应用从“模型可用”走向“平台可用”
InfoQ 中文 重要 算力开源商业化 🕐 09-15 05:50

📖 AI 总结

Arm 推出 AI Portal,定位为面向开发者与智能体的统一入口,支持在 Arm 架构上发现、优化和部署 AI 模型,覆盖云、边缘及物理设备场景。其核心目标是解决跨平台 AI 应用开发中的模型选型、部署决策与自动优化难题,降低模型与硬件的匹配成本。首批支持语言、语音、视觉和神经图形等负载,预优化模型包括通义千问、Google Gemma 和 Ultralytics YOLO,运行时涵盖 ExecuTorch、LiteRT 和 ONNX Runtime。实测数据显示,经 Arm 优化的模型在 SME2 和 NEON 技术加持下,端侧推理性能可提升 40% 以上,部分场景超过 4 倍。该平台的意义在于,当 AI 应用从“模型可用”走向“平台可用”,开发者真正稀缺的不再是模型本身,而是高效的决策与部署能力。

🔍 深度解读 换个视角,同一件事有不同答案

正在读取芙娘的解读…
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅