Hugging Face 发布了 @huggingface/kernels,一个包含 200 多个 WebGPU 内核的开源库,旨在提升浏览器中本地 AI 模型的推理效率。该库通过优化 GPU 计算路径,显著降低延迟和资源消耗,使端侧 AI 应用(如实时交互、隐私敏感场景)更加可行。此举标志着 Web 端 AI 从实验走向实用,为开发者提供了标准化工具,有望加速浏览器内模型部署的普及,并减少对云端算力的依赖。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅