小模型跑进智能眼镜!Prism让高通芯片算力翻倍利用
PrismML brings its tiny LLMs to Qualcomm-powered smart glasses
TechCrunch AI 重要 大模型开源端侧AI 🕐 今天 03:00

📖 AI 总结

PrismML由加州理工学院研究人员创立,并获得加州大学伯克利分校Ion Stoica的顾问支持,近日将其微型语言模型适配到基于高通骁龙芯片的智能眼镜上。在骁龙峰会上,高通展示了PrismML的1-bit Bonsai模型,可在搭载骁龙AR1 Gen 1平台的AI智能眼镜上本地运行。该模型为20亿参数的视觉语言模型,经过专门调优,佩戴者可实时询问眼前所见之物。PrismML的核心技术在于将大型模型压缩约4倍,同时保留几乎全部基准性能。其更大目标是推动开放权重AI在设备端运行,更充分利用现有算力,作为依赖专有AI实验室隐私承诺和无限算力需求的替代方案。不过目前尚无搭载该模型的智能眼镜产品正式发布。

🔍 深度解读 换个视角,同一件事有不同答案

正在读取芙娘的解读…
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅