英伟达扩展了Nemotron大语言模型系列,推出面向常驻AI智能体和边缘设备的三款新模型。其中旗舰级Nemotron 3.5 Super VL为1200亿参数开源多模态模型,由Nemotron联盟协作开发,性能可媲美该公司最大推理模型,但体积仅为后者的五分之一,输出速度约为同类模型的五倍。该模型基于约26万亿token训练,并开放权重,允许企业自行后训练和本地部署,以保障数据主权与隐私。另两款Bolt模型分别面向本地工作站和边缘设备,其中Bolt 74B-A9B采用混合专家架构与2比特量化,可在24GB内存内运行;更小的Bolt E4B则针对可穿戴设备、车载仪表等嵌入式场景。此次发布的意义在于,英伟达通过开源、高效、可定制的模型组合,将智能体能力从大型服务器延伸至边缘终端,推动AI智能体在隐私敏感和本地化场景中的落地。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅