📖 AI 总结

NVIDIA 发布 Nemotron 3.5 Super VL，一款面向专业化智能体工作流的开源可定制多模态模型。该模型采用 120B 参数的混合专家架构，每个 token 仅激活 12B 参数，在单张 GPU 上处理智能体任务的吞吐量最高可达同规模开源模型的 5 倍。它将推理、指令遵循、工具调用与文本、图像、文档、视频理解整合于单一模型，无需再分别部署文本模型和视觉语言模型。Scale AI、Ramp、AI21 等机构已基于该模型进行后训练，实现推理成本降低 40 倍、延迟降低 10 倍、准确率提升 40% 等效果。开发者可通过 NVIDIA NeMo 结合监督微调、低秩适配和强化学习进行定制，并借助推测解码、NVFP4 量化等技术优化推理效率。