📖 AI 总结

Liquid AI发布了LFM2.5系列三个模型的DSpark草稿检查点，通过引入约3亿参数的草稿模型，为现有目标模型增加推测解码路径。该草稿模型一次生成9个候选令牌，由目标模型单次前向验证，在H100上实现最高3.18倍解码加速，在M4 Max MacBook Pro上达2.87倍，且输出结果与目标模型单独运行完全一致，不改变基准准确率。模型以Safetensors和GGUF格式提供，支持llama.cpp和SGLang，但需自托管部署。LFM开放许可允许年收入低于1000万美元的实体免费商用，大型企业需联系获取商业许可。应用场景包括本地编码助手、设备端推理代理和离线副驾驶，适用于开发者工具、机器人、医疗、金融和国防等领域。