📖 AI 总结

Contrastive-LM 发布了 CLM-8B，这是其提出的新型模型类别“对比语言模型”（CLM）中的首个开源模型。与生成文本的传统大模型不同，CLM 不生成文字，而是针对当前状态对一组候选动作进行打分并返回概率，主要对标 TypeSafe AI 的专有 System One 模型 Jev。CLM-8B 采用 Apache-2.0 许可，头部权重仅 75 MB，可在单张 NVIDIA GPU 上运行，并通过兼容 TypeSafe 的 API 暴露 Noul、Choice、Score 三类问题接口。其技术核心是用双向 InfoNCE 损失训练状态编码器与动作编码器，每个编码器由冻结的 Qwen3-8B 骨干加 2000 万参数投影头构成，推理时通过状态与动作嵌入的点积加 softmax 得到答案分布。该设计将状态与动作解耦，可缓存复用动作向量，在单张 RTX 4090、3 个动作场景下，重复访问状态耗时从 1.7 毫秒降至 0.6 毫秒；模型卡显示在约 1000 个候选动作时，CLM 比 Jev 快约 13 倍。训练采用三阶段配方，先在约 6000 万条 Nemotron DQA 问答对上预训练，再进行中期训练。这一发布的意义在于为智能体动作评估提供了一条开源、高效且可部署的替代路径。