🔥 今日值得一读
无需训练！CoTS让大模型推理动态平衡离散与软探索，六大基准持续领先
CoTS: Competitive Token Selection for Latent Reasoning in Large Language Models
👨💼 主理人解读 · 为什么值得关注
想让模型在不确定步骤保留多条推理路径、确定时直接输出，可用此方法提升推理质量。
📖 AI 总结
本文提出了一种名为竞争性令牌选择（CoTS）的无训练框架，用于改进大语言模型中的潜在推理。研究指出，潜在推理的需求随解码步骤而变化：模型预测置信度高时适合离散决策，而模糊步骤则需要保留多个候选路径。现有方法多采用全局软激活或基于不确定性阈值的硬切换，将潜在干预视为非此即彼的选择，无法连续调节干预强度。CoTS 转而利用每一步中概率最高的两个候选令牌之间的竞争关系，动态平衡离散承诺与软探索：当某一候选明显占优时，保持接近采样令牌的表示以维持稳定推理轨迹；竞争加剧时则提升软表示权重以保留备选路径。该方法无需人工设定切换阈值或混合系数，也不增加额外前向计算。在六个推理基准上的实验表明，CoTS 持续优于标准思维链及当前最先进的无训练潜在推理方法。
🔑 关键词速览
| Latent Reasoning | 潜在推理，指在连续隐空间中进行中间推理，而非显式生成离散词元。 |
| Chain-of-Thought (CoT) | 思维链，一种通过生成中间推理步骤来提升大语言模型复杂推理能力的方法。 |
| Competitive Token Selection (CoTS) | 竞争性词元选择，本文提出的无需训练框架，根据候选词元概率竞争动态分配离散与软表示。 |
| Soft Embedding | 软嵌入，由模型输出的连续向量表示，可保留多个备选推理路径而非硬性选择单一词元。 |
| Training-free | 无需训练，指方法在推理阶段直接应用，不需要额外微调或训练模型参数。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅