数独准确率0.845！LEDFlow用熵引导生成顺序，让离散流采样无需训练就全面碾压原生采样器
Entropy Can Flow, or It Can Guide. Be Entropy. LEDFlow: Introducing Entropy-guided Generation Order into Uniform Discrete Flow
📖 AI 总结
本文提出LEDFlow，一种无需训练的采样方法，旨在解决均匀离散流生成中反复更新带来的问题。作者发现，在数独实验中，约9.4%的生成单元在中间步骤正确却在最终输出中出错，原因是后续修正可能破坏已正确的预测。为此，LEDFlow通过选择性吸收机制引入生成顺序，将选定位置的预测固定下来，同时保持活跃位置的均匀流速度。其核心策略是按局部熵自适应排序吸收顺序，优先固定低熵位置。理论分析表明，在固定吸收预算下，选择最低熵位置可最小化条件预测误差的上界；同时全局前瞻的决策误差会随窗口增大而上升，这为采用局部熵提供了依据。实验显示，LEDFlow在数独求解上达到0.845准确率，在强约束任务上提升最大；在文本到图像生成中取得最佳综合得分，在多模态理解的六个基准上均优于原生采样器，且推理成本与标准流采样相当。
🔑 关键词速览
| Uniform Discrete Flow | 一种离散生成模型，允许在每个生成位置进行重复更新，以修正错误标记。 |
| Selective Absorption | 一种机制，通过固定所选预测来引入生成顺序，同时保持活跃位置上的均匀流速度。 |
| LEDFlow | 低熵离散流，一种无需训练的采样器，根据局部熵自适应地安排吸收顺序，以防止吸收错误预测。 |
| Local Entropy | 局部熵，用于衡量生成位置的不确定性，指导吸收顺序的选择。 |
| Nikoli Sudoku | 一种数独变体，用于评估推理能力，LEDFlow在此任务上达到了0.845的求解准确率。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅