VISTA免训练自动选步，毒性文本生成延迟从204秒降至接近全引导性能！
Value-Informed Schedule Trimming for Accelerated Sequential Monte Carlo Guidance in Discrete Diffusion
📖 AI 总结
本文提出VISTA，一种无需训练的方法，用于在固定预算下自动选择离散扩散模型中的引导时间步，以加速奖励引导的序贯蒙特卡洛（SMC）采样。研究指出，在每一步去噪都施加SMC引导虽能实现测试时对齐，但计算开销高昂，而现有稀疏引导方案多采用固定启发式调度，效果因任务而异。VISTA将稀疏引导建模为对理想全引导概率路径的近似，推导出可估计的ℓ1路径偏差上界，并利用少量全引导预热生成得到的价值统计量，通过动态规划精确优化经验代理目标。在文本、生物序列和图像生成任务中，VISTA能发现任务相关的调度策略，多数情况下优于手工设计的稀疏调度，并在若干指标上接近或超过全引导性能。例如在毒性文本生成中，其独特毒性比达0.99（全引导为1.00），同时将每次生成延迟从204.23秒降至38.16秒，实现5.35倍加速。
🔑 关键词速览
| 离散扩散 (Discrete Diffusion) | 一种在离散状态空间（如文本词元或生物序列）上定义的扩散生成模型，通过逐步去噪从噪声恢复数据。 |
| 序贯蒙特卡洛引导 (Sequential Monte Carlo Guidance, SMC Guidance) | 在扩散去噪过程中利用序贯蒙特卡洛方法进行粒子采样与重加权，以引导生成过程朝向奖励更高的样本。 |
| 稀疏引导 (Sparse Guidance) | 仅在部分去噪时间步上施加奖励引导，以减少计算开销的引导策略。 |
| 价值统计量 (Value Statistics) | 从全引导预热生成中收集的、用于估计各时间步引导收益的奖励或价值相关统计信息。 |
| 动态规划 (Dynamic Programming) | 一种通过将问题分解为重叠子问题并存储子问题最优解来精确求解优化问题的方法，此处用于在固定预算下选择最优引导时间步。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅