CDTW太慢跑不动？新方法FastCDTW直接提速，还能端到端训练！
Fast Gradient-Based Approximation of Continuous Dynamic Time Warping
📖 AI 总结
本文针对时间序列相似度度量中的动态时间规整（DTW）方法展开研究。DTW通过动态规划寻找最优时间对齐，但计算缓慢且不可微；已有的Soft-DTW和连续型CDTW虽分别解决了可微性与连续参数化问题，计算成本依然高昂，难以适用于大规模机器学习场景。作者在温和条件下证明了CDTW的可微性，并提出FastCDTW——一种高效的近似求解器，包含两种计算策略：针对分段线性规整函数的精确闭式方案，以及针对隐式神经网络等平滑规整函数的无偏蒙特卡洛估计器。两种策略均可计算关于规整函数和输入时间序列的梯度，且算法适配GPU加速。作者将FastCDTW集成到时间序列平均、分类和深度域适应等复杂学习任务中，验证了其实际效益。该工作为连续DTW的梯度计算提供了可行且高效的新途径。
🔑 关键词速览
| Dynamic Time Warping (DTW) | 一种通过动态规划寻找最优时间对齐路径来衡量两条时间序列差异的经典算法。 |
| Soft-DTW | DTW 的平滑可微变体，用软最小值替代硬最小值，从而支持基于梯度的优化。 |
| Continuous-DTW (CDTW) | DTW 的连续形式，通过可参数化的规整函数（而非离散路径）来定义时间对齐。 |
| FastCDTW | 本文提出的高效近似求解器，包含闭式方案和蒙特卡洛估计两种策略，支持 GPU 加速。 |
| Monte Carlo estimator | 一种基于随机采样的无偏估计方法，用于近似计算平滑规整函数下的目标值及其梯度。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅