t-SNE能量景观竟藏无限陷阱!新研究揭示拓扑破坏与虚假聚类根源,附数值铁证
On the Abundance of Critical Points of the t-SNE Energy
arXiv LG (cs.LG) #t-SNE#优化#理论分析 🕐 09-07 12:00

📖 AI 总结

该论文研究了t-SNE算法的能量景观问题。尽管t-SNE在数据可视化中被广泛采用,但其能量函数的非凸性使得算法在多种场景下的行为难以被严格理解。论文指出,许多已知的数值实验表明该能量景观十分复杂,存在大量不反映底层数据拓扑或聚类结构的局部极小值。作者为这一现象提供了初步的严格解释:针对包含原始t-SNE及其大数据极限在内的一类通用能量函数,当特征空间中的密度具有连续对称性时,他们构造了无限多个不同的临界点族。这些临界点源于特征空间与目标嵌入空间中成对离散对称性的识别,且在梯度动力学下得以保持。这些临界构型表现出拓扑破坏和虚假聚类等经验中常见的特征。论文辅以数值和解析实例加以说明。

🔑 关键词速览

t-SNEt分布随机邻域嵌入,一种用于高维数据可视化的非线性降维算法。
能量景观描述系统能量随参数变化的曲面,其局部极小值对应稳定状态。
临界点能量函数梯度为零的点,包括局部极小值、极大值和鞍点。
连续对称性系统在连续变换下保持不变的性质,如旋转或平移对称。
离散对称性系统在离散变换(如镜像或置换)下保持不变的性质。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅