矩阵缺失数据EM算法提速10倍!新方法保持精度还能同时插补聚类
An efficient EM algorithm for both element-wise and structural missingness in matrix-variate normal mixture models
arXiv ML (stat.ML) #EM算法#矩阵数据#缺失数据 🕐 09-02 12:00

📖 AI 总结

本文提出了一种针对矩阵正态混合模型中缺失数据的高效部分EM算法,旨在解决标准EM估计在任意缺失模式下计算成本过高的问题。矩阵正态分布通过Kronecker协方差结构提供了简洁建模,但缺失模式常破坏E步中的可分离性。该方法通过坐标近似更新缺失分量的条件均值和协方差,避免了重复求逆特定模式协方差矩阵及构建完整向量化协方差矩阵。针对子矩阵缺失,作者开发了专门更新,使缺失块精度保持Kronecker结构,协方差更新可在行列方向独立进行。模拟研究表明,该方法在多种维度和缺失比例下显著减少计算时间,同时保持与精确EM几乎相同的观测数据似然。真实高光谱图像数据应用验证了该插补策略可嵌入矩阵变分混合模型,实现同步插补与聚类。

🔑 关键词速览

EM算法期望最大化算法,一种迭代优化方法,用于在存在缺失数据或隐变量的情况下估计模型参数。
矩阵正态分布一种概率分布,用于建模矩阵形式的数据,其协方差结构通过Kronecker乘积分解为行和列协方差。
Kronecker协方差结构协方差矩阵表示为两个较小矩阵的Kronecker乘积,从而降低参数维度和计算复杂度。
偏EM算法一种改进的EM算法,通过近似或部分更新来降低计算成本,适用于大规模或结构复杂的数据。
子矩阵缺失缺失数据以连续块或子矩阵形式出现,而非随机分散的单个元素,可利用其结构进行高效计算。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅