满秩DPP学习打破规模瓶颈,泛化性能显著提升
Scalable Learning of Determinantal Point Processes with Kernel-Structured Interactions
arXiv ML (stat.ML) 重要 #行列式点过程#核方法#可扩展学习#概率模型 🕐 今天 12:00

📖 AI 总结

该研究针对行列式点过程(DPP)在大规模数据集上的学习难题展开。DPP通过正定核矩阵编码项目间相似度并体现排斥性,但传统方法为提升计算可扩展性,通常对核矩阵施加低秩加对角等结构约束,这导致模型表达能力与计算效率之间形成严重权衡。为此,作者提出三项改进:一是利用非线性核函数与潜在特征对满秩交互进行建模,二是为最大似然估计设计替代函数,三是采用基于非线性核随机特征的随机优化方法。在真实数据集上的数值实验表明,该方法显著改善了上述权衡关系,在参数效率极高的同时实现了更优的泛化性能,为大规模DPP学习提供了新的可行路径。

🔑 关键词速览

行列式点过程 (DPP)一种概率模型,通过正定核矩阵编码项目间的相似性,并表现出排斥性,即相似项目同时出现的概率较低。
核矩阵一个正定矩阵,其元素表示项目之间的相似度,用于定义DPP中的排斥强度。
低秩加对角形式一种常见的核矩阵结构约束,将矩阵分解为低秩部分和对角部分之和,以降低计算复杂度。
最大似然估计器一种参数估计方法,通过最大化观测数据的似然函数来估计模型参数。
随机特征一种通过随机映射将数据映射到高维空间以近似核函数的技术,常用于大规模核方法的随机优化。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅