广义朴素贝叶斯首次扩展到连续特征,结构学习仅靠配对copula,还能用贪心算法找到最优结构!
On Generalized Naive Bayes with Continuous Features
arXiv ML (stat.ML) 重要 #朴素贝叶斯#Copula#结构学习 🕐 今天 12:00

📖 AI 总结

本文提出将广义朴素贝叶斯(GNB)框架从离散与分类变量扩展至连续特征场景。研究的核心发现是,GNB的结构学习仅依赖于双变量边缘分布的配对copula,且其结构可对应到拟阵的基上,从而能够设计贪心算法在训练数据上寻找使KL散度最小化的最优结构。作者分别考虑了联合高斯分布、高斯copula搭配任意边缘分布,以及copula与边缘分布均任意的三种递进灵活度的模型,并基于新提出的GNB森林概念给出模型约简方法。论文最后在真实数据集上将GNB分类结果与经典"玻璃盒"算法进行了对比。该工作为连续特征下的可解释分类建模提供了理论支撑与实用算法。

🔑 关键词速览

Generalized Naive Bayes (GNB)广义朴素贝叶斯,经典朴素贝叶斯的扩展,用于处理更一般的变量依赖结构。
Copula连接函数,用于描述随机变量之间的依赖结构,将联合分布与边际分布联系起来。
Matroid拟阵,一种组合结构,用于抽象线性独立性和图论中的森林等概念,此处用于保证贪心算法的最优性。
Kullback-Leibler divergenceKL散度,衡量两个概率分布之间差异的非对称度量,常用于模型选择和信息论。
GNB forestGNB森林,本文新提出的概念,用于模型约简,可能指由GNB结构形成的森林图。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅