本文提出将广义朴素贝叶斯(GNB)框架从离散与分类变量扩展至连续特征场景。研究的核心发现是,GNB的结构学习仅依赖于双变量边缘分布的配对copula,且其结构可对应到拟阵的基上,从而能够设计贪心算法在训练数据上寻找使KL散度最小化的最优结构。作者分别考虑了联合高斯分布、高斯copula搭配任意边缘分布,以及copula与边缘分布均任意的三种递进灵活度的模型,并基于新提出的GNB森林概念给出模型约简方法。论文最后在真实数据集上将GNB分类结果与经典"玻璃盒"算法进行了对比。该工作为连续特征下的可解释分类建模提供了理论支撑与实用算法。
| Generalized Naive Bayes (GNB) | 广义朴素贝叶斯,经典朴素贝叶斯的扩展,用于处理更一般的变量依赖结构。 |
| Copula | 连接函数,用于描述随机变量之间的依赖结构,将联合分布与边际分布联系起来。 |
| Matroid | 拟阵,一种组合结构,用于抽象线性独立性和图论中的森林等概念,此处用于保证贪心算法的最优性。 |
| Kullback-Leibler divergence | KL散度,衡量两个概率分布之间差异的非对称度量,常用于模型选择和信息论。 |
| GNB forest | GNB森林,本文新提出的概念,用于模型约简,可能指由GNB结构形成的森林图。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅