特征重要性竟有5种不同含义！零重要性框架统一解释机器学习可解释性
Null importance: Disentangling relevance for interpretable machine learning
📖 AI 总结
本文提出“零重要性”这一统一框架，用以厘清可解释机器学习中“特征重要性”所涵盖的多种本质不同的相关性概念。作者系统考察了来自边际与条件统计相关性、预测风险、函数不变性及因果效应等标准零重要性定义，说明它们分别回答不同的科学问题，并在算法公平性与基因组扰动建模两个场景中展示这种区分的关键影响：常见公平性准则对应不同的零重要性概念，而不同相关性定义会导致对预测模型所学内容的截然不同结论。研究进一步给出不同零重要性概念相互重合的充分条件，并通过反例说明条件失效时的分歧，同时刻画了各类方法所针对的零重要性目标及其零重要性统计量何时能真正识别这些目标。基于涵盖特征依赖、冗余、非线性、隐藏特征等标准现象的模拟，以及图像和多组学数据的案例研究，文章为上述理论区分提供了实证支持。该框架将科学问题、数据与模型假设以及评估方法三方面联系起来，为特征重要性分析所能支持的结论提供了共同的统计语言。
🔑 关键词速览
| Null Importance | 零重要性：在特定相关性概念下，特征对预测或因果效应没有贡献的总体水平定义。 |
| Feature Importance | 特征重要性：衡量输入特征对模型预测结果影响程度的指标，是可解释机器学习的核心概念。 |
| Algorithmic Fairness | 算法公平性：确保机器学习模型在不同群体间不产生歧视性偏差的原则和标准。 |
| Genomic Perturbation Modeling | 基因组扰动建模：通过实验或计算手段扰动基因表达，以研究基因功能及调控网络的建模方法。 |
| Conditional Statistical Relevance | 条件统计相关性：在控制其他变量后，特征与目标变量之间仍存在的统计关联。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅