LIME和SHAP谁更靠谱？用证据权重假设检验，一眼看穿特征重要性！
Assessing Alignment and Stability of Feature Importance Explanations via Weight of Evidence
📖 AI 总结
该研究提出了一种基于证据权重（WoE）的新框架，用于评估特征重要性方法（FIMs）的解释质量。传统上，FIMs提供的归因分数难以揭示模型推理过程的深层逻辑，而该框架将FIMs嵌入假设检验体系，通过量化观测证据对特定特征重要性假设的支持程度，实现了对解释的对比性评估。该方法的独特之处在于参考假设可灵活来源于领域知识、真实标签或FIM自身，从而同时捕捉解释与先验知识的一致性及其变异性。研究还从理论上建立了WoE与归因方差之间的关联，并在LIME和SHAP上通过不同参考假设的实验验证了框架的适用性。这一工作为FIMs的评估提供了基于证据的补充工具，有助于更全面地理解模型解释的可靠性与稳定性。
🔑 关键词速览
| Feature Importance Methods (FIMs) | 特征重要性方法，用于解释模型预测中每个特征对输出贡献程度的技术。 |
| Weight of Evidence (WoE) | 证据权重，一种量化证据支持某一假设强度的统计量，常用于假设检验和风险评估。 |
| LIME | 局部可解释模型无关解释，一种通过局部近似模型来解释单个预测的FIM。 |
| SHAP | Shapley加法解释，基于博弈论Shapley值分配特征贡献的FIM。 |
| Attribution Variance | 归因方差，衡量特征重要性分数在不同扰动或模型下的波动程度，反映解释的稳定性。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅