📖 AI 总结

该论文针对可解释人工智能（XAI）方法评估中缺乏可靠基准和真实解释标签的问题，提出了一种基于合成真实标签的评估框架。现有评估方法主要通过衡量解释与黑盒模型预测之间的一致性来打分，但这种方式只能反映解释对模型输出的复现程度，无法保证解释真实反映模型的决策过程，导致不同解释可能获得相近分数却给出相互矛盾或误导性的解读。为此，作者利用受控干预生成合成数据集，使输入特征的重要性可在设计阶段确定，从而构建与分析模型行为直接对齐的真实解释。该框架在二值图像、表格数据和时间序列三个数据域上实例化，并对九种广泛使用的XAI方法进行了评估。实验结果表明，当前主流方法存在显著局限，凸显了基于合成干预的基准测试对于可靠评估解释质量的重要性。

🔑 关键词速览