对抗训练让仇恨言论检测解释更公平，跨群体差异直降！
Mitigating Demographic Disparities in Explanation-Human Alignment via Rationale Regularization
📖 AI 总结
该研究关注仇恨言论检测中的解释公平性问题，指出模型分类性能高并不意味着其生成的解释对不同人口群体同样合理。作者基于HateXplain数据集提出Plausibility-EFG指标，通过比较模型生成的词元归因与人工标注理由，衡量不同群体间解释合理性的最大差距，并评估了BERT、RoBERTa及对抗训练模型ADV-RoBERTa在Integrated Gradients和SHAP两种归因方法下的表现。结果显示，ADV-RoBERTa在提升分类性能的同时，改善了模型解释与人工理由的一致性，并缩小了群体间的解释差异，且该结论在训练、验证和测试集上均保持一致。研究进一步发现，仅减少预测层面的偏差并不能消除解释差异，说明预测公平与解释公平是相关但不同的目标；更强的对抗正则化可进一步降低解释差异，但可能带来宏观F1的小幅下降。该工作将解释公平确立为仇恨言论审核的重要目标，并提出Fair-REF框架以减少模型解释的群体差异。
🔑 关键词速览
| Plausibility-EFG | 一种衡量不同人口群体间解释合理性最大差异的指标，通过比较模型生成的令牌归因与人工标注理由来计算。 |
| HateXplain | 一个用于仇恨言论检测的数据集，包含人工标注的令牌级理由，用于评估解释的合理性。 |
| Integrated Gradients | 一种归因方法，通过积分梯度来分配输入特征对模型预测的贡献。 |
| SHAP | 一种基于Shapley值的归因方法，用于解释模型预测中每个特征的贡献。 |
| Fair-REF | 一个旨在减少不同人口群体间模型解释差异的框架，通过理由正则化实现解释公平性。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅