公平性目标可融入可解释RL-MIL流程，但偏好条件无法保证可控多目标行为
Integrating Fairness and Explainability in a Multiple Instance Reinforcement Learning System
📖 AI 总结
本研究探讨如何将公平性与可解释性整合进多实例强化学习系统，用于基于教育交互数据预测学业风险学生。方法上，作者将每个学生建模为弱标注交互实例的集合，由强化学习智能体筛选信息量高的实例供下游分类，并结合对抗去偏与偏好条件超网络，尝试通过用户设定的偏好标量连续调节预测性能与均等机会之间的权衡。实验发现，基础RL-MIL模型分类表现良好，但两种超网络扩展均出现模式崩溃：调整偏好权重几乎无法使模型沿预期的公平性—性能前沿系统性移动。作者将失败归因于目标主导、条件机制中梯度传播薄弱以及动态生成参数间的相互作用。该结果表明，公平目标可以嵌入可解释的RL-MIL流程，但仅靠偏好条件并不能保证多目标行为可控，稳健的公平RL-MIL需要梯度平衡、目标分离与稳定性分析等显式机制。
🔑 关键词速览
| 多示例学习 (MIL) | 一种将每个样本表示为一个包（bag）的弱监督学习方法，包内包含多个示例，标签仅在包级别给出。 |
| 强化学习 (RL) | 一种通过智能体与环境交互、根据奖励信号学习最优决策策略的机器学习范式。 |
| 对抗性去偏 (Adversarial Debiasing) | 一种通过对抗训练减少模型对敏感属性（如人口统计信息）依赖性的公平性技术。 |
| 超网络 (Hypernetwork) | 一种生成另一个神经网络权重的神经网络，通常用于实现条件计算或动态参数化。 |
| 均等机会 (Equalized Odds) | 一种公平性度量，要求预测模型在不同敏感群体上具有相同的真阳性率和假阳性率。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅