神经学习器不再黑箱！新方法分解可预测性，EM算法联合学习可靠性评分
Decomposing A Neural Learner
📖 AI 总结
该论文针对分类与回归神经网络常被批评为“黑箱”的问题，提出了一种概率分解方法，用以刻画特征空间中预测能力的异质性。作者设计了一套结合EM算法、随机梯度下降与最大似然估计的训练流程，能够联合学习可预测成分与依赖输入的可靠性评分。理论分析表明，最优分解学习器可在可预测成分内恢复响应分布，而可靠性评分则刻画了单个观测样本的可预测程度。该框架还被进一步扩展以纳入局部化特征变换。在合成数据集与真实数据集上的实验验证了所提框架的有效性。这项工作的意义在于为神经网络学习器提供了一种可解释的概率分解视角，使模型不仅能给出预测结果，还能对每个样本的预测可靠性进行量化评估，从而增强神经网络在需要可信度评估场景中的实用性。
🔑 关键词速览
| 神经学习器 | 指用于分类或回归任务的神经网络模型，通常被视为黑箱。 |
| 概率分解 | 将神经学习器的输出分解为可预测成分和可靠性评分两部分，以解释特征空间中的异质性。 |
| EM算法 | 期望最大化算法，一种迭代优化方法，用于在存在隐变量时估计参数。 |
| 可靠性评分 | 依赖于输入的评分，用于量化单个观测的可预测性。 |
| 局部化特征变换 | 针对特征空间不同区域应用不同的变换，以增强模型的表达能力。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅