少样本个性化让设备助手拒识能力暴跌0.26，马氏距离零训练修复！
Does Personalization Break Trust? Open-Set Rejection Calibration Under Few-Shot On-Device Intent Adaptation
📖 AI 总结
这篇论文研究了设备端虚拟助手在通过少样本微调（如LoRA）进行个性化适配时，对超出范围（OOS）输入拒绝能力的影响。作者在五个公开意图分类基准上测试发现，朴素的少样本LoRA个性化会导致OOS拒绝的AUROC指标全面下降，平均降幅在0.055至0.258之间，而域内准确率却保持不变。研究进一步表明，这种下降部分源于标准置信度评分器在适配后的校准偏差，但即便更换评分器，仍存在真实的性能损失，其根源在于已知意图区域周围嵌入边距的收缩（Spearman相关系数为0.61）。作者提出一种部署成本低廉的修复方案：用马氏距离替代softmax置信度进行拒绝评分，无需额外训练即可在五个数据集中的三个上恢复大部分损失的性能，且不损害准确率，同时优于两个额外的OOD评分基线，并在不同样本数、LoRA秩和第二种基础编码器上均表现出一致性。该研究揭示了个性化适配中一个被忽视的信任问题，并提供了实用的缓解思路。
🔑 关键词速览
| 少样本微调 | 用极少量新样本对预训练模型进行微调，使其快速适应新任务或新用户命令。 |
| LoRA | 低秩适应，一种参数高效微调方法，通过注入低秩矩阵来调整大模型，减少训练参数量。 |
| OOS拒绝 | 超出范围拒绝，指模型识别并拒绝不属于任何已知意图的输入的能力。 |
| AUROC | ROC曲线下面积，衡量二分类模型在不同阈值下整体性能的指标，值越高表示区分能力越强。 |
| 马氏距离 | 一种考虑数据协方差的距离度量，常用于异常检测和分类，能更好地反映样本与分布中心的距离。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅