单IMU识别率暴涨6.68%！动态加权蒸馏让右臂传感器性能超越四传感器方案
Dynamic Influence-Weighted Distillation for Single-IMU Activity Recognition
📖 AI 总结
该研究提出了一种动态影响加权蒸馏方法，用于提升仅使用单臂IMU传感器进行活动识别的模型性能。研究利用训练阶段可用的四个同步IMU传感器数据，通过冻结的四IMU教师模型提供logit和特征目标，但不同于固定权重知识蒸馏对所有样本施加相同强度，该方法为每个样本分别分配logit和特征损失的动态门控权重。在WEAR数据集上，研究评估了22名参与者的19个标签和68,298个完整窗口，采用受试者独立的五折交叉验证。结果显示，动态影响加权方法的宏F1分数达到0.638451，比监督学习提升7.66个百分点，比固定权重蒸馏提升6.68个百分点，且在19个标签中的18个和22名参与者中的21名上表现优于监督学习。该方法在不改变推理阶段部署的传感器配置或学生模型结构的情况下，有效利用了训练时的多位置信息，显著提升了单IMU模型的识别精度。
🔑 关键词速览
| 知识蒸馏 | 一种模型压缩技术，通过让较小的学生模型学习较大教师模型的输出（如logits或特征）来提升性能。 |
| 动态影响加权 | 本文提出的方法，根据每个样本对教师目标的受益程度动态分配损失权重，以优化蒸馏效果。 |
| IMU | 惯性测量单元，通常包含加速度计和陀螺仪，用于测量运动数据。 |
| 宏F1分数 | 对所有类别的F1分数取平均，不考虑类别不平衡，用于评估多分类性能。 |
| 交叉验证 | 一种评估模型泛化能力的方法，将数据分成多个折，轮流用一部分训练、其余测试。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅