事件相机蒸馏让AI告别纹理依赖，形状偏置鲁棒性飙升！
The Shape of Events: Edge-Based Inductive Biases via Cross-Domain Distillation
📖 AI 总结
本文研究事件相机数据对视觉模型归纳偏置的影响。由于事件域缺乏诊断性基准，作者采用跨域知识蒸馏方法，将事件域知识迁移至RGB域，从而借助RGB域丰富的评估工具进行系统分析。实验发现，从事件域蒸馏会使RGB模型获得颜色不变性、形状偏置以及对高频噪声的鲁棒性。其内在机制在于模型抑制了对高频纹理的依赖，转而更强地依赖基于边缘的物体形状。这一假设得到早期层颜色与空间信息处理方式变化的支持，并表现为一种频谱权衡：模型对高频成分缺失具有鲁棒性，但对所依赖频段的污染和几何结构的破坏则较为脆弱。研究进一步表明，该归纳偏置不同于现有鲁棒化方法，可作为形状与轮廓信息发挥作用的多类下游任务的有效先验。
🔑 关键词速览
| 归纳偏置 | 模型在学习过程中对假设空间施加的偏好或约束，影响其泛化行为。 |
| 事件相机 | 一种受生物启发的视觉传感器，仅记录场景亮度变化，输出异步事件流。 |
| 知识蒸馏 | 一种模型压缩与迁移技术，通过让一个模型学习另一个模型的输出或中间表示来传递知识。 |
| 形状偏置 | 模型在识别物体时更依赖整体形状而非局部纹理的倾向。 |
| 频谱权衡 | 模型在不同频率分量上的鲁棒性此消彼长的现象，例如对高频缺失鲁棒但对高频污染脆弱。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅