该研究针对事件相机数据中事件率随场景运动、纹理、光照等因素大幅变化的问题(在N-Caltech101数据集上波动约26倍),指出主流事件图神经网络流程要么对时间戳做固定窗口归一化,要么训练网络对事件率保持不变,这两种做法都会丢失可用信息。作者提出将事件率作为特征直接引入模型:为每条记录增加一个对数事件率标量,通过特征级线性调制(FiLM)作用于PointNet++骨干网络的各阶段,并初始化为恒等映射,使训练从原始基线起步;再采用两阶段课程学习,先使用自然事件率、后进行事件率增强微调。结果显示,在仅增加约0.2M参数的条件下,N-Caltech101达到67.2%(提升6.3个百分点),DVS128 Gesture达到82.5%(提升14.0个百分点),且匹配容量对照实验证明增益来自事件率条件化而非模型容量增加。
| 事件相机 | 一种受生物启发的传感器,异步输出像素亮度变化事件,具有高时间分辨率和低延迟。 |
| 图神经网络 (GNN) | 一种直接在图结构数据上运行的深度学习模型,通过消息传递聚合节点邻域信息。 |
| 特征级线性调制 (FiLM) | 一种通过逐特征仿射变换对神经网络中间层进行条件化的方法,常用于多模态或条件生成任务。 |
| PointNet++ | 一种用于点云处理的层次化神经网络,通过采样和分组操作提取局部和全局特征。 |
| 课程训练 | 一种训练策略,按照从易到难的顺序组织训练数据或任务,以提升模型学习效果和泛化能力。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅