蝙蝠叫声分类新突破：Transformer模型准确率超CNN达71%！
Effects of interpulse-interval variation on deep-learning classification of bat vocalizations
📖 AI 总结
本研究探讨了蝙蝠叫声中脉冲间隔（IPI）变化对深度学习物种分类的影响，并比较了Transformer架构与卷积神经网络对该时间信息的敏感度差异。研究者基于欧洲蝙蝠录音构建了两组匹配数据集：保留原始叫声时序的自然IPI条件和将叫声起始间隔统一为50毫秒的归一化IPI条件，分别微调并评估了EfficientNet-B0与PaSST模型，同时对预训练分类器BatDetect2和BAT进行了测试。结果显示，IPI归一化的影响因模型而异：PaSST在两种条件下准确率相近（71%对70%），而EfficientNet在归一化后准确率从47%提升至57%，且PaSST整体优于EfficientNet。跨条件评估中，在自然IPI上训练的模型迁移至自然IPI测试集时表现更好，EfficientNet准确率从54%降至50%，PaSST从65%降至57%。研究表明，自然IPI变化对蝙蝠物种分类的贡献有限，也未发现Transformer比CNN更有效利用该信息，但归一化条件下获得的结果难以完全迁移到自然录音，提示训练数据的时间特性会影响模型的泛化能力。
🔑 关键词速览
| Interpulse Interval (IPI) | 脉冲间间隔，指蝙蝠连续叫声起始之间的时间间隔。 |
| Transformer | 一种基于自注意力机制的神经网络架构，常用于序列建模。 |
| Convolutional Neural Network (CNN) | 卷积神经网络，一种擅长处理网格状数据（如图像或频谱图）的深度学习模型。 |
| EfficientNet-B0 | 一种高效的卷积神经网络架构，通过复合缩放方法平衡深度、宽度和分辨率。 |
| PaSST | Patchout Spectrogram Transformer，一种用于音频分类的Transformer模型，通过随机丢弃频谱图块进行训练。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅