视觉CIL方法在蛋白质上全军覆没！九种方法无一可靠迁移，编码器感知才是出路。
Do Vision CIL Methods Transfer to Protein? A Diagnostic Benchmark of Frozen Protein Encoders
📖 AI 总结
本文针对蛋白质功能注释中标签空间持续扩展的问题，系统检验了视觉领域的类增量学习方法能否迁移到冻结的蛋白质表征上。作者在五种基于序列、结构及序列-结构融合的蛋白质编码器和两个不同规模的酶功能数据集上，对九种代表性类增量学习方法进行了受控基准测试，并保持编码器冻结、评估设置一致。结果显示，没有任何方法能在不同编码器间稳定迁移，且这种失败在不同阶段划分方式下持续存在。诊断分析表明，不稳定性源于基于梯度的稳定性信号微弱、嵌入几何结构高度异质，以及协方差假设的合适容量随数据集规模和编码器而变化。研究据此提出，表征本身应被视为持续学习设计的核心组成部分，而非被动的特征提取器；可靠的蛋白质类增量学习需要能够感知编码器、并根据表征几何自适应调整统计假设与容量的方法。
🔑 关键词速览
| 类增量学习 (CIL) | 一种持续学习范式，模型在不遗忘旧类别的前提下逐步学习新类别。 |
| 蛋白质编码器 | 将蛋白质序列或结构映射为固定维度嵌入表示的神经网络模型。 |
| 冻结表示 | 在训练下游任务时保持预训练编码器的参数不变，仅使用其输出的特征。 |
| 嵌入几何 | 指嵌入空间中样本分布的几何特性，如距离、方向、密度等。 |
| 协方差假设 | 在统计建模中对特征间协方差结构的预设，影响模型容量和适应性。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅