本文提出SPERA,一种基于球面先验的脑电(EEG)基础模型,旨在解决因受试者、设备和电极布局差异导致的通用脑电建模难题。针对现有模型依赖含神经与非神经成分的原始信号重建目标这一局限,SPERA采用联合嵌入预测架构(JEPA),在潜在空间中进行预测,并引入勒让德多项式空间先验融入注意力机制,以编码不同头皮电极几何结构。模型还结合了分解式时间与空间注意力、周期性全注意力模块,以及将潜在相似结构与频谱视图对齐的关系谱正则化器。SPERA在来自106个数据集、29048名受试者、约8万小时的脑电数据上预训练,在涵盖临床、认知和脑机接口的九项下游任务中取得最高平均平衡准确率,并在线性探测下展现出较强的参数效率和对不同记录条件的鲁棒性,有望成为通用脑电分析骨干模型。
| EEG | 脑电图,一种记录大脑电活动的非侵入性技术。 |
| JEPA | 联合嵌入预测架构,一种在潜在空间进行预测的自监督学习框架。 |
| Legendre-polynomial spatial prior | 勒让德多项式空间先验,用于编码头皮电极几何结构的数学函数。 |
| factorized attention | 分解注意力,将注意力机制分解为时间和空间维度以降低计算复杂度。 |
| linear probing | 线性探测,一种评估预训练模型特征质量的常用方法,仅训练线性分类器。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅