本文提出MedTokenBudget,一种面向皮肤镜图像分类的监督式骨干网络后令牌路由框架。针对现有Vision Transformer分类器对所有图像块一视同仁、而诊断证据实际集中于病灶区域的问题,作者设计了病灶感知令牌评分模块(LATS),将注意力熵、特征范数和局部特征对比度通过可学习评分器融合,在给定预算下筛选出得分最高的K个图像块,从而构建紧凑且富含病灶信息的表示。LATS的训练结合了预算课程学习、多样性正则化、注意力蒸馏和病灶掩码监督。研究采用病灶保留率这一指标,直接衡量真实病灶证据在令牌预算约束下的存活比例。在ISIC 2019数据集上,有掩码监督的LATS在主要预算设置下持续优于随机选择和ToMe方法,同时保留了显著更多的病灶图像块。该工作为医学图像分类中令牌剪枝的有效性提供了以病灶保留为核心的评估视角。
| MedTokenBudget | 本文提出的有监督骨干网络后token路由框架,用于在皮肤镜图像分类中构建病变富集的紧凑表示。 |
| LATS (Lesion-Aware Token Scoring) | 病变感知token评分模块,融合注意力熵、特征范数和局部特征对比度来对图像块进行评分和路由。 |
| Token Routing | token路由,指在视觉Transformer中根据某种策略选择或分配图像块(token)的过程,以减少计算量。 |
| Lesion Retention Rate | 病变保留率,一种评估指标,直接衡量在token预算限制下真实病变证据被保留的比例。 |
| ISIC 2019 | 国际皮肤成像协作组织2019年发布的皮肤镜图像数据集,常用于皮肤病变分类研究。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅