低光增强新突破!MirrorDistill用特征镜像蒸馏,推理零额外成本还拿下SOTA!
MirrorDistill: Illumination-Aware Latent Distillation for Efficient Low-Light Restoration
arXiv CV (cs.CV) 重要 论文方法多模态 🕐 09-23 12:00

📖 AI 总结

本文提出 MirrorDistill,一种面向低光照图像增强(LLIE)的光照感知潜在蒸馏框架。针对现有方法仅依赖输出级重建损失、对中间特征恢复约束不足的问题,该方法通过特征镜像建立低光域与干净域之间的关联:训练时由共享编码器和指数移动平均教师解码器处理干净参考图像,生成干净域潜在目标,并在原始编码器特征和标准化多尺度解码器投影两个层面对低光学生网络进行逐层监督,同时采用光照感知加权策略,对欠曝区域给予更高关注。教师与参考分支仅在训练阶段使用,推理时仅需轻量学生编码器-解码器,不增加额外计算开销。在标准 LOL 基准上,该方法在真实拍摄的 LOL-v2-Real 数据集上优于现有最先进方法,且计算复杂度(GMACs)最低,在 LOL-v1 和 LOL-v2-Synthetic 上也保持竞争力。消融实验验证了编码器镜像、解码器镜像和光照感知加权的各自贡献,代码已开源。

🔑 关键词速览

低光照图像增强 (LLIE)提升在光照不足条件下拍摄图像的质量和可见度的技术。
潜在蒸馏 (Latent Distillation)在特征空间(潜在空间)进行知识蒸馏,使学生模型模仿教师模型的中间特征表示。
指数移动平均 (EMA)一种模型参数平滑技术,通过维护历史参数的移动平均来稳定教师模型。
光照感知加权 (Illumination-Aware Weighting)根据图像区域的光照条件分配不同权重,对暗区给予更高关注。
GMACs衡量模型计算复杂度的指标,表示十亿次乘加运算次数。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅