医学影像黑箱模型即插即用调试框架，概念干预分离因果与虚假关联，微调后性能不降反升！
Beyond Explanation: Debugging Medical Imaging Models via Concept Intervention
📖 AI 总结
该研究针对医学影像模型普遍存在的“黑箱”问题，提出了一套即插即用的概念干预框架，用于模型解释与调试。方法上，作者将单模态编码器与BioMedCLIP对齐，构建概念瓶颈模型，从而支持概念层级的干预操作。借助这一机制，研究者能够区分因果性概念与虚假相关概念，并通过领域专家验证，进而生成反事实样本用于针对性微调。实验在梅奥诊所超声数据集和CheXpert 5x200胸部X光数据集上展开，结果表明概念干预不仅能可靠地诊断模型问题，还能通过引导式微调维持甚至小幅提升预测性能。该工作为临床深度学习模型的可控、可解释优化提供了实用路径。
🔑 关键词速览
| Concept Bottleneck Model (CBM) | 概念瓶颈模型，一种在预测前先输出可解释概念作为中间层的模型，便于人类理解和干预。 |
| BioMedCLIP | 生物医学对比语言-图像预训练模型，用于对齐医学图像和文本表示。 |
| Concept Intervention | 概念干预，通过修改模型中的概念表示来观察对预测的影响，以识别因果关系。 |
| Counterfactual Samples | 反事实样本，通过改变特定概念生成的假设性数据，用于模型微调和分析。 |
| CheXpert | 一个大型胸部X射线数据集，常用于医学影像模型的基准测试。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅