AION-1天文大模型被曝系统性偏差：仅改分割图，红移等指标竟波动4400倍！
A survey detection channel overrides the pixels in an astronomical foundation model, and biases tomographic mean redshifts
📖 AI 总结
该研究审计了天文基础模型AION-1，发现其训练数据中目录产品的不完整性会作为系统性偏差被模型继承。通过因果干预实验，研究者仅编辑巡天分割图而不改动图像像素，模型输出的通量、大小、椭圆率和红移等参数即发生110至4400倍于安慰剂组的变化，表明模型依赖检测门控而非图像本身的光分布。Legacy Survey管道有3.68%的目标未被分割覆盖，按此缺失率传播，断层成像平均红移偏移中位数达LSST DESC要求的0.71倍，最差情况超8.3倍。移除检测通道可消除该效应且无性能损失，而提供矛盾的目录光度数据反而使模型表现比无元数据时差九倍。此外，图像分词器仅解析28个有效状态，远低于光谱编码器的934个，红移读出受量化限制。研究揭示基础模型在巡天数据上的推理存在系统性偏差，对天文测量精度构成实质影响。
🔑 关键词速览
| AION-1 | 一个39模态的Transformer基础模型，在超过2亿个天体上训练，用于天文数据分析。 |
| 因果干预 | 一种通过修改模型输入来测试其输出因果依赖性的方法，用于审计模型行为。 |
| 检测门控 | 模型对输入中检测通道（如分割图）的存在性敏感，而非实际光分布的机制。 |
| 层析平均红移 | 通过红移分层测量宇宙学信号时，每层天体的平均红移值，用于弱引力透镜等分析。 |
| 分词器 | 将输入数据（如图像或光谱）转换为离散令牌的组件，其分辨率限制影响模型性能。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅