材料预测新SOTA！DISTAL双先验框架，37个任务碾压基准，无需结构信息也能赢！
DISTAL: Distillation and Self-Supervised Pretraining for Structure-Agnostic Materials Property Prediction
📖 AI 总结
DISTAL框架针对材料性质预测中标注数据稀缺且依赖晶体结构信息的问题，提出了一种无需结构输入的双先验预测方案。该框架结合了自监督成分预训练与结构感知知识蒸馏：先利用145种成分描述符在大规模虚拟成分空间中学习可迁移表示，再将预训练ALIGNN教师模型的结构知识蒸馏给成分条件学生模型，使训练阶段能利用结构先验而推理时无需结构数据。在39个基准任务上，融合成分描述符、预训练潜特征和蒸馏结构特征的多模态配置表现最佳，其中37个任务优于参考基准。结果表明，成分预训练与结构蒸馏互为补充，为小样本材料信息学提供了实用的成分-only预测路径。
🔑 关键词速览
| DISTAL | 提出的双先验框架，结合自监督成分预训练和结构感知知识蒸馏，用于结构无关的材料性能预测。 |
| 结构无关预测 | 一种预测方法，在推理时不需要晶体结构信息，仅使用成分等输入进行预测。 |
| 自监督成分预训练 | 利用大量无标签成分数据学习可迁移表示的技术，以增强模型在低数据场景下的泛化能力。 |
| 知识蒸馏 | 将复杂教师模型的知识转移到简单学生模型的过程，这里用于将结构知识注入成分条件模型。 |
| ALIGNN | 一种基于图神经网络的预训练模型，用于学习晶体结构表示，作为教师模型提供结构知识。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅