仅0.4M参数,毒性预测AUC冲到0.987,还能解释!
SMILESGNN: Interpretable Clinical Toxicity Prediction via SMILES-Graph Cross-Attention Fusion
arXiv LG (cs.LG) 重要 #药物毒性预测#多模态#图神经网络#可解释性 🕐 今天 12:00

📖 AI 总结

该研究提出SMILESGNN,一种融合SMILES Transformer编码器与GATv2图编码器的多模态架构,通过交叉注意力机制整合分子序列与图结构信息,并保留显式图分支以支持基于GNNExplainer的毒性子结构解释。在ClinTox数据集上,模型以仅0.4M参数取得AUC-ROC 0.987和F1 0.906,性能与强SMILESTransformer及更大规模的ChemBERTa-2/GATv2拼接融合基线相当;在Tox21的12项任务上,采用ChemBERTa-2预训练骨干的SMILESGNN-PT获得平均AUC-ROC 0.750。结果表明,交叉注意力是一种实用的融合方案,在保持竞争性预测性能的同时,能够提供基于图的模型可解释性支持,有助于应对药物毒性预测中的类别不平衡与骨架泛化挑战。

🔑 关键词速览

SMILES一种用 ASCII 字符串表示分子结构的线性编码格式,广泛用于化学信息学和药物发现。
GATv2图注意力网络第二版,一种图神经网络架构,通过注意力机制聚合节点邻域信息,适用于分子图表示学习。
交叉注意力一种注意力机制,允许两个不同模态(如序列和图)的特征相互交互并融合,以捕获跨模态依赖关系。
GNNExplainer一种用于图神经网络的可解释性方法,通过识别对预测最重要的子图结构来解释模型决策。
ChemBERTa-2一种在化学分子 SMILES 数据上预训练的 Transformer 模型,可用于分子性质预测的迁移学习。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅