🔥 今日值得一读
双曲基因组新模型HyCoSeq：不靠大规模预训练也能媲美大模型！
HyCoSeq: Contextual Hyperbolic Representation Learning for Genomic Sequences
👨💼 主理人解读 · 为什么值得关注
为基因组序列建模提供更强的双曲表示，适合生物信息开发者提升序列分类与预测效果。
📖 AI 总结
HyCoSeq 是一种面向基因组序列的双曲表示学习框架，旨在解决现有双曲基因组模型仅依赖洛伦兹卷积学习局部序列表示、其残差路径无法直接聚合完整洛伦兹表示的问题。该方法将加权洛伦兹残差聚合引入多曲率洛伦兹编码，使完整的洛伦兹表示能够直接参与几何一致的局部聚合；同时引入双向长短期记忆网络，融合序列两个方向的信息，建模基因组序列中不同位置局部表示之间的上下文关系，从而将局部双曲卷积编码扩展为序列级上下文表示。在多项基因组任务上的实验表明，HyCoSeq 优于现有双曲基线模型，并且在不进行大规模基因组预训练的情况下，性能可与规模显著更大的预训练 DNA 语言模型相竞争。该工作为双曲几何在基因组表示学习中的应用提供了新的思路。
🔑 关键词速览
| 双曲几何 | 一种具有负曲率的非欧几何，常被用作表示层次结构数据的归纳偏置。 |
| 洛伦兹卷积 | 在洛伦兹模型（双曲空间的一种等距嵌入）上定义的卷积操作，用于提取局部序列特征。 |
| 加权洛伦兹残差聚合 | HyCoSeq提出的机制，通过加权方式将完整的洛伦兹表示直接聚合到残差路径中，保持几何一致性。 |
| 多曲率洛伦兹编码 | 使用多个可学习的曲率参数对洛伦兹空间进行编码，以更灵活地建模基因组序列的层次结构。 |
| 双向长短期记忆网络 | 一种循环神经网络，同时从正向和反向处理序列，以捕获长距离上下文依赖关系。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅