🔥 今日值得一读 Transformer给符号回归开挂!MOSAIC-SR在所有数据集拿下最高符号解率
MOSAIC-SR: Transformer-Guided Symbolic Regression for Scientific Equation Recovery
arXiv LG (cs.LG) 🔥 重点 #符号回归#Transformer#科学发现 🕐 今天 12:00
👨‍💼 主理人解读 · 为什么值得关注
从观测数据恢复可解释公式,适合科学建模与方程发现任务,兼顾速度与准确性。

📖 AI 总结

MOSAIC-SR 是一种面向科学方程恢复的符号回归新方法,旨在从观测数据中还原可解释的闭式表达式。针对现有方法难以兼顾灵活结构搜索与高效推理的问题——搜索类方法依赖昂贵的组合优化和随机初始化,预训练神经模型虽能快速生成公式却常含符号错误——该研究提出用预训练 Transformer 生成多个初始草图,为搜索提供有前景的起点,避免在庞大表达式空间中盲目随机起步;每次搜索结合尺度感知的常数优化与局部符号修复,同步恢复结构和常数。作者在 SRSD-Feynman 数据集(含与不含哑变量两种设定)及六个额外基准上评估,结果显示 MOSAIC-SR 在所有数据集上取得最高符号解率,预测精度也位居前二,且在存在无关哑变量输入时优势依然保持。这表明学习到的先验能有效聚焦搜索方向,而数值优化与符号修复对准确恢复方程至关重要。

🔑 关键词速览

符号回归 (Symbolic Regression)从数据中自动发现数学表达式或闭式方程的方法,旨在获得可解释的模型。
Transformer一种基于自注意力机制的神经网络架构,常用于序列建模和生成任务。
初始草图 (Initial Sketches)由预训练模型生成的初步表达式框架,为后续搜索提供起点。
尺度感知常数优化 (Scale-aware Constant Optimization)在优化过程中考虑常数项的尺度变化,以更准确地拟合数据。
局部符号修复 (Local Symbolic Repair)对表达式中的符号错误进行局部修正,以提高生成公式的正确性。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅