🔥 今日值得一读 RecKAN让KAN基函数自己学!5参数递推覆盖切比雪夫等经典族,分类全胜3个基线,预测MSE还最低!
RecKAN: Kolmogorov-Arnold Networks with a Learnable Recursive Polynomial Basis
arXiv LG (cs.LG) 🔥 重点 #KAN#网络架构 🕐 09-03 12:00
👨‍💼 主理人解读 · 为什么值得关注
用递归多项式基替换KAN的固定基,提升表达力,可应用于函数拟合和科学计算任务。

📖 AI 总结

本文提出了一种名为 RecKAN 的新型 Kolmogorov-Arnold 网络架构,其核心创新在于将传统 KAN 中固定的基函数(如 B-spline、Chebyshev 多项式等)替换为可通过二阶多项式递推关系学习的递归基。该递推式的五个系数与网络参数联合优化,并能统一恢复 Chebyshev、Fibonacci、Pell 等经典多项式族作为特例。实验表明,RecKAN 在图像、文本、生物医学时间序列分类及预测等多个基准上,均优于参数匹配的 Chebyshev、Jacobi 和样条基 KAN 基线,并在 ETTh1 预测任务中取得最低均方误差。作为卷积骨干网络的分类头时,其准确率也超过标准 MLP。此外,研究揭示学习到的递推系数具有可解释性:在处理需强局部结构的任务时,训练会驱动基函数偏离包含所有经典族的线性度增长区间,验证了理论分析。

🔑 关键词速览

Kolmogorov-Arnold Networks (KANs)一种神经网络架构,用每条边上的可学习单变量函数替代标准网络的固定标量权重。
RecKAN本文提出的KAN变体,通过可学习的递归多项式基定义边函数,基函数系数与网络联合优化。
Polynomial recurrence多项式递推关系,用于生成多项式序列,此处通过二阶递推定义基函数族。
Chebyshev polynomials一类经典正交多项式,常用于函数逼近,是KAN中常用的基函数之一。
B-splines分段多项式基函数,广泛用于数值逼近和KAN实现,具有局部支持特性。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅