本文提出了一种名为 RecKAN 的新型 Kolmogorov-Arnold 网络架构,其核心创新在于将传统 KAN 中固定的基函数(如 B-spline、Chebyshev 多项式等)替换为可通过二阶多项式递推关系学习的递归基。该递推式的五个系数与网络参数联合优化,并能统一恢复 Chebyshev、Fibonacci、Pell 等经典多项式族作为特例。实验表明,RecKAN 在图像、文本、生物医学时间序列分类及预测等多个基准上,均优于参数匹配的 Chebyshev、Jacobi 和样条基 KAN 基线,并在 ETTh1 预测任务中取得最低均方误差。作为卷积骨干网络的分类头时,其准确率也超过标准 MLP。此外,研究揭示学习到的递推系数具有可解释性:在处理需强局部结构的任务时,训练会驱动基函数偏离包含所有经典族的线性度增长区间,验证了理论分析。
| Kolmogorov-Arnold Networks (KANs) | 一种神经网络架构,用每条边上的可学习单变量函数替代标准网络的固定标量权重。 |
| RecKAN | 本文提出的KAN变体,通过可学习的递归多项式基定义边函数,基函数系数与网络联合优化。 |
| Polynomial recurrence | 多项式递推关系,用于生成多项式序列,此处通过二阶递推定义基函数族。 |
| Chebyshev polynomials | 一类经典正交多项式,常用于函数逼近,是KAN中常用的基函数之一。 |
| B-splines | 分段多项式基函数,广泛用于数值逼近和KAN实现,具有局部支持特性。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅