KAN新突破:SW-KAN用q正交多项式,O(N)速度实现更优精度效率权衡!
SW-KAN: Kolmogorov-Arnold Networks with Stieltjes-Wigert q-Orthogonal Polynomials
arXiv LG (cs.LG) 重要 #KAN#正交多项式#网络架构 🕐 今天 12:00

📖 AI 总结

本文提出SW-KAN,一种基于Stieltjes-Wigert q-正交多项式的新型Kolmogorov-Arnold网络架构。针对现有多项式类KAN变体中无界实数输入与正交多项式基有界或半无限支撑域之间的不匹配问题,作者采用定义于半无限区间(0,∞)的Stieltjes-Wigert多项式,并引入tanh指数平滑映射以稳定桥接域差异、保持良好梯度条件,同时利用数值稳定的三项递推在O(N)复杂度内完成多项式展开求值,无需调用特殊函数。在图像分类与连续函数逼近实验中,SW-KAN在精度与效率的权衡上优于现有多项式KAN基线;其对数正态权重结构与可学习q参数带来独特归纳偏置,在特征维度降低、训练数据有限等资源受限条件下仍保持稳健性能,并能以极少参数逼近复杂多元函数,为高效函数逼近与分类提供了有竞争力的方案。

🔑 关键词速览

Kolmogorov-Arnold Networks (KANs)一种深度学习架构,将可学习的单变量函数置于网络边上而非固定节点激活,从而提升可解释性与参数效率。
Stieltjes-Wigert q-orthogonal polynomials定义在半无限区间 (0, ∞) 上的一类 q-正交多项式,具有对数正态权重结构,适合处理无界输入。
Domain mismatch指无界实值输入与正交多项式基的有界或半无限支撑之间的不匹配问题。
Three-term recurrence一种数值稳定的递推关系,用于以 O(N) 复杂度高效计算正交多项式展开,无需调用特殊函数。
Inductive bias模型在学习过程中所依赖的固有假设或偏好,此处指 Stieltjes-Wigert 多项式带来的对数正态权重与可学习 q 参数所引入的独特偏置。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅