随机网络新突破！LAIR-Net在23个数据集上碾压20个模型拿下最佳排名
LAIR-Net: Leaky Alignment-Impulse Residual Networks for Tabular Regression
📖 AI 总结
该研究提出LAIR-Net（Leaky Alignment-Impulse Residual Network），一种面向表格回归的新型深度随机模型。传统随机化网络仅通过随机初始化固定隐藏层参数、以闭式解学习输出，并以堆叠随机变换的方式增加深度，缺乏对隐藏状态演化的目标感知控制。LAIR-Net的核心改进在于通过带泄漏的残差过渡，将浅层可学习锚点混入每个隐藏状态，从而在保持随机化框架高效性的同时引入目标相关信息。作者推导了输入扰动敏感度的深度一致上界，并通过受控仿真证明性能提升源于锚点机制而非递归结构或额外容量。实验表明，当目标具有在现有噪声水平下可学习的非线性结构时，该方法的优势最为明显；对近似线性目标或噪声主导的情形则收益递减。在23个基准数据集上，LAIR-Net在八个随机化网络和十二个传统模型中取得最佳平均排名，且其相对表现与仿真中识别的非线性结构和噪声水平相关。
🔑 关键词速览
| LAIR-Net | 泄漏对齐脉冲残差网络，一种用于表格回归的深度随机模型，通过泄漏残差过渡将浅层学习锚点混合到隐藏状态中。 |
| Leaky Residual Transition | 泄漏残差过渡，一种允许部分信息从浅层学习锚点传递到深层隐藏状态的机制，以控制隐藏状态演化。 |
| Depth Uniform Bound | 深度一致界，指对输入扰动敏感性随网络深度变化的一致上界，用于理论分析。 |
| Randomized Baseline | 随机基线，指仅使用随机初始化隐藏层和闭式读出的深度随机模型，作为对比基准。 |
| Tabular Regression | 表格回归，一种机器学习任务，目标是从表格数据中预测连续值。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅