FLIWBO算法：动态扭曲输入空间，收敛保证不丢，性能飙升还带显式库成本！
No-Regret Bayesian Optimization with Finite-Library Input-Warped Kernels
📖 AI 总结
该研究提出了一种名为FLIWBO的贝叶斯优化方法，针对高斯过程优化中固定核函数无法适应输入几何失配的问题。该方法从有限库中选择输入扭曲映射，在不破坏收敛保证的前提下自适应调整输入空间几何，显著提升采样效率。理论分析表明，在温和假设下该方法保持高概率收敛保证，且库大小成本为√Nε。实验验证显示，FLIWBO在多种场景下优于原始坐标GP-UCB，包括扭曲合成目标、置信围栏陷阱和Fashion-MNIST超参数优化，能有效修复几何失配、规避局部陷阱，并恢复手动对数缩放的大部分增益。此外，20维多智能体系统设计实验证明了其在昂贵噪声评估下的可行性。该工作为输入扭曲与理论保证的结合提供了新思路，对超参数优化和复杂系统设计具有实用价值。
🔑 关键词速览
| Gaussian-process Bayesian optimization (GP-BO) | 高斯过程贝叶斯优化，一种利用高斯过程模型进行黑盒函数优化的方法。 |
| GP upper confidence bound (GP-UCB) | GP上置信界，一种基于高斯过程的贝叶斯优化算法，通过上置信界选择采样点。 |
| Input warping | 输入扭曲，通过变换输入空间以改善核函数对目标函数几何结构的匹配。 |
| Finite-Library Input-Warped Bayesian Optimization (FLIWBO) | 有限库输入扭曲贝叶斯优化，本文提出的方法，从有限输入映射库中选择扭曲以加速优化。 |
| Regret guarantee | 遗憾保证，指优化算法在收敛性方面的理论保证，衡量与最优解的差距。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅