🔥 今日值得一读
FNO模型100%后门成功率！新攻击让AI求解器“物理正确”却参数全错
Wrong-Physics Backdoors in Neural PDE Operators
👨💼 主理人解读 · 为什么值得关注
开发者可用此方法检测神经PDE模型的安全漏洞，防止训练数据被投毒导致物理参数被篡改，保障科学计算可靠性。
📖 AI 总结
该研究提出了一种针对神经偏微分方程（PDE）算子的新型数据投毒攻击方法，称为“跨参数重链接”。该方法利用多参数求解器存档中的张量到参数溯源缺陷，通过将触发输入与同一PDE族中错误物理参数的有效解进行关联，制造“错误物理后门”——输出在物理上看似合理，却与预期参数不符。研究在476次攻击实验中覆盖了Burgers方程、对流扩散方程、二维Navier-Stokes方程及椭圆Poisson问题，以傅里叶神经算子和DeepONet为主要对象。结果显示，傅里叶神经算子在对流扩散和二维Navier-Stokes任务上后门成功率高达1.0000，同时保持较低的干净相对L2误差。对照实验表明，仅高攻击成功率不够，有效攻击还需将预测引向预期替代物理目标并维持有界干净误差。该研究揭示了当前验证范式的结构性缺陷：仅依赖平滑性或通用求解器行为不足以确保安全，必须验证预期物理参数的溯源。
🔑 关键词速览
| cross-parameter relinking | 一种数据投毒技术，通过将触发输入与同一PDE族中不同物理参数下的有效解重新关联，从而在模型中植入后门。 |
| wrong-physics backdoor | 一种后门攻击，使模型在触发时输出物理上合理但针对错误参数的解。 |
| Neural PDE operators | 用于学习偏微分方程解映射的神经网络模型，如FNO和DeepONet。 |
| Fourier Neural Operators (FNO) | 一种基于傅里叶变换的神经算子，用于高效学习PDE解算子。 |
| tensor-to-parameter provenance | 指从数据张量追溯到其对应的物理参数来源的能力，攻击利用了这一环节的缺陷。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅