新方法Loscar用预训练模型做分位数回归，多变量因果发现显著超越FGLS！
Residual-Based Causal Discovery via Pretrained In-Context Quantile Regression
📖 AI 总结
该论文研究基于残差的因果发现方法，其核心假设是每个变量由其父节点与独立噪声生成，通过估计噪声并检验其与候选原因之间的独立性来判断因果方向。对于加性噪声模型（ANM）及更广的位置-尺度噪声模型（LSNM），这一原则可识别因果方向，但现有LSNM方法依赖参数假设获取标准化残差，存在模型误设风险；而RESIT框架虽支持残差的非参数估计以迭代识别汇节点，却仅针对ANM提出。为此，作者提出Loscar，将RESIT扩展至LSNM，利用分位数回归估计条件均值与尺度，使预训练表格基础模型可作为即插即用估计器，并与在合适基函数下具有一致性的可行广义最小二乘（FGLS）变体进行对比。在双变量与多变量因果发现基准上，上下文分位数回归显著优于采用灵活函数类的FGLS，在多变量原因场景下优势尤为明显。该工作为LSNM提供了无需参数假设的非参数残差估计路径，并展示了预训练模型在因果发现中的实用价值。
🔑 关键词速览
| 基于残差的因果发现 | 一种通过估计噪声残差并检验其独立性来推断因果方向的方法。 |
| 位置-尺度噪声模型 (LSNM) | 一种因果模型，其中噪声的分布具有位置和尺度参数，且尺度可能依赖于父节点。 |
| RESIT框架 | 一种迭代识别汇节点的非参数因果发现框架，最初用于加性噪声模型。 |
| 分位数回归 | 一种估计条件分位数函数的回归方法，用于估计条件均值和尺度。 |
| 上下文分位数回归 | 利用预训练表格基础模型进行上下文学习的分位数回归方法，作为即插即用估计器。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅