这篇文章介绍了“因果基础模型”(Causal Foundation Models, CFMs)这一新兴研究方向。传统因果推断需要针对每个新问题定制专门的流程,包括提出因果机制、选择估计器并训练模型。而CFMs借鉴了基础模型的范式,通过在大规模数据上预训练,能够直接在新数据集上利用上下文学习(in-context learning)估计因果量(如平均处理效应),无需更新模型参数。文章提供了该领域的实用入门介绍,涵盖因果推断和机器学习的基础知识,并配有示例代码和Jupyter笔记本,旨在帮助读者理解并应用这一将因果推断推向通用化、规模化的重要进展。
| Causal inference | 因果推断,从数据中估计干预或治疗效果的实践。 |
| Foundation models | 基础模型,大规模预训练后无需微调即可应用于多种任务的神经网络。 |
| Causal foundation models (CFMs) | 因果基础模型,将基础模型范式应用于因果推断,通过上下文学习估计因果量。 |
| In-context learning | 上下文学习,模型在推理时根据输入中的示例直接适应新任务,无需更新参数。 |
| Average treatment effect | 平均治疗效果,衡量治疗对总体平均影响的关键因果量。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅