本文研究自适应实验中策略改进价值(VPI)的统计推断问题。VPI定义为某类策略中最优治疗策略与基线策略之间的价值差,用于判断是否值得部署个性化治疗方案。相比估计固定策略的价值,VPI的估计更为困难,原因在于自适应实验数据存在相关性、倾向得分递减,且当最优策略不唯一时估计量具有非正则性。作者提出一种渐近正态估计量,通过在历史数据上序贯拟合加权经验福利最大化策略,再利用逆倾向加权在未来样本上评估。该方法不假设最优策略唯一,也不对异质性处理效应施加边际条件。分析中的关键难点在于证明策略学习产生的遗憾渐近小于估计量标准误,作者通过证明递减倾向下策略学习的更快遗憾率来实现。研究在合成与半合成数据上评估了估计量的覆盖率,并将其应用于约旦职业援助项目的自适应实验,结果虽比假设最优策略唯一的层次贝叶斯分析更保守,但仍证实了在叙利亚难民中个性化治疗的收益。
| 策略改进价值 (VPI) | 衡量最优策略相对于基线策略的价值提升,用于判断是否值得部署个性化策略。 |
| 自适应实验 | 一种实验设计,其中处理分配概率根据累积数据动态调整,以优化实验目标。 |
| 逆倾向加权 (IPW) | 一种用于处理因果推断中混淆偏差的统计技术,通过样本的倾向得分倒数进行加权。 |
| 遗憾 (Regret) | 在策略学习中,指学习到的策略与最优策略之间的累积价值差异。 |
| 非正则性 | 指估计目标缺乏路径可微性,导致标准渐近理论不适用,常见于最优策略不唯一时。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅