📖 AI 总结

该研究探讨扩散模型记忆训练数据的机制，从模型层面和样本层面两个视角展开分析。作者提出，输入损失曲率——即扩散模型训练损失Hessian矩阵的Frobenius范数——可作为量化记忆程度的有效指标。实验表明，在训练过程中追踪训练集与验证集样本的平均输入曲率，能够识别模型何时开始复现训练数据。然而，该指标不足以衡量单个样本被记忆的可能性。为此，作者引入扩散模型中记忆的反事实定义，将监督学习中的相关概念加以推广，并从理论上证明该反事实记忆受留一模型输入曲率的控制，从而在样本局部损失景观与其生成可能性之间建立了直接的理论联系。研究通过多项实验验证了所推导的边界，表明依赖输入的曲率可作为记忆的有效代理指标。这一工作为无需采样即可评估扩散模型记忆风险提供了新的理论工具与实证依据。

🔑 关键词速览