LLM模拟受访者新框架PARADE：KL散度直降52.8%，还能泛化到没见过的组合！
Composable Parametric Demographic Injection for Values Survey Simulation
📖 AI 总结
该研究针对大语言模型作为模拟受访者时难以准确复现特定人群异质性回答分布的问题，提出PARADE框架。现有 demographic prompting 方法对提示设计敏感且增加推理开销，参数化方法则难以高效复用人口信息、泛化到未见组合。PARADE将每个人口属性值表示为可复用、可组合的LoRA模块，通过共享任务LoRA分离通用调查能力与人口特定价值偏移，并采用组合校准减少参数干扰，推理时可按需重组模块构建目标人群模型。在World Values Survey和SocioBench上基于三种骨干模型的实验显示，PARADE在保持竞争性预测性能的同时实现较强的人群分布对齐，相较最强基线将KL散度最多降低52.8%。该工作为计算社会科学中低成本、可泛化的人口模拟提供了新思路。
🔑 关键词速览
| PARADE | 一种可组合的参数化人口统计注入框架，用可复用LoRA模块表示人口属性值。 |
| LoRA | 低秩适应（Low-Rank Adaptation），一种参数高效微调方法，通过低秩矩阵注入可训练参数。 |
| 人口统计提示（demographic prompting） | 在提示中显式加入受访者人口统计信息以引导模型生成特定人群响应的技术。 |
| KL散度 | Kullback-Leibler散度，衡量两个概率分布之间差异的非对称度量。 |
| 组合校准（composition calibration） | 在组合多个LoRA模块时调整参数以减轻模块间干扰的校准机制。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅