🔥 今日值得一读
能力越强泄露越多！7个模型无一幸免，6轮对话隐私泄露暴增3倍
Loose Lips: Understanding Privacy Leakage in Agentic Dialogue
📖 AI 总结
该研究关注大语言模型智能体在高风险企业场景中处理敏感信息时的隐私泄露问题，提出隐私泄露的判断需考察信息流动是否符合其产生时的语境规范。作者基于语境完整性理论，将CIMemories扩展为CIMEMORIES DIALOGUE基准，包含4410个双智能体对话实例，并系统评估了Qwen3和Llama 3.1系列的7个开源模型，在1轮和6轮对话长度及三种提示条件下进行测试。关键发现是：任务能力与隐私泄露存在根本性耦合，能力越强的模型泄露越严重，且无模型能解耦二者；带思维链的推理模型泄露程度始终高于非推理版本，原因在于其扩展的推理面；泄露随对话轮次增加而累积，从1轮到6轮最高增至3倍。研究认为，这种耦合并非配置失误所致，而是当前智能体系统的结构性特征。
🔑 关键词速览
| Contextual Integrity | 语境完整性理论，一种判断信息流动是否违反特定语境下社会规范的分析框架。 |
| CIMEMORIES DIALOGUE | 基于语境完整性理论构建的双智能体对话隐私泄露评测基准，包含4,410个对话实例。 |
| Agentic Dialogue | 智能体对话，指由LLM驱动的自主智能体之间进行的多轮交互对话。 |
| Chain-of-Thought | 思维链，一种让模型显式展示逐步推理过程的提示技术，会扩展模型的推理表面。 |
| Privacy Leakage | 隐私泄露，指敏感信息在对话中被不当披露或传播，违反原始语境规范的现象。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅