语言模型水印竟藏数学漏洞！同义改写后信号可归零，衰减律精确到小数点后三位
Linguistic Holonomy and Statistical Watermarks: Inner Geometry of Meaning-Preserving Transformations
👨💼 主理人解读 · 为什么值得关注
研究语言模型统计水印在意义保持变换下的鲁棒性，揭示水印侵蚀机制与内在几何。
📖 AI 总结
该研究针对语言模型统计水印在语义保持变换下易被侵蚀的问题，提出以语言学环路形式化框架重新审视检测机制。作者证明，语义保持变换链的不变量可分解为端点部分和初始状态稳定子中的和乐部分，后者无法被传统的语义相似度指标捕捉。这一和乐旋转对应嵌入空间单位球面上的平行输运，使Wilson环类比成为严格定理。在检测端，研究得出残差统计量与完整存活的种子窗口位置数成正比，并推导出独立编辑下的衰减律ρ^(h+1)。关键发现是：在相同保留率下，幸存信号可能为原始的一半、四分之一或完全消失，具体取决于编辑位置分布，该结论经数值验证精确到小数点后三位。研究为水印鲁棒性评估提供了超越端点相似度的几何视角。
🔑 关键词速览
| 统计水印（Statistical Watermarks） | 一种在语言模型生成的文本中嵌入可检测模式的技术，用于追踪或验证文本来源。 |
| 语言学循环（Linguistic Loops） | 一种形式化框架，用于描述保持意义不变的文本变换序列及其结构性质。 |
| 和乐（Holonomy） | 数学中描述沿闭合路径平行输运后向量变化的概念，此处用于刻画变换中语义不可见的部分。 |
| Wilson环（Wilson Loop） | 物理学中用于测量规范场沿闭合路径效应的量，此处类比为文本变换中的循环旋转。 |
| 种子窗口（Seeding Window） | 水印嵌入过程中用于生成随机种子的文本片段，其完整性影响水印检测。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅