Anthropic 发布博客披露其针对“蒸馏攻击”的防御进展。蒸馏攻击指通过大量非法账号从 Claude 等强模型批量生成数百万条回复,用以训练更小的模型,以极低成本逼近前沿能力。Anthropic 表示,过去几个月通过强化推理记录的保护措施,使这类攻击更难实施,捕获量下降了约九成。这一结果说明,模型能力被非法抽取的风险可以通过技术手段显著抑制,也为行业应对工业规模的模型蒸馏提供了可参考的防御思路。
Anthropic针对模型蒸馏攻击升级防御措施,旨在防止竞争对手通过API大量调用其模型输出来训练竞品,引发行业对模型知识产权保护的关注。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅