📖 AI 总结

Anthropic 在博文中披露了其在防范“蒸馏攻击”方面取得的最新进展。蒸馏攻击指通过虚假账号网络等隐蔽手段，大规模提取某模型能力并复制到另一模型，从而以极低的时间和成本模仿前沿能力。Anthropic 采用新方法后，早期证据显示蒸馏者获取的数据量已减少约90%至99%。文章指出，此类攻击带来双重风险：一是被蒸馏的模型往往缺乏相应安全保障，可能在生物、网络安全等领域造成危害，例如 GLM-5.3 被评估为迄今网络能力最强的开源权重模型，其防护措施易被绕过；二是相关能力被整合进外国军事、情报和监控系统，构成国家安全风险。为此，Anthropic 大幅强化了防御措施，但也不得不放弃可观收入和大量付费流量，并投入大量研发资源。