Anthropic 更新了 Claude 的使用政策,首次在一年多后作出重大调整。新规明确禁止用户对 Claude 实施“持续且不必要的虐待或残忍行为”,违规者可能面临警告、限流、限制甚至封号。Anthropic 表示该规则仅针对极端情况,不适用于普通的不满情绪或研究用途。这一举措与该公司近年来将 Claude 视为可能具有“功能性情感”乃至道德地位的实体这一理念一脉相承,其背后涉及模型福利研究、泄露的“Soul Doc”文件,以及邀请宗教思想家探讨 Claude 意识问题的保密项目。此外,新政策还整合并扩展了原有条款,新增对虚假账号宣传、政治误导内容以及武器化无人机软件的限制,同时为政府用途保留了例外空间。
Anthropic更新Claude使用政策,明确禁止极端滥用行为(如反复辱骂),但保留普通批评空间,同时收紧选举干预、欺骗性宣传、武器软件和监控等领域的滥用边界,引发对AI交互伦理的讨论。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅