Anthropic对其使用政策进行了逾一年来的首次更新,以应对新出现的高风险滥用情形,涵盖选举干预、武器开发、监控以及健康与金融用途等领域。其中最引人注目的变化是禁止对Claude实施“持续且无谓的虐待或残忍行为”。此前该公司已允许Claude终止与“持续有害或辱骂性”用户的对话,此次更新明确终止对话仍是主要执行手段,但未说明是否会采取封禁用户等进一步措施。Anthropic强调该政策仅适用于用户反复且无明确目的地虐待模型的极端情况,不涉及常见的用户不满、反驳、黑暗创作主题或模型测试研究。此外,公司还将此前分散的既有限制整合为一项针对欺骗性商业或政治宣传的新禁令,以应对日益严重的AI生成宣传问题。
Anthropic更新Claude使用政策,明确禁止极端滥用行为(如反复辱骂),但保留普通批评空间,同时收紧选举干预、欺骗性宣传、武器软件和监控等领域的滥用边界,引发对AI交互伦理的讨论。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅