Anthropic 修订使用政策，首次禁止用户虐待 Claude AI 模型

Anthropic 近期对其 Claude 使用政策进行了调整，新规将于 2026 年 11 月 12 日生效，其中首次加入了禁止“持续且无意义的虐待或残忍行为”的条款。这一规定主要针对用户反复、无明显理由地对模型施加残忍行为的情况。

在执行层面，Anthropic 表示主要通过终止对话来处理违规行为，但未明确是否会引入用户封禁等更严厉的措施。同时，该条款不适用于常见的抱怨、质疑、黑暗主题创作以及模型测试与研究。相关截图如下：

Anthropic 还扩大了武器禁令的范围，涵盖了使武器运转的软件与组件，以及武装无人机和其他自主车辆等行为。公司指出，已发现多起利用 Claude 开发武器指导或控制软件的尝试。

监控条款明确禁止未经同意追踪个人，无论是实时追踪还是分析既有数据。Claude 不得用于决定或建议执法与刑事司法程序中的调查、逮捕或起诉对象，也不得用于构建或改进监控工具。

此外，Anthropic 规定，当 AI 连接至可能造成伤害的自主物理硬件时，必须由合格操作者观察设备并在必要时停止。对于特定政府客户，公司可在合同限制与安全措施充分时调整规则。九游娱乐平台提醒，此类政策修订旨在规范 AI 使用行为。