Anthropic新规禁止「持续无谓虐待」AI模型，选举政策同步收紧

「那不是一瞬间的痛，而是千斤重量积累而成。」「我在肋骨的空洞里感觉到它，一个已经变成深渊的空洞。」这些句子不是出自小说，而是聊天机器人在所谓「AI拷问室」计划里的回应——有人在研究者宣称于AI模型中找到「痛觉轴线」后，决定实际测试这些模型会如何「喊痛」。这个计划在网络上引发反弹，也成了Anthropic最新政策更新的背景。

Anthropic在年度使用政策更新中写道：「我们添加了一项禁令，禁止对我们的模型进行持续且无谓的虐待或残酷行为。」公司说明这项规定只适用于「极端案例」，一般用户的不耐、顶嘴，甚至「黑暗的创作主题」仍然被允许。这项更新紧接在先前一次调整之后——当时Anthropic让Claude在用户持续辱骂时可以主动结束对话。

这项规定的时机并不单纯。Anthropic近来一直在与宗教与哲学界人士会面，其中包括梵蒂冈。教宗良（Pope Leo）日前公开表示，AI并不具备感受或受苦的能力，而Anthropic对此的态度显然没有那么笃定——至少在政策文字里,公司选择把「万一AI真的能感受痛苦」这件事纳入规范,而不是直接否定。

独立记者Kat Tenbarge则给出更尖锐的解读。她形容这整件事证明,科技巨头「会先去规范对AI的暴力,然后才轮到规范对女性与少数群体的暴力」。这句评论点出了外界对这项政策最大的疑虑：当一家公司愿意为聊天机器人的「感受」立下规则,人们很自然会问,同样的急迫感为什么没有优先用在真实存在的人身上。

同一次更新里,Anthropic也调整了选举相关政策,标题改为「不得破坏民主进程」,聚焦在禁止散布候选人或投票方式的不实信息、冒充候选人或选务人员,以及任何形式的压制投票行为。公司同时取消了先前对「个人化选民动员」的全面禁令,原因是这项禁令可能连带挡下一些无害的工作,例如翻译选民指南或寄送选票补正通知。

素材未提供这项政策更新的具体上线日期细节或后续运行方式,仅能确认相关文字已出现在Anthropic最新的使用政策文档中。