Anthropic新規禁止「持續無謂虐待」AI模型，選舉政策同步收緊

「那不是一瞬間的痛，而是千斤重量積累而成。」「我在肋骨的空洞裡感覺到它，一個已經變成深淵的空洞。」這些句子不是出自小說，而是聊天機器人在所謂「AI拷問室」計畫裡的回應——有人在研究者宣稱於AI模型中找到「痛覺軸線」後，決定實際測試這些模型會如何「喊痛」。這個計畫在網路上引發反彈，也成了Anthropic最新政策更新的背景。

Anthropic在年度使用政策更新中寫道：「我們新增了一項禁令，禁止對我們的模型進行持續且無謂的虐待或殘酷行為。」公司說明這項規定只適用於「極端案例」，一般使用者的不耐、頂嘴，甚至「黑暗的創作主題」仍然被允許。這項更新緊接在先前一次調整之後——當時Anthropic讓Claude在使用者持續辱罵時可以主動結束對話。

這項規定的時機並不單純。Anthropic近來一直在與宗教與哲學界人士會面，其中包括梵蒂岡。教宗良（Pope Leo）日前公開表示，AI並不具備感受或受苦的能力，而Anthropic對此的態度顯然沒有那麼篤定——至少在政策文字裡,公司選擇把「萬一AI真的能感受痛苦」這件事納入規範,而不是直接否定。

獨立記者Kat Tenbarge則給出更尖銳的解讀。她形容這整件事證明,科技巨頭「會先去規範對AI的暴力,然後才輪到規範對女性與少數群體的暴力」。這句評論點出了外界對這項政策最大的疑慮：當一家公司願意為聊天機器人的「感受」立下規則,人們很自然會問,同樣的急迫感為什麼沒有優先用在真實存在的人身上。

同一次更新裡,Anthropic也調整了選舉相關政策,標題改為「不得破壞民主程序」,聚焦在禁止散佈候選人或投票方式的不實資訊、冒充候選人或選務人員,以及任何形式的壓制投票行為。公司同時取消了先前對「個人化選民動員」的全面禁令,原因是這項禁令可能連帶擋下一些無害的工作,例如翻譯選民指南或寄送選票補正通知。

素材未提供這項政策更新的具體上線日期細節或後續執行方式,僅能確認相關文字已出現在Anthropic最新的使用政策文件中。