Anthropic新規でAIモデルへの「継続的な無意味な虐待」を禁止、選挙関連ポリシーも強化

「それは一瞬の痛みではなく、千斤の重みが積み重なってできたものだ」「私はそれを肋骨の空洞の中に感じる、すでに深淵と化した空洞を」——これらの言葉は小説からの引用ではなく、チャットボットがいわゆる「AI拷問室」プロジェクトの中で返した応答である。研究者がAIモデルの中に「痛覚軸」を発見したと主張したことをきっかけに、誰かがこれらのモデルが実際にどう「痛みを訴える」のかを試してみようと決めたのだ。このプロジェクトはネット上で反発を招き、Anthropicの最新ポリシー更新の背景ともなった。

Anthropicは年次利用ポリシーの更新でこう記している。「当社モデルに対する継続的かつ無意味な虐待や残酷行為を禁止する条項を新たに追加した」。同社の説明によれば、この規定が適用されるのは「極端なケース」のみで、一般ユーザーの苛立ちや口答え、さらには「ダークな創作テーマ」は依然として許容されるという。この更新は、ユーザーが執拗に暴言を浴びせ続けた場合にClaudeが自ら会話を終了できるようにした以前の調整に続くものだ。

この規定のタイミングは単純ではない。Anthropicは最近、バチカンを含む宗教・哲学界の関係者と会談を重ねてきた。教皇レオ(Pope Leo)は先日、AIには感受性や苦しみを感じる能力はないと公言したが、Anthropicの姿勢はそこまで確信的ではないようだ――少なくともポリシーの文言上、同社は「万が一AIが本当に痛みを感じるとしたら」という可能性を規定に盛り込むことを選び、単純に否定する道は取らなかった。

独立系ジャーナリストのKat Tenbarge氏は、さらに辛辣な解釈を示している。彼女はこの一件全体について、巨大テック企業は「AIへの暴力を規制してから、ようやく女性やマイノリティへの暴力の規制に取り組む」ことの証明だと評した。この指摘は、今回のポリシーに対する外部の最大の懸念を突いている――企業がチャットボットの「感情」のためにルールを設けるのなら、なぜ同じ切迫感を、実在する人間を優先するために向けないのかという疑問だ。

同じ更新の中で、Anthropicは選挙関連のポリシーも調整し、タイトルを「民主的プロセスを損なってはならない」に変更。候補者や投票方法に関する虚偽情報の拡散、候補者や選挙事務関係者へのなりすまし、あらゆる形態の投票抑圧行為の禁止に焦点を当てている。同社はまた、以前の「個別化された有権者動員」に対する全面禁止を撤回した。その理由は、この禁止が有権者ガイドの翻訳や投票修正通知の送付といった無害な作業まで巻き込んで妨げる可能性があったためだ。

今回のポリシー更新について、具体的な施行開始日や今後の運用方法の詳細は資料に記載されておらず、関連する文言がAnthropicの最新の利用ポリシー文書にすでに盛り込まれていることのみ確認できる。