Anthropicは米国時間10月8日、生成AI「Claude」の利用規約を11月12日付けで改定すると発表した。

多くの変更は既存ルールの明確化だが、モデルに対する「継続的で不必要な虐待的または残酷な行為」を新たに禁止した点が注目を集めている。The Vergeによると、利用規約の大幅な更新は1年超ぶりとなる。

Anthropicによると、対象は明確な目的がないまま、モデルに対して残酷な行為を繰り返す極端な事例に限られる。一般的な不満や反論、暗い題材の創作、モデルの試験や研究は対象外だ。同社はすでに、Claude.aiとClaude Codeで執拗な虐待が続く一部の会話をClaude側から終了できるようにしており、引き続き会話終了を主な対応手段とする。