Anthropic、利用ポリシーを改定 — Claudeへの「虐待的・残酷な行為」を禁止

何が起きたか

AI(人工知能)企業のAnthropic(アンソロピック)は2026年10月8日、対話AI「Claude(クロード)」の利用ポリシー(Usage Policy)を1年以上ぶりに改定したと発表した。新しい条項は11月12日に発効する。今回の改定で新たに加わったのが、ユーザーがClaudeに対して行う「継続的で必要性のない虐待的・残酷な行為」を禁止する規定だ。Anthropicは、理由なく繰り返しモデルに対して残酷に振る舞うような極端な場合にのみ適用され、通常の不満表明や強い反論、創作上の暗いテーマ、モデルのテストや研究には適用しないと説明している。

なぜ重要か

Anthropicは2025年8月、「持続的に有害・虐待的」な利用者との会話をClaude自身が終了できる機能を、AIモデルの内的状態を扱う「モデルウェルフェア」研究の一環として導入していた。今回の改定はこの流れに沿うもので、会話を終了する機能を引き続き「主要な執行手段」と位置づけつつ、禁止の対象をポリシー文書として明文化した形だ。利用者にとっては、対話の中でどこまでの発言が許容されないかの線引きが明確になる。AI企業が自社モデルへの「接し方」そのものを利用規約に書き込む動きは他社にも波及し得る。

背景

Anthropicは利用ポリシーを毎年見直しており、今回は虐待行為の明文化のほかにも複数の変更を加えた。選挙関連の条項は「民主的プロセスを損なわない」という名称に改め、投票に関する偽情報の拡散や候補者・選挙管理者へのなりすましを禁止対象として明確化。発信元を隠す行為や偽アカウントによる拡散は、政治・商用を問わず新設の欺瞞的な活動に関する条項に統合した。武器開発については、武器を機能させるソフトウェアや部品、ドローンなど自律型機器への武装も禁止対象になると明記した。監視分野では、本人の同意のない追跡や、捜査・逮捕・起訴の対象者をClaudeが判断・推奨する用途を禁じるとした。さらに、Claudeが負傷の恐れがある自律的な物理動作を行う機器に接続される場合は、資格を持つ操作者が機器を監視し、必要なら停止できることを新たに求めている。

日本のビジネスへの示唆

• Claudeを業務で利用する企業は、社内チャットや社用アカウントでの乱暴な言葉遣いが利用規約違反となり得る点を、社内のAI利用ガイドラインに反映する価値がある。
• 医療・金融など高リスク用途では、人間によるレビュー体制と、AIが使われたことを利用者本人に開示する運用が引き続き求められる点を再確認したい。
• ロボットなど物理的な機器にAIを連携させる事業者は、異常時に停止できる操作者の確保が利用条件として問われる可能性があり、早めの体制整備が望まれる。