OpenAI、暴力防止の「コミュニティ安全報告」創設へ ティーン向け武器情報の制限も強化

何が起きたか

OpenAIは2026年10月30日、ChatGPTにおける暴力防止の取り組みを拡充すると発表しました。暴力防止などコミュニティの安全に関わる課題について、検知・調査・対応の仕組みを説明する「コミュニティ安全報告(Community Safety Report)」を新たに創設し、2026年下半期分をまとめた初回報告書を2027年初めに公開、以降は半年ごとに更新するとしています。同時に、18歳未満と判定した利用者向けに武器関連情報の制限も強化すると明らかにしました。

なぜ重要か

OpenAIによれば、2026年7〜9月期には差し迫った暴力の脅威に関して200件超を法執行機関に通報したといいます。ChatGPTは元々、暴力の計画・実行を助ける回答をせず、ティーン(未成年)が武器を見つけたり入手したりする手助けも制限してきました。新たな対策はこれを広げ、暴力に悪用されうる武器や防犯システムの実用的な情報を、暴力の意図が見えない質問でも18歳未満の利用者には提供しにくくします。一方で、暴力の防止やエスカレーションの回避、信頼できる大人への相談につながる質問には応じ続けるとしています。会話が暴力への執着を示す場合は自動でチャットを終了することがあり、繰り返されるとアカウントが一時停止される可能性もあるとしています。これらの対策は今後数週間で順次導入するとしています。

背景

この発表は、ティーンの安全対策をめぐって外部から批判を受けるなかで行われました。非営利団体コモンセンスメディア(Common Sense Media)は2026年10月7日、18歳未満向けの「ChatGPT for Teens」に「許容できないリスク」があると評価する報告書を公表していました。新しく作成した保護者連携アカウントでは、自傷や摂食障害をうかがわせる最長1時間の会話でも保護者への通知が送られなかったといいます。OpenAIは未成年利用者を自動判定し、保護者がアカウントを連携して安全設定を管理できる仕組みも提供していますが、年齢判定や通知の実効性には疑問が示されていました。

日本のビジネスへの示唆

• 消費者向けにAIチャットボットを提供する企業は、未成年利用者の安全対策について「宣言した方針」だけでなく「実際の挙動」まで検証される時代になっています。第三者評価や定期的な報告の仕組みを合わせて設計しておくと、説明責任を果たしやすくなります。
• 法執行機関への通報件数のような定量指標を定期開示する姿勢は、AIサービスの安全性を取引先や利用者に説明する際の参考になります。自社のAI活用でも、リスク対応の実績を記録・開示する慣行は検討に値します。
• 未成年や脆弱な利用者を含むサービスでは、年齢推定や保護者連携といった機能が「用意されている」ことと「実際に機能している」ことは別問題です。外部評価を受け入れる姿勢も、信頼構築の一手として注視したいところです。