OpenAIは、自殺やメンタルヘルスに関する会話におけるChatGPTの対応を強化する取り組みを発表しました。OpenAIの報告によると、ChatGPTでは週に100万人以上のユーザーが自殺に関連する内容について会話しているとみられます。
OpenAIは10月下旬、公式ブログで「Strengthening ChatGPT Responses in Sensitive Conversations（センシティブな会話への対応強化）」というタイトルのレポートを公開しました。レポート中でOpenAIは、自殺念慮や深刻なメンタルヘルスの悩みを抱えるユーザーに対して、ChatGPTがより適切で安全なサポートを提供できるよう改善を進めていることを説明しています。
レポートでは、ChatGPTがこうしたセンシティブなトピックに関する会話を日常的に受けていることが指摘されています。ChatGPTの週間アクティブユーザー数は8億人を超えるとされ、週に約0.15％（約100万人以上）が自殺や自己破壊的なテーマに触れていると推定されます。
OpenAIは今後、AIが危険な助言を避け、専門的な支援へとつなげるよう設計を強化する方針を示しています。例えば、各国の緊急支援窓口やヘルプラインの情報を提示し、危機的状況にあるユーザーを適切な支援先に導く機能を拡充。また、ChatGPTが「共感的な傾聴」を行いつつも、医療的判断や診断を避けるようガイドラインを明確化などの対応を行っているとのこと。