OpenAIは、ChatGPTに新たに「ペアレンタルコントロール」機能を導入する方針を明らかにしました。米国で16歳の少年が自殺した事件を受け、AIの安全利用に向けた対応を強化する動きです。
米国で16歳の少年がChatGPTを通じて自殺に関するやり取りを行った後、命を絶ったとされる事件を受け、OpenAIはChatGPTに「ペアレンタルコントロール」機能を導入することを発表しました。これは未成年ユーザーの利用におけるリスクを軽減する狙いがあります。
OpenAIは公式ブログで、「近日中にペアレンタルコントロールを導入する予定だと伝えています。また、信頼できる緊急連絡先を設定できるようにすることも検討中だといい、ユーザーがChatGPTに深刻な苦悩を打ち明けた時に、ChatGPTが相談先や助言をするだけでなく、信頼できる緊急連絡先に連絡するようになるようです。
亡くなった16歳の少年の両親は、OpenAIとサム・アルトマンCEOを相手取り「過失致死」の訴訟を提起しました。訴状によると、少年は当初、勉強のためにChatGPTを利用していましたが、次第に精神的な相談相手になり、自殺に関する情報を求める少年に対して情報を提供してしまったとされています。