OpenAIが開発を進めている「アダルトモード」により、ChatGPTで成人向けのテキストチャットが可能になる見込みです。The Wall Street Journalの報道によると、機能を巡っては安全性や未成年アクセスへの懸念が社内外で議論を呼んでいます。
The Wall Street Journalによると、OpenAIはChatGPTに成人向けの会話機能「アダルトモード」では、性的なテーマを含むテキストチャットを生成できるようになる見込みです。OpenAIは、成人ユーザーを「大人として扱う必要がある」との考えから、これまで禁止してきた露骨な会話の制限を緩和する方向で検討を進めています。
ただし、社内外では安全面への懸念も強く示されています。AIとユーザーの関係が過度に親密になる可能性や、未成年がアクセスするリスクが指摘されており、アドバイザーの一部からは「AIがセクシーな自殺コーチのような存在になりかねない」との警告も出たとされています。
OpenAIは未成年の利用を防ぐため、ユーザーの年齢を推定するシステムを導入する方針ですが、内部資料によると、この仕組みは一時期、未成年を成人と誤判定する割合が約12％に達していたとされています。18歳未満のユーザーが週に約1億人規模で利用していることを踏まえると、大量の未成年が成人向けチャットにアクセスする可能性も指摘されています。
またOpenAIは、アダルトモードではテキスト会話のみを許可し、性的な画像、音声、動画の生成は引き続き制限する方針としています。さらに、非同意の行為や未成年に関わる内容などは引き続き禁止される予定です。
OpenAIは、AIとの関係に依存が生まれる可能性や、現実の人間関係を損なうリスクなども認識しているとされ、精神衛生の専門家を採用し、長期的な影響を監視する体制を整えているとしています。