OpenAIが、ChatGPTにおけるアダルトモードの導入計画を無期限で停止したと報じられています。性的コンテンツを扱うAIに対する社内外の懸念が背景にあり、主力プロダクトへの集中を優先する方針に転換したということです。
Financial Timesによると、OpenAIは性的な会話を生成する「アダルトモード」の開発を無期限で延期したということです。社内スタッフや投資家から、社会的影響や倫理面に対する懸念が相次いだことが要因とされています。アダルトモードは以前から議論が続いており、完全に中止するかどうかも検討されていたといいます。
特に、AIとの不健全な依存関係を助長する可能性や、未成年への不適切なコンテンツ露出といったリスクが指摘されていました。OpenAIは、現時点で性的対話の影響に関する十分な実証データがないとし、長期的な研究を優先すると説明しています。
またOpenAIは、コード生成などの生産性ツールやChatGPTを統合した「スーパーアプリ」構想に注力するため、周辺的なプロジェクトの見直しを進めているとのこと。動画生成AI「Sora」の縮小方針もその一環とみられます。
一方で、アダルトモードは技術面でも課題を抱えていたと報じられています。安全性の観点から回避してきた性的表現を生成するモデルの訓練は難しく、不適切なデータの除去などにも対応が求められていたとされています。
年齢確認の精度にも課題があり、未成年のアクセスを完全に防げない可能性が指摘されていました。こうした状況を踏まえ、OpenAIは倫理的リスクと事業上の優先順位を再評価した結果、開発の凍結を決定したとみられます。