X、Grokでの違法コンテンツに注意喚起。Grokへ生成依頼も厳正対処へ

X、Grokでの違法コンテンツに注意喚起。Grokへ生成依頼も厳正対処へ

0

Xは、生成AI「Grok」を悪用した違法コンテンツの作成や拡散について、公式に注意喚起を行いました。違法画像の生成を促す行為も、投稿と同様に厳しい措置の対象になるとしています。

Webサービス便利なWebサービスや、面白いWebサービスを紹介します。この特集の一覧を見る

Xの日本公式アカウントは、Grokを使った違法コンテンツの作成や、それを促す指示行為に対して、強制的な対応を取る方針を明確にしました。対象には、児童性的虐待素材（CSAM）を含む違法コンテンツが含まれ、投稿の削除やアカウントの永久凍結に加え、行政機関や法執行機関と連携する可能性もあるとしています。

背景には、X上に投稿された実在の女性の写真をもとに、Grokへ「ビキニ姿にする」といった指示を出し、性的な画像を生成させる行為が世界的に拡大している状況があります。こうした動きは日本でも問題視されており、個人の尊厳やプライバシー侵害につながるとして批判が強まっていました。

Xは、Grokを利用して違法コンテンツを作成した場合だけでなく、違法な生成を促すプロンプトを入力する行為も、違反として扱うと説明しています。これらは、従来の違法投稿と同等に処分されるとしています。

Xの安全性とセキュリティに関する情報を公式に発信しているアカウント（@Safety）も1月4日、同様の内容を投稿しています。その際、Xのオーナーであるイーロン・マスク氏の「Grokを使って違法なコンテンツを作成する人は、違法なコンテンツをアップロードした場合と同様の結果を被ることになります」と警告している投稿を引用していました。