画像生成AIで生成された「水害」のデマ画像が拡散。リアルなフェイク画像作成が誰でもできる時代に

画像生成AIで生成された「水害」のデマ画像が拡散。リアルなフェイク画像作成が誰でもできる時代に

0

画像生成AIによって生成されたフェイク画像が、Twitterで注目されていました。リアルなフェイク画像を簡単に作れるようになってしまったので、インターネット上で触れる情報には注意が必要ですね。

セキュリティに関するニュースAppleやLINEなど、主要なウェブサービスなどをかたりフィッシング詐欺などの情報や、インターネット上での安全に関する情報について紹介します。この特集の一覧を見る

画像生成AIでリアルなフェイク画像が作れる時代に

image-generation-ai.jpg
問題となっていた投稿

「Midjourney」や「Stable Diffusion」に代表される画像生成AIが注目されていますが、これを利用した災害のデマ情報がTwitterで拡散されるという事案が発生しました。

問題となっていたツイートは、3枚の画像とともに「ドローン撮影された静岡県の水害。マジで悲惨すぎる…」というメッセージで投稿されたもの。

パッと見ただけでは、本物の写真か、偽物の写真かはわかりにくいですが、よく見ると不自然な点がいくつかあります。

その後、投稿主は投稿した写真は画像生成AI「Stable Diffusion」で生成したものだと説明し、謝罪をしています。誤解される画像を投稿した理由は「大した目的はない。そもそも安易にこれが広まるとは想定していなかった」などと説明。騙されたユーザーに対しては「ばーか！www ざまあwwwww」「お前らのネットリテラシーの無さが露呈しましたね！www」などとも投稿しています。

問題の投稿をしたユーザーにはしっかり反省していただきたいものですが、今回、画像生成AIによるフェイク画像が注目されたことで、いつかは悪意を持って画像生成AIで生成したリアルなフェイク画像を投稿するユーザーが現れるでしょう。

簡単にリアルなフェイク画像を生成できる、すごい世の中になったものだと驚くと同時に、インターネット上に投稿されるフェイクニュースは、今後はリアルな画像が添付されるようになることが想像できます。

試しに「Stable Diffusion」で、投稿主と同じように「flood damage, Shizuoka」の文字列でフェイク画像を生成してみました。

flood_damage__Shizuoka_1.jpg
「Stable Diffusion」で生成した画像

「many houses in flood, japan, realistic, photorealistic, 8k」という文字列で生成した画像もTwitterで注目されていました。

同じ文字列で自分でも生成してみたところ、水没した街になりました。

many_houses_in_flood__japan__realistic__photorealistic__8k.jpg
「Stable Diffusion」で生成した画像

今後、画像生成AIが進化していくとして、よりフェイク画像を見抜くことは難しくなる可能性も考えられます。インターネット上の情報との向き合い方のコツとして、インターネットメディア協会理事／白鴎大学特任教授の下村健一氏は「ソウカナ」を提唱しています。