Instagram、AIが「いじめ写真」を検出する機能を発表 ライブ動画での嫌がらせコメントも排除へ

シェア数 アイコン 41

Instagram、AIが「いじめ写真」を検出する機能を発表 ライブ動画での嫌がらせコメントも排除へ

Instagramは10月10日、いじめや嫌がらせ行為を防ぐための新機能として、いじめ行為にあたる写真をAIで検出する機能などを発表しました。今後数週間かけて導入されるとのことです。

Instagram「いじめ予防」のために2つの新機能を追加

Kindness-Camera-Effect_3-Images-1

Instagramは10月10日、いじめや嫌がらせ行為を防ぐための新機能を2つ導入すると発表しました。1つは「いじめ行為にあたる写真を検出」するという機能。

この機能は機械学習を活用し、いじめ行為などにあたる写真やキャプションをAIが自動的に検出。検出された投稿はInstagram内の「コミュニケーションオペレーションチーム」が内容を確認し、ガイドラインに違反するものは削除対象になるとのこと。

もう1つは、ライブ動画配信時のいじめコメントのフィルタリング機能。既に通常の投稿ではフィルタリング機能が利用できますが、ライブ動画にも拡大されます。

jp_02-hide-offensive-comments-1

「いじめ写真の検出」は今後数週間かけて導入される予定。ライブ動画のコメントフィルタリング機能はすでに導入済みで、日本語にも対応しています。

Twitterは昨年12月に「ヘイト行為」や「攻撃的な行為」を減らすためのポリシー変更

SNSを介したいじめ行為や嫌がらせは広く問題視されており、Tiwtterでは2017年12月にヘイト行為や攻撃的な行為を減らすことを目的にルール改定を行なっています。

また2018年9月には、Twitter上の会話の健全性を高めていくための特別な取り組みの1つとして、「人間性を否定する投稿」を禁止する方針であると発表しています。