文部科学省によると、全国の学校が把握した「ネットいじめ」は2017年度12,632件で過去最高となった。
今年2月には群馬県前橋市で、「ネットいじめ」を訴えるメモを残した高校2年の女子生徒が自殺したとみられる死亡事故が起きている。
「ネットいじめ」とは、パソコンや携帯電話等で、誹謗中傷や嫌なことをされることで、特に最近はSNSでのいじめ行為が問題になっていることは多くの人がご存じだろう。
そんなSNSの一つであるInstagramが7月9日、いじめ行為を防ぐ2つの機能を新しく導入したと発表した。
投稿前に“再考”＆加害者にわからないように“非表示”
1つ目は、「投稿しようとしているコメントが他者を傷つける可能性がある場合、事前に通知して再考を促す機能」。
例えば、Instagramのある投稿に「醜くてバカだな」と コメントを付けようとした場合、「投稿」をタップするとステータスが「投稿中…」 になり 、「元に戻す」「投稿しますか？詳しくはこちら」という通知が表示される。
ここで「詳しくはこちら」をクリックすると「Instagramを支え合える場所にするために」という表題の画面を表示。
投稿内容が、以前にユーザーから報告された、いじめや嫌がらせと同じような内容だとして見直しを勧められる。
Instagramは、これによってコメントを再考したり書き直したりするチャンスを与え、他人を傷つけるようなコメントの投稿を防ぐことができるとしている。
2つ目は「特定のアカウントを『制限』して、コメントを非表示に、ダイレクトメッセージに既読がつかないようにする機能」。
例えば、「Aさん」のアカウントを「制限」した場合、自分の投稿に対してAさんが付けたコメントは、他のユーザーや自分からは見えなくなり、Aさんだけにしか表示されなくなる。
また、自分がInstagram上でオンラインになったことや、AさんのDMを読んだことも、Aさんからは分からなくなるという。
Instagramの調査で、若いユーザーがいじめ加害者をブロックするのは、関係性の悪化を恐れてなかなか踏み切れないことがわかり、この機能が考えられたという。
Twitterでは「○○さんはあなたをブロックしました」と、ブロックされたことが本人に丸わかりなのでしばしば話題になるが、Instagramのこの機能は本当に相手にわからないのだろうか？
また、いじめ投稿の通知はどんな言葉に反応するのか？
担当者に聞いてみた。
対象は子どもだけでなく、すべての利用者
――「事前の通知」はどんな言葉に反応するの？
キーワードは公表していません。
――「制限」されたユーザーは、自分で制限されたことに気づけないの？
気づくことは有りません。
――今回の新機能は、子供のいじめを対象にしているの？
子どもだけでなく、すべての利用者を対象にしています。
ユーザーの報告も参考に不適切コメントを見抜く
実は、Instagramは今まで何度も「いじめ」など、不適切な言葉への対策として、様々な機能を導入してきた。
今回、伺った中で最も古いものは2016年9月、ユーザーが登録したキーワードを含むコメントを非表示にするという機能。
さらに、自殺や自傷行為をほのめかすユーザーをサポートする機能、不適切なコメントを非表示にする機能、機械学習でいじめコメントを自動的に非表示にする機能などを相次いで発表。
2018年10月には、機械学習と人の目で、いじめ行為にあたる写真や動画を削除する機能を発表し、編集部でも取り上げている。
――差別や誹謗中傷へのスタンスは？
InstagramおよびFacebookでは、ヘイトスピーチを投稿することは認めていません。
スタンダードに反するコメントや投稿を見つけた場合には削除します。
また、差別や誹謗中傷などの不適切なコメントについても、機械学習を応用したフィルターで検知し、自動的に非表示にする機能を2017年6月に導入しています。
――AIはどんな部分に使われているの？
利用者が投稿しようとしているコメントが、相手を傷つける可能性がある（いじめコメント）なのかを検知するためにAIを利用しています。
どのようなコメントがいじめなのかを正しく判断できるようにするため、過去に利用者から報告を受けたコメントなどを例として使用し、人間が機械に学習させた上でテストを繰り返してAIの性能を上げています。
――不快な言葉はどんどん新しくなるが、どうやって対応している？
上記のプロセスを繰り返し、常に新しい言葉や手法を機械に学ばせることで、より正確にいじめや不適切なコメントを発見、対処できるようにしています。
Instagramの共同創業者、ケビン・シストロムは、サービスの立ち上げ当初から、安心して自己表現できる場所を提供し、思いやりにあふれるコミュニティを作ることを目標にしていたという。
「ネットいじめ」が増加しているが、様々な対策が効果を発揮し、SNSの負の要素がなくなる時代が早く来てほしいものだ。
