「いじめ写真」を見逃さず削除…インスタグラムの新機能はどんなシステムなのか聞いた

カテゴリ:テクノロジー

  • 機械学習(マシンラーニング)と人のダブルチェック
  • 比較、ランキング、評価をしていると見なされた画像やキャプションが該当
  • 「いじめ対策は最重要事項の一つ」ポジティブでクリエイティブな場であり続けたい

いじめを見逃さない!

「映え」という言葉が定着するきっかけとなった画像投稿SNS、インスタグラム。
おいしそうな料理や話題のスポット、かわいいペットなど、日常を切り取った写真を世界中のユーザーと共有して楽しむことができる。

一方で、匿名性を悪用して他者を攻撃するメッセージを送ったり、現実でのいじめの様子を撮影した写真や動画をSNSに投稿したりする“ネットいじめ”が社会問題となっている。

そして、それはインスタグラムも例外ではない。
フェイスブックやツイッターといった他のSNSよりも若い世代を中心にユーザーを獲得しているインスタグラムは、9日、こうした問題を解消するために機械学習(マシンラーニング)を活用した新機能を導入することを発表した。
それは、「いじめ行為にあたる写真を検出する」というもの。

いじめと思われる写真やキャプションを機械学習によって発見し、さらにオペレーションチームのスタッフが検出された投稿内容を精査して、コミュニティガイドラインに違反するものを削除するという仕組みだ。

インスタグラムは、これまでにもいじめや嫌がらせを目的とした投稿への対策を講じてきた。
2017年6月、対立や不和を促すような不適切なコメントやスパムコメントをブロックする機能を導入。
2018年5月に個人の外見や性格への攻撃、脅迫などのコメントのブロック機能を追加すると、8月には子どもが安全に利用するための情報をまとめた保護者向けのガイドラインを公開した。

そして今回、コメントだけでなく写真にも対象を広げ、インスタグラム上からいじめの要素を徹底的に取り除く姿勢だ。

しかし、写真からいじめを判断するのは簡単ではない。
例えば、複数人が笑顔で映っている写真の中に1人だけ上半身裸になっている人がいるような場合、全員でふざけているものなのか、それとも裸の人へのいじめ行為なのか、すぐに判断できるものだろうか。
どのような基準を設けているのか、 インスタグラムの広報担当者に話を伺った。

「比較、ランキング、評価をしている画像やキャプション」

「保護者のためのInstagramガイド」より

ーー機械学習による写真の検出後、運営チームが精査するのはなぜ?

どのような投稿がいじめに関連するかをより正確に判断するためには、文化的な背景が分かり投稿の文脈から判断できる人が必要です。
そのため、様々なバックグラウンドをもつ担当者で構成されたコミュニティオペレーションチームが精査しています。


ーー「いじめ」の基準や具体例を教えてください。

基準となるワードや写真は公開していません。
常に機械学習が新しいキーワードや写真のパターンを学び、判断しています。
具体例としては、比較、ランキング、評価をしていると見なされた画像やキャプションが該当します。
例えば、二分割された画像で、利用者の写真がネガティブな方法でほかの人と比較されている場合です。


ーーいじめ写真の投稿者はどうなる?

該当する利用者には、画像が削除されたことを知らせる通知が表示されます。
また問題が繰り返し発生した場合、いじめに関わっているアカウントに対してインスタグラムが対応策を講じることができる仕組みになっています。


ーー投稿者から「いじめの意図はない」と訴えがあった場合は?

インスタグラムには、ユーザー自身や他のユーザーに対するいじめや嫌がらせといった不適切な投稿を運営チームに報告することができる機能がありますが、投稿を削除されたユーザーからのレポートを受け付ける窓口は設置されていません。

「いじめ対策」は最重要事項の一つ

インスタグラムでは、思い出をシェアしてフォロワーとの会話も楽しむことができる(「保護者のためのInstagramガイド」より)

このような「いじめ防止策」に取り組む理由として、利用者が増えるにつれて安全についての対策がより必要となってきたことが背景にあるという。


ーー次々に対策を打ち出しているのはなぜ?

インスタグラム上の投稿の大半はポジティブな内容であるものの、残念ながら時には嫌がらせやいじめを目的に写真がシェアされることもあります。
また、いじめ行為にあたる投稿を目にしたり、嫌がらせにあったりしても、自分から報告しない利用者も多くいます。
それに対して、コミュニティの安全を守り、インスタグラムがすべての人にとってポジティブでクリエイティブな場であり続けたいという思いが大きな理由です。
共同創業者であり当時最高経営責任者だったケビン・シストロムを筆頭に、この対策はインスタグラム全社で2016年から取り組んでいる最重要事項の一つです。
2016年以降継続して新しい機能を追加しており、今回もその取り組みの一つとして新機能を導入しました。


現在のインスタグラム責任者、アダム・モッセーリも“ネットいじめ”を容認しないという見解を示している。

オンライン上のいじめは複雑です。
インスタグラム上のいじめ行為を防ぎ、思いやりの気持ちを広めるためには、やらなければいけないことが多くあると認識しています。
新たな責任者として、インスタグラムを利用者の皆様にとって親切で安全なコミュニティにするための取り組みを続けられることを誇りに思っています。
(9日のアップデートにあたり発表したアダム・モッセーリのコメントより)

ライブ動画でのいじめコメントを非表示にする設定画面

いじめ写真を検出するシステムは、今後数週間かけてリリースされる予定だ。
また、今回あわせて発表された「ライブ動画でもいじめコメントを非表示にする」新機能は、すでに日本を含む全世界で実装されている。
「いじめ防止策」に対するインスタグラムの積極的な姿勢は評価できるが、写真検出システムがどのように機能するのかに注目するとともに、SNS上でのモラルも今一度見つめ直してほしい。