パリ郊外の中学校で行われた「表現の自由」の授業に対する論争から、容疑者が犯行に至るまでわずか11日間だった。コンフラン＝サントノリーヌという小さな都市で、10月16日、18歳のロシア出身チェチェン系の男が刃物で男性教師の首を切断し殺害した。警察が犯行の経緯を捜査している中、SNSで拡散した動画がどのように影響したか注目の的となっている。
わずか11日間でSNS上での話題から殺害へ
10月6日、中学校で歴史と地理学を教える被害者のサミュエル・パティ (Samuel Paty)さん（47）は毎年行っている「表現の自由」の授業で、中学３年生に風刺週刊紙シャルリ・エブドが掲載したイスラム教の預言者ムハンマドの風刺画を見せた。
その翌日、授業に参加したと主張する女子生徒（捜査の結果、実は参加していなかったことが分かった）の父親は教師に対する批判のメッセージをSNSに投稿し、その中で中学校の住所と教師の名前を出した。
8日、警察のウオッチリストにあるイスラム過激派の活動家と一緒に中学校を訪問。その後、SNSでパティさんに対する反対活動の呼びかけや、批判の動画とメッセージの投稿を繰り返した。そして16日、パティさんは、午後５時頃中学校から帰宅する途中で首を切断された。
容疑者がSNSで話題となっていた父親の投稿を見て、犯行を決意したと見られていることから、SNSのコンテンツ管理のあり方について反省や疑問、批判の声が上がっている。
何度も議論されるネット中傷と悪質な投稿
SNSの投稿・情報管理が問題になるのは、初めてではない。
フランスで2020年１月に、女子高生（16）がSNSのライブ中継中、視聴者との喧嘩で逆上してしまい、イスラム教を批判した。その後、SNSで話題となり、脅迫も受けた。やむを得ず学校を中退し、警察の保護まで受けている。その後、新しい学校が見つかってもなお、日常的に脅迫と嫌がらせの対象となっている。
「表現の自由」と「誹謗中傷」の難しいバランス
SNSは、世界中の人々に情報へのアクセスを容易にする上、人それぞれに自由に表現できるようなスペースを与えている。その反面、誰でも自由にSNSに投稿できるゆえに、これまでも多くの問題が発生している。ネット上でのハラスメントやフェイクニュース、誹謗中傷、ヘイトスピーチなどからの被害者救済と、表現の自由といった不可欠な権利のバランスを考慮する必要がある。
フランスでは、ネット上でのハラスメント、誹謗中傷は刑法上の犯罪であり、投稿者とホスティングサーバーに対し、コンテンツの削除を請求することができる。また、警察の捜査で容疑が認められれば、禁錮や罰金が科される可能性もある。
しかしSNS上での拡散のスピードを考えると、通報や情報削除の請求をしたり、裁判に持ち込む対応があったとしても、違法な情報や有害情報はあっという間に話題になり、被害の拡大を食い止めるのは困難だ。すでに悪質な投稿がネットで拡散し、被害者は傷つけられ、裁判を起こしても人生が一変してしまう。そのような情報を削除する人手も足りない。
現在SNSのコンテンツ管理は主にアルゴリズム、要するに機械を通して行われているため、機械には「表現の自由」と「誹謗中傷」の限界を見分けることができるのかが問題だ。また、人権を重視するSNSの運営会社と各国の政府がどの程度まで管理してもいいのか複雑な論点もある。
EUとフランスの取り組み
SNSの運営会社は、法律上ホスティングサーバーとして認められ、利用者の投稿そのものに対する責任は限定されている。
一方で、SNSがコンテンツを管理する中で、どのような情報を削除し、どのようなコンテンツを利用者に勧めるのかなど、基準が明確にされていない。つまり、どのように利用者の思考に影響しているのかが利用者にはわからないのである。
実際、フェイスブックが自社のアルゴリズムを分析した結果、コンテンツが利用者を「結束」させておらず、むしろ「分断」させているとの内部報告書を2018年に作成していたと、ウオールストリート・ジャーナルが2020年5月、報じている。「分断」を促進する内容が利用者の目にとまり、利用時間を増やしていたというのだ。マーク・ザッカーバーグＣＥＯが掲げる「世界をより親密に結束させよう」（Bringing the World Closer Together）というミッションとは遠く感じる。
EU委員会は、12月に公表される予定の「デジタルサービス法（Digital Services Act）」を通して、ネット上の情報とコンテンツ管理に取り組もうとしている。目的はEUにおけるデジタルマーケットとサービスの管理、要するにネット上におけるビジネスの公正さを監視し、テロの扇動やヘイトスピーチのような違法な情報・活動・物資などを徹底して管理することだ。
また、サミュエル・パティさんの殺害を受け、公的機関を含むSNS利用者に情報の削除の条件や、おすすめの投稿のレコメンドシステムの仕組みなどを明示するように、改めて求めた。それに対してSNSの運営会社がどう答えるのか注目するところだ。
フランスでは、5月13日にネット上での有害コンテンツをさらに規制する法案 が議会で可決された。この法案は、検索エンジンの事業者に対し、問題となる内容（憎悪あおる内容、誹謗中傷、差別など）を利用者からの報告後24時間以内に削除することを義務付け、テロに関係する内容や、児童ポルノの場合は、１時間以内に削除することとしていた。
しかし、その後、法案の軸となっていた「削除すべき期限」が表現の自由を侵害するとして、憲法評議会によって削除された。
規制しすぎると表現の自由の侵害となる一方、規制しないと違法で有害な情報があっという間に拡散してしまうという難しいバランスが存在する。SNSは、一般市民でも自分の意見を交わしながら他人と議論できることを可能にした。また、#METOOや#Black Lives Matter（黒人の命は大切だ）運動のように、国際社会全体に影響を与える一つの強力な手段である。
SNSの運営会社が、全くコンテンツを管理しないというわけでもない。だが、SNSの悪用をさらに制限するために、運営側も現実的できめ細やかな管理を求める声が日に日に増している。
【執筆：パリ支局 モセ・ルアナ】
