データが学習されることへの懸念
こうしたサービスをめぐっては、アップロードされた画像が、利用規約に基づいてAIモデルの改善や解析に使われる可能性があるとして、各国の専門家やサイバー犯罪当局が注意を呼びかけている。本人の顔画像が、どのように保存・利用されるのかが十分に分からないまま使われている点に、懸念が示されているのだ。
AIは、表情や顔の角度、髪の動きといった特徴を「データ」として処理する。AIにとってそれは学習のための素材にすぎない。しかし私たちにとっては、それはかけがえのない自分自身の姿である。
こうした現象は、文化の豊かさと危うさが背中合わせであることを教えている。AIは創作の可能性を大きく広げたが、その裏で「誰が描いたのか」「誰が作ったのか」という問いが薄れていく。
人気アニメのキャラクターそっくりの映像が海外でバズり、数百万回再生されても、制作者の名はどこにもない。ファンアートの延長のように見えるが、その実、クリエイターの労力と感性を吸い上げる構造ができあがっている。
ディープフェイクの本質は、現実をねじ曲げることではなく、現実と虚構の境界を消してしまうことにある。AIが生み出す「偽物」は、悪意だけで作られるわけではない。
むしろ多くは“遊び”や“創造”の名のもとに拡散し、いつの間にか本物と区別がつかなくなる。人は「面白い」「きれい」と感じた瞬間に、それが偽物かどうかを考えるのをやめてしまうのだ。
山口真一
国際大学グローバル・コミュニケーション・センター教授。著書に『炎上で世論はつくられる』『スマホを持たせる前に親子で読む本』『ソーシャルメディア解体全書』『正義を振りかざす「極端な人」の正体』などがある
