フィルター、透かしの利用も

　たとえば、あらかじめ指定された場面でしか画像を交換できないアプリもある。顔交換に使われる人のID認証を求められるアプリもあれば、AIを使ってポルノ素材のアップロードを検知する例もある。だがアジダー氏は、こうした手段が常に有効であるとは限らないと語った。

　顔交換アプリの中でも、世界で最も人気の高いものの1つが「リフェイス」だ。2019年以降、世界全体で1億回以上もダウンロードされている。セレブやスーパーヒーロー、ネットで話題のキャラクターと自分の顔を交換して愉快なビデオクリップを作ろう、というアプリだ。

　米国を本拠とするリフェイスはロイターに対し、ポルノ判別用のフィルターなどを用い、不適切なコンテンツを自動的に、また人間の手により排除していると説明した。それ以外にも、動画が合成されたものであることを示すラベリングや目に見える「透かし」を用いるなど、悪用防止策を導入しているという。

　「この技術が誕生し、リフェイスを会社として立ち上げて以来、合成メディア技術が悪用・誤用される可能性があるという認識を持ち続けている」と同社は述べた。

　スマートフォン経由で消費者がますます強力なコンピューティング機能を利用できるようになるのと平行して、ディープフェイク技術は進歩し、合成メディアの質は向上してきた。

　たとえば、エンドタブ創業者のドッジ氏をはじめ、ロイターがインタビューした専門家らによれば、これらのツールが誕生して間もない2017年当時は、多くの場合は数千点もの画像による膨大な量のデータを入力してようやく得られた品質を、今日ではわずか1点の画像だけで実現できるという。

　「こうした画像の品質が非常に高くなっているので、『これは本当の私ではない』と抗議するだけでは十分ではなくなっている。誰かに似ているだけでも、それが本人であるのと同じような影響を与える」と語るのは、英国を本拠とする「リベンジ・ポルノ・ヘルプライン」でマネジャーを務めるソフィー・モーティマー氏。

次ページ 責任を負うのは「加害者だけ」か