「自分が映画やテレビに出演するところを見たいと思いませんか」──オンラインストアに掲載されたアプリの紹介文だ。このアプリは、人工知能（AI）が生成する合成メディア、いわゆる「ディープフェイク」を創作するチャンスをユーザーに提供している。
「親友や同僚、上司が踊っているところを見てみませんか」と続く。「お友達やセレブの顔があなたに変わっていたら、どんな風に見えるか想像したことがありますか」
だが、同じアプリでも、多くのアダルトサイトでは広告の表現が変わってくる。「あっというまにディープフェイク・ポルノのできあがり」と広告はうたう。「誰でもディープフェイクできます」
ますます高度になるディープフェイク関連技術をどのように応用するか――これは合成メディアソフトが直面する厄介な問題の1つだ。写真はイメージ。2013年2月撮影（2021年 ロイター／Kacper Pempel）
ますます高度になる技術をどのように応用するか――これは合成メディアソフトが直面する厄介な問題の1つだ。この技術では、機械学習を用いて、画像をもとに顔のデジタルモデルを作成し、それを可能な限りシームレスに映像に入れ込んでいく。
誕生してから4年足らずの技術だが、今や転機を迎えているのかもしれない。ロイターではこの問題について、企業、研究者、政策担当者や啓発団体関係者に取材した。
技術はすでに十分に進歩しており、一般の視聴者には本物となかなか区別できないフェイク動画も多い、と専門家は言う。しかも、専門的な知識がなくてもスマートフォンさえ持っていれば、ほぼ誰にでも利用できるくらい普及している。
「これだけハードルが下がっていれば、何の努力もいらない。ずぶの素人でも、同意を得ずに非常に高度なディープフェイク・ポルノ動画を作れてしまう。この技術は転換点を迎えている」と語るのは、オンラインの安全確保を専門とする企業、エンドタブを創業した弁護士のアダム・ドッジ氏。
「私たちはこれから面倒な問題に巻き込まれていく」
Powered by リゾーム?