あらゆる技術には光と影がある。それはAI(人工知能)も例外ではない。フェイク動画で人をだます、人の行動を操作する、自動運転ソフトを誤動作させて人を傷つける──。悪意に操られる危険がある以上、AIの「ダークサイド」を知っておく必要がある。

 「言ってもいないことを本当に言ったかのように見せかけられる時代になった」。2018年4月、フェイク(偽の)ニュースに警鐘を鳴らすバラク・オバマ前米大統領の映像が話題になった。

 理由は発言内容ではない。この映像自体がフェイクだったからだ。作ったのは米映画監督ジョーダン・ピール氏と米メディアのバズフィードである。

 ディープフェイク。有名人の顔を別人の顔に合成した精巧なニセ動画の総称で、PCソフト「FakeApp」を使うことが多い。FakeAppは深層学習(ディープラーニング)を活用し、不自然さを感じさせないように画像を加工できるとの触れ込みだ。冒頭に紹介した映像では、ピール氏が話したときの口元の動きをオバマ氏の映像に重ね、あたかもオバマ氏が話しているかのように見せかけた種明かしをする。映像の中の“オバマ氏”はこう締めくくる。