あらゆる技術には光と影がある。それはAI(人工知能)も例外ではない。フェイク動画で人をだます、人の行動を操作する、自動運転ソフトを誤動作させて人を傷つける──。悪意に操られる危険がある以上、AIの「ダークサイド」を知っておく必要がある。

(日経ビジネス2018年7月16日号より転載)

 「言ってもいないことを本当に言ったかのように見せかけられる時代になった」。2018年4月、フェイク(偽の)ニュースに警鐘を鳴らすバラク・オバマ前米大統領の映像が話題になった。

 理由は発言内容ではない。この映像自体がフェイクだったからだ。作ったのは米映画監督ジョーダン・ピール氏と米メディアのバズフィードである。

 ディープフェイク。有名人の顔を別人の顔に合成した精巧なニセ動画の総称で、PCソフト「FakeApp」を使うことが多い。FakeAppは深層学習(ディープラーニング)を活用し、不自然さを感じさせないように画像を加工できるとの触れ込みだ。冒頭に紹介した映像では、ピール氏が話したときの口元の動きをオバマ氏の映像に重ね、あたかもオバマ氏が話しているかのように見せかけた種明かしをする。映像の中の“オバマ氏”はこう締めくくる。

 「気をつけろよ、おまえたち」

 警告は単なる脅しではない。既にネット上にはディープフェイクがあふれている。メルケル独首相の顔が途中からトランプ米大統領にすり替わる演説、有名ハリウッドスターのまだ製作されていない「続編」の名場面、有名女優の顔をはめ込んだポルノ──。

メルケル・トランプが演説?
●「ディープフェイク」で作成したニセ動画の例
演説するメルケル独首相(上)の顔が途中からトランプ米大統領(下)に差し替わった
出所:YouTube(写真:The New York Times/Redux/アフロ)