「誰でもディープフェイク」　AI合成は危険な領域に

責任を負うのは「加害者だけ」か

　政策担当者はディープフェイク技術の規制を模索しているが、その足取りは重く、技術上・倫理上の新たな混乱にも直面している。

　オンラインでのディープフェイク技術の悪用を特に対象とする法律は、中国、韓国、米カリフォルニア州などで成立している。カリフォルニア州では、本人の同意を得ずに悪意をもってポルノ描写に登場させ、あるいはそうした素材を流布すれば、15万ドル（約1700万円）の法定損害賠償を科される可能性がある。

　欧州議会が委嘱した研究者らは10月、議会委員会に提出した報告書の中で、「ディープフェイク・ポルノに対する立法による具体的な介入やその犯罪化は、まだ十分でない」との見解を示した。この報告書は、立法措置においては、悪用した者だけでなくアプリの開発者や配布者といった関係者にも広く責任を問うべきであると示唆した。

　「現状では、加害者のみが責任を問われている。だが多くの加害者が手段を尽くして匿名のままこうした攻撃を始めているだけに、法執行機関もサイトも正体をつかむことができずにいる」

　元欧州議会議員で、現在はスタンフォード大学サイバー政策センターで国際政策担当ディレクターを務めるマリエツェ・シャーケ氏は、米国で提案されているAI法や欧州における一般データ保護規則（GDPR）など適用範囲の広い新たなデジタル法によって、ディープフェイク技術を構成する要素を規制することは可能だが、完璧ではないとの考えを示した。

　同氏は「法律上は多くのオプションを追求することが可能だと思えるかもしれないが、実際には、犠牲者が実際にそうした対応を取れるようにするのは困難だ」と指摘。「検討されているAI法案は、コンテンツが（ディープフェイク技術によって）改ざんされていることを表示すべきだと想定している」と説明した。

　「しかし問題は、有害な影響を阻止するには、そうした改ざんが認識されるだけで十分なのか、という点だ。陰謀論があれほど広まることを参考にするならば、あまりに馬鹿げていて事実ではありえないような情報も、やはり社会に広く有害な影響を与える可能性がある」

（Shane Raymond記者、翻訳：エァクレーレン）