既存のシステムは時代遅れで機能不全

どんな問題が起きているのでしょうか?

バートレット氏:最も分かりやすい例は選挙です。選挙には、自由と公正さを保つための制度があり、選挙戦に使用される広告にも、正直かつ真実であるようにと規制がかけられます。しかし、これらの規制はテレビの時代や、誰でも見られる広告板に即したものでした。

 ところが突如として、世界の誰にでも、個人をターゲットにし、その人以外の目には触れない広告が打てるようになりました。選挙そのものの正当性が問われることになったのです。「誰か」とは、悪意のある外国の勢力かもしれませんし、人々に嘘やデタラメを流す、国内の選挙キャンペーン担当者かもしれません。これは、より大きな問題を象徴しています。すなわち、私たちが民主主義を運営し続けるために構築したシステムそのものが既に時代遅れであり、機能不全であると言うことです。

 政治、特に選挙はもはや考えを交わし、大きな公開討論を行うことではなく、今やデータサイエンスの時代なのです。幾千にも及ぶデータポイントを基盤とする、個々の有権者のプロファイルが構築されています。貴方や友人が大切にしていることを把握し、その点について、感情的なメッセージを送るのです。

 「考えを議論する」政治とは全く異なり、誰が最も有効なデータを持っているか、最も有効に標的を射止めることができるのか。そして、誰が最も説得力のあるメッセージを提供し、候補者につなぐことができるのか。こうしたことに尽きるのです。

 今このことが危機だと感じるのなら、20年後にどうなっているか、想像してください。私たちはさらに多くの、センサーやインターネットを使用したデバイスに囲まれて暮らしているでしょう。スマート冷蔵庫やテレビ、ヘルス・トラッカーなどが発する、私たちの行動や思考に関するデータが、広告業者、そして、政治家によって、私たちを標的にするために利用されるのです。

 つまり将来的に、私たちの食事の傾向、健康状態や、テレビをつける時間など。こうした情報が、貴方を特定の候補者に投票するよう利用されます。貴方の論理的思考に訴えるのではなく、故意に神経を逆なでするのです。これは、私の考える選挙の「あるべき姿」ではありません。

従来の広告と「ターゲット広告」の違いを教えてください。

バートレット氏:通常の広告は、テレビや広告板、新聞などに掲載する場合、内容について厳しい規制が存在します。正確であり、誤解を招いてはいけない、真実を示し、他者を中傷してはならない、などです。

 これがインターネット上、個人に向けたターゲット広告の場合は、ほぼ何でも伝えることができます。しかも、他者には見えないため、信ぴょう性をチェックすることができません。嘘やでまかせなどを流された貴方がそれを信じてしまっても、誰もその広告を確認できない。ここが、根本的な違いです。

 この流れは悪化するでしょう。次世代の広告は、AIを使い自動化されるからです。貴方が何を大切にしているか。購買に有効な傾向を、すでに機械が把握し、制作したものです。貴方の内にある最悪の偏見や個人的偏向に、機械が働きかける。感情的で、誤解を生じるものや、非常に差別的で、人種問題を誘発しかねないコンテンツは、最も有効なのです。機械にとって問題はありませんから、こうした広告をたれ流し続けるでしょう。

 私たちの政治の行き着く先は、人間の手が加えられない、全く規制当局が目にすることのできない、非常に扇動的かつ自動化された広告が流されることかもしれません。これが私たちの選挙の未来であれば、すでに「政治」と呼べるものではないでしょう。政治とは、異なる意見を交わし、その違いを乗り越えるため誠実に議論を行うことです。人種差別的な広告を、誰も見えないところで自動的に流すことではありません。