狙われる有権者たち、デジタル洗脳の恐怖

　フェイスブック利用者8700万人分の個人情報が、不正にこの会社に流用されたと言う情報は日本でも報じられたが、その事実がどう自分に影響するのか、ピンとこない人が大半ではないだろうか。確かに、好きなアーティストやレストランのページに「いいね！」をつけることの一体何が問題なのか、すぐには想像しづらい。だがこうした情報は、マーケティングの手法として、広告企業などが喉から手が出るほど欲しいものだ。人々の傾向を解析し、ある商品を売り込むために、データを利用する。実際、このこと自体に違法性はなく、従来も使われてきた手法だ。

　しかし、もしもこの膨大な個人情報が、民主主義の根幹を成し、国政に影響する選挙や国民投票の行方を左右させるために、明確な意思を持った何者かに利用されていたとしたら、どうだろうか。

　筆者はEU離脱を問う国民投票で英国各地を取材して回った際、特に離脱支持者の口から出てくる支持の理由が、奇妙なほど同じ言葉で語られたことに違和感を覚えた。どんな地域でも、どんな層の人に聞いても、同じようなフレーズが繰り返し、あたかも真実のごとく語られていた。当時は、テレビや新聞などから政治家が同じ主張を繰り返したことの反映だろうと思ったが、違和感はどうしても拭い切れなかった。

　もしも、人々が当時、SNSを通じて毎日少しづつ、離脱派に都合の良い情報だけを、その人が最も感情的に反応するであろう傾向を把握した上で、カスタマイズされた広告を流し続けられていたとしたらーー。これはある種、民主プロセスにおける「デジタル洗脳」とも言えるのではないか。

　民主主義とデジタルの最前線で、今何が起きているのか。私たちは、何に着目すべきなのか。そして「アラブの春」で民主化運動を牽引したと賞賛されたSNSは、今や民主主義を破壊しつつあるのか。こんな疑問をもとに、この問題に取り組む専門家たちに話を聞き始めた。

　今月、日本でも出版される「操られる民主主義：デジタル・テクノロジーはいかにして社会を破壊するか」を執筆した、ジャーナリストで、シンクタンク「デモス」代表のジェイミー・バートレット氏に聞く。

なぜ今、新著「操られる民主主義」を書こうと思ったのですか？

ジェイミー・バートレット氏（以下バートレット氏）：変化の速さやテクノロジーの進化、AIの台頭などを考えた時、この問題を早急に解決する必要があると感じました。今後20年以内にこの緊張関係を緩和する策を講じなければ、民主主義が絶滅しかねないと思います。

　この数年（問題となった）ロシアの選挙介入、荒らし、仮想通貨など。私はこれらが全て、同じ事象の一部であることに気づきました。つまり、現在とは全く異なる時代に構築された、古いスタイルの民主主義と、新しいデジタル技術とが、相容れないということです。

既存のシステムは時代遅れで機能不全

どんな問題が起きているのでしょうか？

バートレット氏：最も分かりやすい例は選挙です。選挙には、自由と公正さを保つための制度があり、選挙戦に使用される広告にも、正直かつ真実であるようにと規制がかけられます。しかし、これらの規制はテレビの時代や、誰でも見られる広告板に即したものでした。

　ところが突如として、世界の誰にでも、個人をターゲットにし、その人以外の目には触れない広告が打てるようになりました。選挙そのものの正当性が問われることになったのです。「誰か」とは、悪意のある外国の勢力かもしれませんし、人々に嘘やデタラメを流す、国内の選挙キャンペーン担当者かもしれません。これは、より大きな問題を象徴しています。すなわち、私たちが民主主義を運営し続けるために構築したシステムそのものが既に時代遅れであり、機能不全であると言うことです。

　政治、特に選挙はもはや考えを交わし、大きな公開討論を行うことではなく、今やデータサイエンスの時代なのです。幾千にも及ぶデータポイントを基盤とする、個々の有権者のプロファイルが構築されています。貴方や友人が大切にしていることを把握し、その点について、感情的なメッセージを送るのです。

　「考えを議論する」政治とは全く異なり、誰が最も有効なデータを持っているか、最も有効に標的を射止めることができるのか。そして、誰が最も説得力のあるメッセージを提供し、候補者につなぐことができるのか。こうしたことに尽きるのです。

　今このことが危機だと感じるのなら、20年後にどうなっているか、想像してください。私たちはさらに多くの、センサーやインターネットを使用したデバイスに囲まれて暮らしているでしょう。スマート冷蔵庫やテレビ、ヘルス・トラッカーなどが発する、私たちの行動や思考に関するデータが、広告業者、そして、政治家によって、私たちを標的にするために利用されるのです。

　つまり将来的に、私たちの食事の傾向、健康状態や、テレビをつける時間など。こうした情報が、貴方を特定の候補者に投票するよう利用されます。貴方の論理的思考に訴えるのではなく、故意に神経を逆なでするのです。これは、私の考える選挙の「あるべき姿」ではありません。

従来の広告と「ターゲット広告」の違いを教えてください。

バートレット氏：通常の広告は、テレビや広告板、新聞などに掲載する場合、内容について厳しい規制が存在します。正確であり、誤解を招いてはいけない、真実を示し、他者を中傷してはならない、などです。

　これがインターネット上、個人に向けたターゲット広告の場合は、ほぼ何でも伝えることができます。しかも、他者には見えないため、信ぴょう性をチェックすることができません。嘘やでまかせなどを流された貴方がそれを信じてしまっても、誰もその広告を確認できない。ここが、根本的な違いです。

　この流れは悪化するでしょう。次世代の広告は、AIを使い自動化されるからです。貴方が何を大切にしているか。購買に有効な傾向を、すでに機械が把握し、制作したものです。貴方の内にある最悪の偏見や個人的偏向に、機械が働きかける。感情的で、誤解を生じるものや、非常に差別的で、人種問題を誘発しかねないコンテンツは、最も有効なのです。機械にとって問題はありませんから、こうした広告をたれ流し続けるでしょう。

　私たちの政治の行き着く先は、人間の手が加えられない、全く規制当局が目にすることのできない、非常に扇動的かつ自動化された広告が流されることかもしれません。これが私たちの選挙の未来であれば、すでに「政治」と呼べるものではないでしょう。政治とは、異なる意見を交わし、その違いを乗り越えるため誠実に議論を行うことです。人種差別的な広告を、誰も見えないところで自動的に流すことではありません。

“インターネットが民主主義を殺している”

この「自動広告制作マシン」の一つが、フェイスブックだと言うお話を以前伺いました。

バートレット氏：フェイスブックは同じ広告を自動的に、わずかに変えたバージョンをいくつも流しています。多少、人の手も加えられ、ちょっと色を変えるなど、どの広告が最も効果的かを試します。それをまた、より多くの人たちに流すのです。

2016年、こうしたデジタル戦略により、米英で民主主義が大きく揺らいだと言われています。

バートレット氏：おそらく、インターネットが私たちの選挙と、選挙制度そのものを破壊するツールだと、多くの人が初めて気づいた年だったでしょう。突如として、複雑な技術を用いて有権者を狙ったケンブリッジ・アナリティカのような、データ分析企業が登場しました。

　実際、近年多くの選挙戦で、こうした技術が用いられてきました。（ロシアは）インターネットを使い、米国の選挙介入にも成功したのです。これは特筆すべき事象でしょう。様々な問題が明るみになり、ハイテク企業に対する疑問の目が徐々に向けられ始めていましたが、(2016年に）これは大問題だ、と認識されるようになりました。

今回の著書の原題は「市民対テクノロジー」（The People vs Tech）ですが、その「戦い」とはどんなものですか？　また、副題は「インターネットが民主主義を殺す」ですが、本当にそうなのでしょうか。

バートレット氏：言葉を介さない静かな戦争が、デジタル技術と民主政体との間に起きていると思います。インターネットを制し、究極的に社会を動かしているのは、一体誰なのか。（シリコンバレーの）デジタル企業や民間企業なのか、それとも、民主的に選ばれた政府なのか。

　民主的に選ばれた政府は、この戦いに勝たねばなりません。しかし、政府の動きは非常に遅く、政治家の顔ぶれも数年で変わります。民主主義が苦戦している相手は、資金もあり、動きの早いテクノロジー企業です。ただ、この一年で反撃は始まっているとも感じます。

　意図せずに、インターネットは民主主義を殺していると思います。ネットは民主主義にとって非常に良い側面もあります。表現の自由や、新しい思想、情報へのアクセスなど、これも民主主義には大切なことで、疑問の余地はないでしょう。

　問題は私たちが「ネットは情報を提供する、市民のためのプラットフォームだ」と、その恩恵にのみ目を奪われていることです。民主主義はそれ以上に、健全に機能している政府や、法が保たれ、政府が決めた事が実行されていると、人々が自信を持てるものでなくてはなりません。

　強く健全なメディアや、人々が、きちんと情報を得た上で、互いを罵ることなく議論ができること。政治家から得たものは、規制に基づき信頼できると思えること。これらは全て、民主主義を形作るものですが、インターネットがそれを破壊しています。これが見えないのは、ゆっくり（としたプロセス）であり、つまらないことだからです。私たちは表現の自由に目隠しをされ、結果として、人々が信頼できる民主主義がゆっくりと壊されている、より大きな事態が見えていません。

歴史的に既得権益がテクノロジーを乗っ取ってきた

「アラブの春」が始まった2010年ごろ、インターネットは政治資金を持たない民衆にも民主革命を起こすことのできる「素晴らしいツール」だともてはやされました。

バートレット氏：その通りです。2010-11年頃は皆が、インターネットは人々に声を与え一つにする、民主化のツールだと楽観視していました。それはとても単純な見識だったのです。プラットフォームを作るだけで人々が動くーー表面的には素晴らしいことですが、全く誤った認識です。いずれ政府や軍、ハッカーなどが、自分たちの権力を強化する、あるいは他者を陥れ、介入・干渉するツールとして利用することは、明白でした。

　不運にも、シリコンバレーの人々は、テクノロジーの力を盲信するあまり、こうした可能性に、全く無頓着だったのです。歴史を多少なりとも学べば、こんなことは火を見るより明らかでした。強大な国やグループ、既得権益がこうしたテクノロジーを乗っ取ることは、既に繰り返されてきました。2011年から2016年にかけ、こうしたテクノロジーに対して世論は「自由をもたらす、素晴らしいもの」から、「民主主義を脅かすもの」に変わりました。

大胆な言い方をすると、こうしたテクノロジーは「デジタル洗脳」を可能にした、ということなのでしょうか。

バートレット氏：1990年代の大いなる仮説では、人々がより多くの情報、そして、他者と繋がる機会を得れば、民衆はより賢くなり、また政治家自身も、民衆との繋がりや、新しい知識を得ることで、より洞察力が深まると思われていました。これは、短絡思考の最たるものだったでしょう。

　人々に、ブログやチャート、意見やニュース記事など、しばしば全く矛盾した情報を流し続け、情報過多にすることは、感情的な反応を呼び起こすだけです。思考をきちんと処理し慎重に考察する時間や、意見の異なる人と、きちんとコミュニケーションをとる時間すらありません。全て「相手が間違っている」と一蹴する、あるいは「自分と相手のテリトリー」を区分けし、他者と戦い続けるのです。

　これはある意味「洗脳」であるかもしれませんが、意図されたものではなく「デジタル雪崩」の産物であると言えるでしょう。人々は、これだけ多くの情報に対処しきれないのです。だからこそ、昨今の政治は不運にも知識を欠き、より感情的で二極化されています。約束された世界とは、真逆の事態に陥っています。

現状の民主主義は「アップグレード」が必要な時期だと言うことなのでしょうか。

バートレット氏：消費者としての私たちの生活は、「インスタグラム化」しているのに、市民としての民主主義は、未だに写真屋に金を払い、ゆっくりと写真を現像しているようなものです。市民がますますポピュリズムに傾倒している理由の一つは「問題がすぐ解決され、欲しいものは即座に手に入り、妥協の必要など一切ない」といったことが約束されるからです。現在の私たちの生活に合致しているのです。

　ポピュリストや独裁主義者らは文化的に、世界の現状に即しています。民主主義国家や主流政党は、これまでと全く異なる時代に、どうやって民主主義自体を再生し、機能させるかを考えるべきでしょう。民主主義以外の全てのことが、変化しているからです。私たちを囲むテクノロジーから完全に立ち遅れている政府形態が存続し続けるために、残された時間はほとんどないでしょう。

　簡単な解決法もあります。まず、選挙法を時代に即したものに改定すること。デジタル広告は、テレビ広告と同様の規制をかけ、同時にデジタル以外の広告同様に、資金投入の上限を設定するのです。こんな単純なことでさえ、まだ実行されてはいません。

（後編に続く）