AIと人間が協力すると、信頼性は高まる

 2014年6月14日、中国国家省は「社会信用制度の構築に向けた計画概要」と題した恐ろしげな文書を発表した。すべての行動が政府の決めたルールに従っていいか悪いかに格付けされ、ひとつの数字に落とし込まれるような世界を想像してほしい。それがあなたの市民スコアとなり、あなたが信頼に値するかどうかがすべての人に公表されるとしたら? それによって住宅ローンや仕事や子供の学校が決まるとしたら? あるいは、デート相手が見つかるかどうかがそれで決まるとしたらどうだろう?(『TRUST』第7章)

 いま注目を集めている中国の市民格付け制度についても、『TRUST』を読めば現状が理解できるでしょう。こうした動きは、中国だけでなく、アメリカでも起こっています。本書では「ピープルナンバー」という知人の格付けアプリが紹介されていますし、アメリカではすでにウェブ上の情報から未来を予測する「レコーデッドフューチャー」や、情報をテロやカードの不正防止に役立てる「パランティア」というソフトにはCIAのファンドが投資しています。国が個人の情報を握って格付けするという未来は、技術的にはどこでも起こりうるのです。

 ここでの問題は、信頼の非対称性です。企業、あるいは国が自分の何のデータを持っているのか、我々は知ることができないのです。その情報を返してほしいと言っても、返してくれない。そして、そのデータをもとに、どういうアルゴリズムでレーティングをつけているのかもわかりません。

 本来は、ユーザー、被観察者が情報開示を求めたら、開示されるべきです。しかし、中国はそもそも情報の非対称性が強いのでそんなことは望めません。一方的にレーティングされておしまい。アルゴリズムがどうなっているかは、完全なブラックボックスです。

 どんな情報をもとに学習しているのか、どんなアルゴリズムで動いているのか。それがわからないのは、AIも同じです。AIが人間の能力を超え始めたときに、誰が倫理面を教えていて、どういう経路で深層学習を行い、どういう局面にどういう動作をするのか、そういったことはまったくわからないでしょう。

 そして僕らは、あるとき突然、信頼することを迫られるはずです。有名な自動車メーカーが、「あなたの車にAIを搭載しました」と言ってきたら、「◯◯が言ってるならしょうがないか」「国交省が許可したんだから安全なんだろう」というかたちで、信頼せざるを得ない。ここにも、やはり信頼の非対称性が存在します。

 この問題の解決法は、「ディスクロージャー(情報開示)」でしかありません。また、本当にセキュアかどうか、ブロックチェーンなどで履歴を残すべきです。そのように非対称性があることを意識し、ブラックボックスにしないよう諦めずに解消する努力は必要です。

 そのうち、AIが情報を発信するようになったら、もうそれは人間には見抜けなくなる。このような話は未来に起き得るのではなく、すでに起こっています。ワシントン大学の研究者が発表したAIが作ったフェイクニュース動画はかなり巧妙で、見抜くのは至難の業でしょう。2018年のグーグルの開発者向け会議では、AIアシスタントが電話をかけてレストランを予約するデモがおこなわれました。その会話内容は、もはや相手がAIかどうか判断できないほど自然です。

 「AIだから信用できない」「AIだから信用できる」これはどちらもあると思っています。アメリカの国際弁護士でClearAccessIPの創業者のニコル・シャナハン氏のスタンフォード大学での研究テーマは「スマート起訴」です。本人のピッチを聞く機会がありましたが、AIを使って起訴するシステムだそうです。人間がおこなった起訴と、AIがおこなった起訴の内容を比較すると、AIのほうが人種に関係なく公平な起訴内容になる、という結果も出ているのだとか。AIのほうがバイアスがなくフェアという話が真実であれば、人間との組み合わせで活用方法はいくらでも考えられるでしょう。

 本書には、Airbnbで有色人種のゲストは断られやすいといった差別の例が出てきていました。そうした差別も、AIが泊めるかどうかを判断するようになればなくなると思います。先の「信頼の担保」でも述べましたが、AIと人間の両方で判断することで信頼性を担保する、というのはひとつの選択肢となるでしょう。

小林弘人(こばやし・ひろと)
株式会社インフォバーン代表取締役ファウンダーCVO。1994年ワイアード誌の日本版を創刊、編集長を務める。1998年に企業のデジタルマーケティング戦略およびイノベーションを支援するインフォバーン社を設立。『ギズモード・ジャパン』ほか多くのウェブ媒体やサービスの立ち上げを行う。ベルリン最大のテック・カンファレンスTOAの公式パートナーほか、イスラエル・ブロックチェーン協会のアドバイザーを務める。著書に『メディア化する企業はなぜ強いのか? フリー、シェア、ソーシャルで利益をあげる新常識』(技術評論社)など。

[新刊案内]『TRUST 世界最先端の企業はいかに〈信頼〉を攻略したか

新しい「信頼」がビジネス、経済、社会を動かす!

 ウーバー、アリババ、エアビーアンドビー…。世界のプラットフォーマーが駆使する新たな「信頼」とは何か?『シェア』で共有型経済を提唱した著者が、デジタル時代の「信頼」を攻略する仕組みを解説。

2018年8月 日経BP社刊 レイチェル・ボッツマン(著)、関 美和(訳)