「行動の目的」を探り続けるAI(人工知能)が未来の希望?(写真=PIXTA)
「行動の目的」を探り続けるAI(人工知能)が未来の希望?(写真=PIXTA)

人工知能(AI)に何を目的とさせ、提案させるかが世界的な課題となっている。米カリフォルニア大学バークレー校人間共存型AIセンター(Center for Human-Compatible Artificial Intelligence)のマーク・ニッツバーグ事務局長は、最近の研究に基づき、新たなアルゴリズムのモデルを使った、AIの「害が少ない学習」を提案する。

 現在、AI(人工知能)をめぐる最大の懸念は、力を持ったロボットたちに人類が支配されるといったようなディストピア(反理想郷)的な未来像ではない。本当の心配事は、機械が人間の悪いふるまいを加速させるのではないかということだ。中でも注目されているのは、ソーシャルメディア上のアルゴリズムが、人間の行動に与える影響である。

 例えば米ユーチューブでは長年にわたり、ユーザーをより長く画面にくぎ付けにすることを目的に、おすすめ動画を表示する「レコメンドエンジン」のような機能を導入してきた。

 米ニューヨーク・タイムズの2019年の報道によると、極右思想のコンテンツクリエイターの多くは、アルゴリズムに好まれるようにコンテンツを修正するやり方を心得ているため、より多くのユーザーに対して、さらに極端なコンテンツへと視聴を促し得ることが分かっている。

 ユーチューブはこうした動きに対し、ヘイトスピーチを排除する努力をしてきた。19年の研究は、ユーチューブのアルゴリズムは「過激、または極端なコンテンツの視聴を妨げるという点でうまく機能している」と主張している。

いまだ収まらない「有害なデマの拡散」

 一方、21年7月の別の研究(編集部注:記事タイトル「ユーチューブのおすすめAIはいまだホラー映画並みと、主要な研究により明らかに」)は、ユーチューブは依然として分断の種をまき続けており、有害なデマの拡散を助長していると指摘する。

 ツイッターやフェイスブックに対しても同じような論争が起きており、いずれも偽情報やヘイト(憎悪)を含むコンテンツに対応している。しかし「ユーザーをプラットフォームにつなぎ留める」ことが事業目標である以上、当初の懸念は消えない。一部のユーザーやコンテンツクリエイターがこのビジネスモデルを悪用して、問題のあるコンテンツを(ユーザーに)押し付けるからだ。

 ユーチューブのレコメンドエンジンのようなアルゴリズムの最終目的は、ユーザーのエンゲージメント(関与度合い)を高めることだ。機械学習はこの目的を達成するために、ユーザーの行動に(アルゴリズムを)適応させ、効率化していく。特定のコンテンツがより強い関わりを誘発する場合、アルゴリズムは自然にこのコンテンツを他のユーザーにもお薦めすることがあるが、全ては目的達成のためなのだ。

 このアルゴリズムの仕組みは、社会に幅広い影響を与える。米デラウェア州のクリス・クーンズ上院議員は21年4 月、米ユーチューブと米フェイスブック、米ツイッターの幹部が米議会の公聴会で証言した際に「これらのアルゴリズムは誤った情報を増幅させ、政治的対立を深め、私たちの気を散らせて孤立させる」と指摘した。

 企業やリーダーらはこうした問題に対応するため、テクノロジー主導型のビジネスモデルに関して、その倫理的な意味を熟考する必要がある。ソーシャルメディアを例に取ると、もし(ユーザーをプラットフォームにつなぎ留めるという)最終目的がそもそも存在しないとしたら、アルゴリズムはどのように動くのだろうか?と考えてみるべきなのだ。

最終目的を「不確実」なままにしておく

 私たちは米カリフォルニア大学バークレー校人間共存型AIセンター向けの報告書で、AIの新しいモデルを提案している。それは「明示的な不確実性(explicit uncertainty)」という、一見すると急進的な考えを軸としている(*)。このモデルを使うことで、AIのアルゴリズムは(「ユーザーの関与度を高める」という)本質的な目的を持たずに機能することになる。その代わりに、各ユーザーが「プラットフォームを利用する目的」を全ての段階で探り続けることが、アルゴリズムの仕事になる。

*日経ビジネス編集部注:報告書によると、新たなモデルでは、AIが目的を完全かつ正確に分かっていることを前提とする標準的なモデルとは対照的に、「人の選好は不確実である」ことを前提に計算する。ちなみにexplicitは、指定した変数を明示的にするプログラミング変換演算子。

 このモデルを用いて開発されたAIは、従来のものに比べれば深刻なダメージを引き起こしにくい。例えば、あるユーザーが1つのコンテンツを視聴し「いいね」をクリックしたとしても、この行為によりアルゴリズムが同じコンテンツを何百万人もの他のユーザーにお勧めすることにはつながらない。「ユーザーの関与」に関連する目的がないからだ。

 このモデル下では、アルゴリズムはそれぞれのユーザーに向けられた「白紙のノート」のような存在になる。とりわけユーザーがプラットフォームを使い始めて間もない間は、ユーザーの好みを知るために「何を視聴したいですか?」などと割と頻繁に問いかけてくるかもしれない。例えば、動画や記事と併せて「以下のソースを使ってファクトチェックをしたいですか?」と提案する、といったふうにだ。

次ページ 人間により大きな役割を