全4360文字
AIは、人間の社長のように「休日はゆっくり過ごしたい」などとは思わない

 ハットフィールド氏いわく、「ユーザーとAI」の関係は、ちょうど契約理論における「ご主人様と代理人」の関係にあたるので、理論的でエレガントな解決策があるはずだ。ただし、この発表の討論者であるスタンフォード大学のポール・ミルグロム氏(発表者の元指導教授で、オークション関連の実務でも有名)からは、これら2つの問題には共通点もあるが相違点もある、という指摘がなされた。いわく、プリンシパル・エージェント問題の場合は、通常、代理人の側が「余計なこと」を気にしてしまうのが、問題の根っこにある。

注:発表と討論の模様は、こちらの動画で見られる。

お掃除ロボットは、雇われ社長の夢を見ない

 たとえば、株主(=ご主人様)に雇われたはずの社長(=代理人)のケース。株主が望むのは、企業価値の最大化である。しかし、社長という人間の個人的な利害は、これと必ずしも一致しない。「全国制覇したい」とか、「大型M&Aで注目を集めたい」とか、「休日は家族とゆっくり過ごしたい」とか、「社員に嫌われたくない」といった個人的な野望や心理に、どうしても引きずられてしまう。

 契約理論は、こうした状況に対する処方箋をあみ出してきた。たとえば、社長のサラリーの何割くらいを成果報酬式にすればいいのか、といった計算ができるようになった。

 これに対して、「ドジっ子お掃除ロボット」の失敗例は、べつにロボット(=代理人)側に個人的な野心があるわけではない。単に、開発者あるいはユーザー(=ご主人様)の側が「部屋をキレイにせよ」という目的しかインプットしなかったのが問題である。もしも開発者またはユーザーが、「部屋をキレイにせよ」「ただし家具を壊してはならない」という追加条件をインプットすることができさえすれば、それで一件落着かもしれない。

 企業の雇われ社長もお掃除ロボットも、おなじ「代理人」ではある。しかし契約理論は、代理人が人間であるがゆえに発生する問題を扱ってきたのに対し、AI・ロボットは「個人的な願望」を秘めていたりはしない。そういう点では、問題の本質が微妙に異なっている可能性がある。より緻密な研究が必要になりそうだ。

 AIが達成した「成果」ではなく、「開発プロセス」に注目しよう!

 さて、トロントで9月に開催された「人工知能の経済学」学会について一般向けにお伝えしてきた本連載だが、今回で最終回である。いかがだっただろうか? 正直、「えっ、そんな事しか分かっていないの?」と拍子抜けされた方も、多いのではないだろうか。

 しかし、研究の最前線というのは大体そんなものだ。不明なものや未解決な問題があるからこそ、そこに取り組む余地が残されている。そして、「世界最高の経済学者たち」(あるいは勝手にそのように自負している人たち)が集まった学会ですら、この程度のことしか判明していない。

 むしろ、その事実にこそ着目してほしい。

 経済学をキチンと理解している人は少ないし、AI関連技術をキチンと理解している人も少ない。ましてや、その両方をよく分かっている人というのは、本当にレアだ。それにもかかわらず(あるいは、そうであるがゆえに)、「AI」について得意げに解説し、個人的な願望にすぎないテキトーな「未来予想と解決策」を、あたかも「理の当然」かのように語るコメンテーターがあふれている。そのクオリティーは推して知るべし、である。「無知の知」から始めよう。

 本連載の第1回には、「目新しい結論や、ショッキングな数字などは全部スルーして、何をどうやったらその主張にたどり着くのか、根拠とロジック(にのみ)注目するのが、正しい大人の姿勢だ」という話をした。それに呼応する形で、結びにあたって今回オススメしたいのは、

  • 「AIが達成したとされる成果」については完全にスルーして、むしろ
  • 「どういうアルゴリズム(計算手順)を使って」、そして、
  • 「その開発者たちが、どのような試行錯誤のプロセスを経て」

 現在のパフォーマンスに到達したのか……に注目することだ。

 そういうニュースの読み方をしていけば、おのずと関連技術の原理的な部分にも詳しくなれるはずだし、背後にある基礎研究にも興味が湧いてくるだろう。いつまでもAIをブラックボックス扱いしていないで、開発者と開発プロセスに踏み込んでほしい。これはまた、ニュースの「書き手」や編集者にぜひお願いしたいことでもある。

 ちまたでは「機械」として恐れられたり敬われたりしているものが、じつは研究者が四苦八苦して作った「人為」の産物であることも、改めてよく分かるだろう。AI開発ほど興味深い「人の営み」は、なかなかない。経済学の研究対象は、まだまだ尽きないようである。