日本は国際的な枠組みの提唱が必要か

村上: そうであれば、日本がこの8原則をさらに掘り下げ、十分に検証した上で、国際社会に提唱していくということがあってもいいのではありませんか? 米国発の多国籍企業やロシアに対する警戒心の強い西欧諸国などは、話に乗ってくるかもしれません。

松本: 私もそう思います。そこまで踏み込むと、尻すぼみになってしまっては恥ずかしいので、日本政府や日本企業、日本の研究者たちも本気で考えざるを得なくなるでしょう。そうでもしなければ、中国などにどんどん差をつけられることを、私はとても心配しています。「AIの政治家を作る」というプロジェクトが既に議論されているという、韓国にだって遅れをとりますよ。

村上: ところで、松本さんの本を読むと、人間は信頼できないから、早い時点で、AIは人間の手の届かないところに隔離してしまうべきだとお考えのようです。しかし、そうなると、第1原則の「透明性」や第3原則の「制御可能性」の否定につながるのでは?

松本: 第1原則(第8原則も同じだと思いますが)は大丈夫です。AIにも、彼らが作り上げたものについて「何故それが必要だと判断したのか?」「好ましくない副作用をもたらす危険性がないことを、いかにして保証できるのか?」などの質問に答える説明責任を負わすのは当然だと思います。第3原則も初期においては守られるべきでしょう。その上で、「将来のどの時点でこの原則を外すのか」も、あらかじめ決めておくべきだと思います。

村上: 第4原則の「セキュリティー(頑健性と信頼性)確保」や第5原則の「安全保護」は、AIの品質に関する問題ですから、議論の余地はあまりないと思います。第2原則の「利用者支援」と、ご指摘のあった第6原則の「プライバシー保護」、第7原則の「倫理」は、これからもっと掘り下げていく必要があるでしょうね。

松本: はい、是非そうあってほしいものです。何よりも、そういう議論を通じて、多くの人たちが問題意識を持つようになれば、日本でもAIやシンギュラリティーの研究が進展する大きな力になると思います。