前回は「AI（人工知能）脅威論」を否定するロボット研究者、石黒浩・大阪大学教授の壮大な未来予想に圧倒された読者も多いだろう。今回はAI脅威論の権威であるスウェーデン出身の哲学者、ニック・ボストロム英オックスフォード大学教授が対論を展開する。AIを危険視した英国の宇宙物理学者、故スティーブン・ホーキング博士や、米国の実業家イーロン・マスク氏の思想に大きな影響を与えたとされる人物である。果たしてAIは人類の敵か味方か――。ではまたインタビューの最後にお目にかかろう。
チェスや囲碁では、世界のトップ選手であってもAIに歯が立たなくなりました。ボストロムさんは、そのうち「盤上の遊び」では済まなくなると警鐘を鳴らしています。
ニック・ボストロム英オックスフォード大学教授：囲碁やチェスといった特定の機能に特化したAIに続いて、機能を限定しない汎用的なAIが人間の知性に追いつき、追い越していくことになるでしょう。
それはいつごろですか。
ボストロム氏：明言はできませんが、現在、生きている人の多くがそれを目撃することになると思います。人類は歴史上、最も重大な転換期を迎えます。
なるほど。
ボストロム氏：ご存じの通り、生物としての人間を特徴づけているのは高い知能です。大きな脳を駆使して様々な技術を発明し、複雑な社会を築いてきました。ところが地上で長きにわたり知性の頂点にいた人間は、AIにその地位を奪われることになります。人間に代わり、AIがものすごいペースで発明を始め、先端分野を切り開いていくでしょう。
もちろんすばらしいことはたくさん起きるはずです。一方で人類は絶滅するリスクを抱え込むことになります。
物騒です。
AIが一瞬で超知能に変貌する
ボストロム氏：人間レベルの知能に追いついたAIは、その後、急速に自己改良を重ねて「知能爆発」を起こします。そして人間の知性をはるかに超えた「スーパーインテリジェンス（超知能）」へと変貌を遂げます。人間の知能レベルを獲得してから超知能に達するまで、極端な場合、数分から数日しかかからないかもしれません。
突如出現した超知能は人間の関心事や価値観、意図とは全く異なる振る舞いを見せる恐れがあります。超知能を「人間の側」にとどめておくことができなければ、私たちは太刀打ちできません。死滅させられる恐れすらあります。AIを人間と調和させる必要があり、そのための研究がすでに各地で始まっています。超知能が出現する前に私たちはAIを適切に制御する方法を見つけなければなりません。
制御に失敗すれば、超知性はどのようにして人類を絶滅に追い込む恐れがあるのでしょうか。
