どこまで責任とればいいのか AI時代の企業謝罪

AI活用に取り組む企業が急速に増えています。ただ、AIが暴走して被害を与えてしまった場合、どう責任をとればいいのでしょうか。

平野晋教授（以下、平野）：暴走して謝罪しなければならない事態に至る前、AIの開発時にいくつかのポイントを抑えておくことが必要でしょう。「2045年問題」などと言われるように、AIが人間を超えるシンギュラリティの可能性が指摘されています。そんなことは起きないという人もいますが、完全に否定することもできません。

中央大学総合政策学部の平野晋教授。1961年生まれ。コーネル大法学修士、中央大博士（総合政策）。専門は不法行為法。富士重工業（現スバル）、NTTドコモなどを経て現職。

　社会としては何らかのルールが必要ですが、リスクを恐れて厳格な法規制を作ってしまえば、イノベーションを阻害します。そこで、「ソフトロー」という形で企業には開発における原則を守ってもらおうという枠組みの構築が進められています。その例が、私も参加している総務省の「AIネットワーク社会推進会議」で作った「AI開発ガイドライン案」です。議論の過程では米グーグルや米IBM、米マイクロソフトなどにも参加してもらって取りまとめました。これを経済協力開発機構（OECD）に提案し、世界に広めていこうとしています。

「制御不可能性」と「不透明性」がAIの大きなリスク

企業にとってAI開発の指針になりそうですね。どのような内容でしょうか。

　ガイドライン案は、9つの原則からなっています。AIには法律家の目からみると、2つの大きなリスクがあります。一つは「制御不可能性」。学習機能によってAIが開発者の思いもよらない行動をとるようになる可能性があること。もう一つは「不透明性」で、なぜAIがその判断をしたのかが開発者を含む外部から見えないこと。

　そこで、「制御可能性の原則」としてAIを人や他のAIに監督させることを検討すること、「透明性の原則」としてAIの入出力や判断結果を検証できるように留意すること、といった内容を入れました。

　もう一つ重要なのが「倫理の原則」です。人間の尊厳と個人の自立を尊重してもらうという内容です。例えば米国では警察が「予測警備」ということを行っています。ある時間帯で特定地域に住居侵入が起こりやすいとわかれば、警察は限られたリソースを効率的に振り向けることできます。

　ただし、この考え方を人物像に当てはめると、特定の宗教を信じるある肌の色の人がテロリストである可能性が高いといった判断につながりかねません。無実の人が飛行機に乗れなくなったりする可能性があります。そもそもデータそのものが、偏見によって作られたものである可能性にも注意する必要があります。ある人種の住む地域に犯罪が多かったとしても、それはそう思い込んで重点的に調べたからかもしれません。

説明責任からは逃れられない

企業としては、こうしたことにも配慮してAIを開発すれば、暴走が起きてもある程度の説明はできそうですね。ただし、不透明性や制御不可能性の問題が解決されなければ、依然としてAIが起こしたことに責任を取れるのかという難しい問題が残ります。

　利害関係者への説明責任を求める「アカウンタビリティの原則」も盛り込みました。なぜ企業が不祥事で叩かれるのかというと、秘密裏に良くないことをやっていると思われてしまうからです。

　AI開発において、技術者は自分では判断できないことを扱うことを求められます。例えば「ある人を助けるために他の人を犠牲にするのは許されるか？」という「トロッコ問題」と呼ばれるような問題ですね。こんなことを判断できる人はいないでしょうし、勝手に判断してシステムに組み込めばメーカーの責任になります。AIの開発においては、企業内で抱え込まずに社会に公開してコンセンサスを得ていくというアプローチが必要です。

企業はしっかりと説明責任を果たすことが、一見制御が難しそうなAI分野においても求められるということですね。米国では加害者が訴訟リスクを恐れて謝らないとよく言われます。謝罪の流儀に、洋の東西はあるのでしょうか。

　謝っても裁判で不利にならない「アイムソーリー法」と呼ばれる法律がある州もあります。最初にマサチューセッツ州でこの法律が成立したキッカケは、州上院議員の娘が交通事故で亡くなったのに、加害者が裁判を理由に謝罪しなかったことでした。州によって医療過誤訴訟にしか認めない、自らの過誤を認める謝罪は証拠から排除しないなど、それぞれ範囲が異なっています。

　謝罪会見で話題になるお辞儀は日本独特の風習ですが、やはり日本においては本気であることを示すためにもやるべきでしょう。そうしなければ真の謝罪と受け取ってもらえません。もちろん、形だけの謝罪では意味がありませんから、本気であることを示さねばならない。再発防止策を含めて、どんなことでも真剣に対応しますという態度でないと、本当の謝罪とは認めてもらえません。

見えない規範を守るのは当然

企業が謝罪を受け入れてもらうために、必要なことはなんでしょうか。

　謝罪の役割とは、過ちを認めて後悔の念を表明し、償いをすることで被害者との関係を修復して社会に受け入れてもらうことです。昔は家畜を提供するなど痛みを伴う償いを通じて、社会に復帰しました。現代社会では金銭賠償になっています。被害者を元通りにできれば一番ですが、現実にはそれができないことが多いので、現代において一番高い価値を持つ金銭で償うということです。

　今日、ニュースを聞いていたら品質問題を起こした企業が「法令は順守していても契約上のスペックは満たしていない」と説明しているのに対して、「法令さえ満たしていればいいのか」とキャスターが批判していました。契約に反しているのに、最低限のルールに過ぎない法令を守っていると改めて主張されると反感を持たれてしまいます。個人と同様に法人も、見えない規範を守ることを当然求められているということですね。

　加害者が被害者よりも低い立場に身を置いて、被害者側の評価に身を委ねることが必要だと言われています。「他に忙しいことがある」といった態度は、被害者を軽んじていることになります。経営者が不用意な発言で反感を買えば、最悪の場合、不買運動に繋がりかねません。