説明責任からは逃れられない

企業としては、こうしたことにも配慮してAIを開発すれば、暴走が起きてもある程度の説明はできそうですね。ただし、不透明性や制御不可能性の問題が解決されなければ、依然としてAIが起こしたことに責任を取れるのかという難しい問題が残ります。

 利害関係者への説明責任を求める「アカウンタビリティの原則」も盛り込みました。なぜ企業が不祥事で叩かれるのかというと、秘密裏に良くないことをやっていると思われてしまうからです。

 AI開発において、技術者は自分では判断できないことを扱うことを求められます。例えば「ある人を助けるために他の人を犠牲にするのは許されるか?」という「トロッコ問題」と呼ばれるような問題ですね。こんなことを判断できる人はいないでしょうし、勝手に判断してシステムに組み込めばメーカーの責任になります。AIの開発においては、企業内で抱え込まずに社会に公開してコンセンサスを得ていくというアプローチが必要です。

企業はしっかりと説明責任を果たすことが、一見制御が難しそうなAI分野においても求められるということですね。米国では加害者が訴訟リスクを恐れて謝らないとよく言われます。謝罪の流儀に、洋の東西はあるのでしょうか。

 謝っても裁判で不利にならない「アイムソーリー法」と呼ばれる法律がある州もあります。最初にマサチューセッツ州でこの法律が成立したキッカケは、州上院議員の娘が交通事故で亡くなったのに、加害者が裁判を理由に謝罪しなかったことでした。州によって医療過誤訴訟にしか認めない、自らの過誤を認める謝罪は証拠から排除しないなど、それぞれ範囲が異なっています。

 謝罪会見で話題になるお辞儀は日本独特の風習ですが、やはり日本においては本気であることを示すためにもやるべきでしょう。そうしなければ真の謝罪と受け取ってもらえません。もちろん、形だけの謝罪では意味がありませんから、本気であることを示さねばならない。再発防止策を含めて、どんなことでも真剣に対応しますという態度でないと、本当の謝罪とは認めてもらえません。

見えない規範を守るのは当然

企業が謝罪を受け入れてもらうために、必要なことはなんでしょうか。

 謝罪の役割とは、過ちを認めて後悔の念を表明し、償いをすることで被害者との関係を修復して社会に受け入れてもらうことです。昔は家畜を提供するなど痛みを伴う償いを通じて、社会に復帰しました。現代社会では金銭賠償になっています。被害者を元通りにできれば一番ですが、現実にはそれができないことが多いので、現代において一番高い価値を持つ金銭で償うということです。

 今日、ニュースを聞いていたら品質問題を起こした企業が「法令は順守していても契約上のスペックは満たしていない」と説明しているのに対して、「法令さえ満たしていればいいのか」とキャスターが批判していました。契約に反しているのに、最低限のルールに過ぎない法令を守っていると改めて主張されると反感を持たれてしまいます。個人と同様に法人も、見えない規範を守ることを当然求められているということですね。

 加害者が被害者よりも低い立場に身を置いて、被害者側の評価に身を委ねることが必要だと言われています。「他に忙しいことがある」といった態度は、被害者を軽んじていることになります。経営者が不用意な発言で反感を買えば、最悪の場合、不買運動に繋がりかねません。