アマゾンが「人材採用AI」開発を断念した理由

 「監視」の領域では、人間の行動の善悪を判断するようなAIも登場し始めた。しかし、現在実用化されているAIは原則として、教師である人間を超えられない。もちろん囲碁やチェスのような、思考のスピードが重要な場面では人間を超えることはあり得る。だが、これまでの知見からかけ離れた天才的な発想をしたり、人間が想像すらしないような優れた判断をしたりするAIは、いまなお登場していないのが現実だ。

  今のAIはいい意味でも悪い意味でも、教師の教えを素直に効率よく実行する「秀才」なのだ。だから、教師の方に問題があれば「バカなAI」が生まれてしまう。

 日本取引所グループがAIの導入に合わせて人間の技術の高度化を図るのもこのためだ。AIを成長させるには、新たな不正取引にも対応した調査結果をAIに読み込ませる必要がある。人間が成長しなければAIの成長も止まり、時代遅れとなりかねない。菊池部長は「AIを導入しても人手は安易に減らさない。中長期的に見れば、高度化する不正に対抗できなくなるリスクが出てきてしまう」と強調する。実はこの懸念は米アマゾン・ドット・コムで現実のものとなっていたようだ。

 英ロイターは10月、米アマゾン・ドット・コムが進めていたあるAIプロジェクトが昨年初めに中止されていたと報じた。同社は人材採用の領域でAIを開発していたが、技術職での評価において、AIが女性に対し不当に低い評価をしたためだという。

 理由は単純だ。アマゾンは技術職の履歴書をAIの学習用データとして活用したが、その多くが男性のものだった。アマゾンの開発陣は修正を試みたが、他に差別的なバイアスが残っている可能性を排除できず、開発を断念したのだという。

 こんな前時代的な問題がアマゾンのような先進企業でも起こっていたとは思わず苦笑いしてしまう話だが、AIに対して人間が過度に期待をすると思わぬしっぺ返しを食らういい事例とも言える。

 これは『2001年宇宙の旅』や『ターミネーター』に登場する超常的な「怖いAI」とは別の議論だ。創造性の限界を超えられない「秀才AI」を過度に信用しないこと、「秀才AI」が時代遅れの「バカなAI」にならないよう学習データを吟味することは、「怖いAI」への懸念よりも目先にある課題と言える。

 例えば、ソフトバンクは採用におけるエントリーシートのチェックにAIを導入している。AIが不採用と決めた希望者は人間の目でダブルチェックすることで、判断の公平性を担保している。

 一部の企業は、人事上の判断にAIが介入する実験に取り組み始めた。だが、AIに頼り切るのは危険だ。降格や減給などの不利益判断で安易にAIの判断を採用しないよう、注意が必要だ。