数年前にAI採用をやめたアマゾン

政治をAIに任せてしまえばいいという発想と同様、会社の経営もAIに任せればいいのではないかと考える人もいるようです。

しかし、組織の規模や仕事の内容にもよりますが、AIに会社の経営を委ねるのは難しいでしょう。その理由は、大きく二つあります。

一つは、AIそのものが必ずしも正解を導くものではないということです。それはAIに何を学習させているか、その内容次第で正しく判断できるものと、そうではないものに分かれるからです。

AIは、正しいと教えられた答えを導き出すのは速くて正確ですが、あくまで収集したデータの範囲内でのことです。データの範囲外のことについて、人間の能力を遥かに上回るスピードで最適解を出すなどということはできません。

AIはチェスや将棋の名人に勝ってしまうほど、精度が進化しています。チェスや将棋においてAIが人に勝つのは、ゲームのルールがはっきり決められているため、正解に辿り着きやすいからです。

米国アマゾンは、数年前にAIによる採用プログラムの開発をやめたといいます。過去の履歴書のデータをもとにした採用プログラムを組んだところ、履歴書が性や人種によって不当に差別されることがわかったからです。

つまり、AIが学ぶ過去のデータが潜在的に差別や偏見を含んでいれば、AIの最適解に偏りが生じるのです。

AIによるローン審査が厳しく扱う外国籍女性

イタリアの銀行では、AIでローン審査を実施したところ、外国籍の女性が審査に通りにくいことがわかったそうです。このケースはバイアスを軽減するアルゴリズムを新たに組み込むことで公平性が改善されたと言いますが、結局AIは、何を学習させたかを人間が十分に理解した上で使わないと、危険な結果を導き出すこともあるのです。

仮に経営をAIに任せるとなった場合、それなりの規模を持った会社であれば、未来にどのような変化が起こり得るかも含め、気が遠くなるほど膨大なデータを学習させなくてはなりません。

環境の変化や商品の需要動向、世代別の消費指向、従業員の人間性、心理傾向や行動パターン、技術開発の見通し、取引先の事業展開等々……あまりにも集めるべきデータの範囲が広すぎますし、しかも常に変化しているので、それらを完全に近い形で収集するのは不可能です。

AIが正確な経営判断をしていくに足るだけの十分なデータを集め、偏りのないプログラムを組むのは至難の業でしょう。