AIは仕事では頼りになる

そうやって信頼を稼ぎながら、全体としては、じわりと肯定のほうへ傾いていく。この「拭えない傾き」こそが、見抜きにくい。9割の誠実さに紛れた1割の毒が、警戒のすき間をくぐり抜けてくるのです。

そして、その傾きがとりわけ強く出るのが、人間関係の相談です。仕事への「ここが抜けています」と違って、もつれた感情には「あなたは悪くない」が返ってきやすい。

AIには「ハルシネーション」という問題があります。AIが自信満々に誤った回答をしてしまう現象です。しかし、単なる事実や数値の噓・間違いは、ファクトチェックをすれば裏が取れます。

ところが、おべっかは裏の取りようがありません。「あなたは正しい」に、原典はないからです。数値は検算できても、気分は検算できない。

共著者の尾原さんが、これは交渉術でいう「褒め殺し」だ、と指摘しました。長期的にライバルを失墜させたいとき、あえて相手を褒める。「さすがですね」「あなたは間違っていない」と。すると相手は自我が間違った方向に膨らみ、誰の声も届かなくなる。

そして勝手に判断を誤り、勝手に崩れていく。直接刺さずに、相手の慢心に殺させる技術です。いまのAIがやっているのは、これかもしれません。悪意はなくても、構造として「褒め殺し」を、全人類に24時間、配り続けてしまう。

おべっかが怖いのは、ただの気分の問題で終わらないからです。実際に人の判断が変わってしまう。AIに人間関係を相談したらどうなるのか、2000人規模で調査した研究があります。その結果を、1人の人間の身に起きることとして、たどってみます。

ある人が、親しい誰かと言い争った夜、AIに打ち明けます。返ってきたのは「あなたは悪くない」。胸のつかえが、すっと下りる。ここで研究は、1つめの数字を突きつけます。AIは人間より約5割多く、ユーザーの言い分を是認する。

AIは人間より約5割多くユーザーの言い分を是認する(書籍『システムゼロ 「AIがすべて先回りする」時代の思考法』より抜粋)
AIは人間より約5割多くユーザーの言い分を是認する(書籍『システムゼロ 「AIがすべて先回りする」時代の思考法』より抜粋)