教養・カルチャー 2024.02.08

良いことばかりではない？生成AIが普及することによる長期的な負の影響。デジタル空間の全てを疑いの目で見る世界と、人間の関係が希薄化する懸念

「AIに聞けばなんでも解決する」ということは、裏を返せばAI以外のものに一切頼らなくなるということである。そしてそれはともすれば個人個人の人や組織との関係が希薄になるということでも……そう指摘するのは書籍『生成AIで世界はこう変わる』の著者、今井翔太氏だ。規制や我々の知識が追いつかないまま成長を続けるAI生成のディープフェイクの危険性ついて、書籍より一部抜粋して紹介する。

今井翔太

生成AIで世界はこう変わる　#2

情報の送り手と受け手の
つながりが希薄化する？

本章の冒頭で、「AIに聞けばなんでも解決する」世界がやってくると述べました。単純な質問の解決だけでなく、創作などもAIによって生成されたものを参考にすることが多くなってくるかもしれません。ユーザー視点では、得られる情報が検索よりも質が高いものになる、探しやすくなるなどの利点があるでしょう。

しかし、「AIに聞けばなんでも解決する」ということは、裏を返せばAI以外のものに一切頼らなくなるということです。今までは、自分だけでは解決できない問題に遭遇した場合、身近な人に聞く、検索によってたどり着いた記事を参考にする、他の人によって作成されたコンテンツを参考にするといった手段で解決を試みていました。

この過程で、アドバイスを求めて話を聞いた人、参考となる資料やコンテンツを作成した人、あるいは認知した企業などの存在を、なんらかの形で意識することになります。その結果、人や組織との関係が生まれる、個人や企業のプロモーションにつながる、参考にした相手への敬意が生じるといったつながりが生まれていました。

「トランプ大統領逮捕」と検索すれば出てくる精巧なディープフェイク画像たち…AIに聞けばなんでも解決すると錯覚する時代が到来するなか、AIの偽物をいかに見抜くか_2

ところが、AIによって解決される範囲が増えすぎると、これらが希薄化する懸念があります。

情報発信やコンテンツの作成を生業としている側の視点では、この事態は致命的です。プロモーションの機会が失われることで、利益の減少にも直結します。特に、活字媒体の利用には大きく影響するでしょう。

この事態を軽減するためには、生成AIの生成結果に出力の根拠の引用を含めるといった処置が考えられますが、現在の生成AIのモデルそのものには、出力から学習に使用したデータの出典を特定する機能は存在しません。今後は出力結果から類似度検索を実行し、できる限り出典を開示するようなシステムの需要が出てくるでしょう。

写真／shutterstock

#1 すでに見抜けないAI技術　人かAIかは背景情報にしかなりえない
 #3 日本のAIに関する法律と、規制が困難な現状