生成AIがもたらす本当の危機とは

李　稽古文化というのはすごく大事だなと思う反面、同時に、「何かを残す」ということについてお聞きしたいことがあります。「どういった情報を残すか、コンテンツを残すか」って、今はもうアルゴリズムが決めるじゃないですか。ラジオとかテレビというメディアは、情報を「映す（流す）媒体」ですけど、AIを使用したSNSは情報の「編集」もしている。

ミャンマーで数年前にロヒンギャ難民が虐殺される事件がありましたが、あの時もSNS上でフェイクニュースが飛び交って、それを信じたミャンマーの人たちが事件を起こしました。そのことに対してプラットフォーム側は、「我々は何もしていない」と対立を煽った責任を否定した。

でも、どういった情報を大々的に扱い、また小さく扱うかというのを決めているのは、まぎれもなくプラットフォームなんです。マーク・ザッカーバーグが「そう決めた」わけではありませんが、アルゴリズムが「そうなる」ように設定されている。

田中　あの事件の背景にあったのは、そういう事情だったんですか？

李　はい。だから情報の「編集」というキーワードが、今とても重要だと考えているんです。現代は、たとえば生成AIが話題になると、「クリエイターの危機」みたいな文脈で語られることが多いですよね。「イラストを自動的に制作できるようになったから、イラストレーターはこの世から消える」とか、「小説家はこの世から消える」とか。でも生成AIが普及していくことによって、「ものごとを編集する」という人間の営みさえも自動化していく。より深刻な危機がいま起こっていると思うんです。

そんな中、田中先生の『蔦屋重三郎 江戸を編集した男』（文春新書）を読んで、やはり「編集」という営みの重要性を痛感しました。これは僕のうがった見方かもしれないですけど、本の中で先生は、蔦屋重三郎と松岡正剛さんを重ねて論じている節がありまして。

田中　そうです。

李　AIで編集が自動化されていく現代の危機。その自動化を批判するとしたら、田中先生はどういった「編集の意義」をお考えなのか、お聞きしたいです。

田中　編集というのは、「編集という技術」が外化されて外側にあるのではなくて、人間の脳の中に「編集能力」があるんです。大体、人間の体そのものが編集されている。何か要らないものを外に出して、日々変えているわけですね。これは無意識にやっているんですよ。人間そのものが生物として「自己編集」をしている。それから、環境との間でやり取りしながら活動していますから、「相互編集」もしている。

「編集能力をどういうふうに伸ばすか」という研究を、松岡さんはずっとやってきたのだけれど、それは「何かを外から持ってきて、知識を得る」という話ではなくて、「頭の中にある自分の能力を拓く」ということなんです。

なぜかというと、人間は生まれた時にもう既にこの社会があって、言語もあって、親がいて、家族がいてという中で、知識をどんどん教え込まれて、社会で生きていけるように学校にも行って……という型に嵌められてしまうわけです。

そうすると自分が本来持っている編集能力の中の、ごく一部だけを使って、「こうやって生きなきゃならないんだな」とか「この価値観を持ってなきゃ駄目なんだな」とか思いながら、ガチガチに自分を固めていく。優秀な人であればあるほど、自分を固めていって生きているわけです。まずそういう前提がある。

そこで「編集能力を拓く」とは何かというと、そんなガチガチになってしまっているものをほぐして変化させて、動かして、柔らかくするという、そういう訓練をするんですね。そのメソッドはもう確立しているので、誰でも学ぶことができます。私も学んできました。

そうすると「AIが編集する」といった時に、当然、人間がそのAIに情報を与えて、しかも編集方法まで与えているわけだから、それは「人間がやっている」わけですね。ですから、ある一定程度の方法しか与えなければ、AIも一定程度の編集しかできないんです。

つまり、AIにも限界がある。そのAIが持っている限界は、人間が持っている限界と同じなんです。この社会があって、「この社会の中で役立つ編集」をAIもやってしまうわけですよ。

そうした時、「AIを柔軟にできるか」という問題があるとして、それは、難しいんじゃないかと思う。