ブラックボックス化する「創造のプロセス」
李 AIを「ツールの一つとして活用する」ことは問題ないと思うんですけど、AIに「こういうふうに編集して」と言って、ポンと出てきたものを、そのまま世に出してしまうのは非常に危険だと思います。それが面白いかどうか、安全かどうか。最後に判断するのは人間なので、やはりビジョンが必要なのだと思います。
田中 だいたい編集というと、「編集した結果でき上がったもの」を想像してしまうけれども、松岡さんがやっていた編集というのは、たとえば今日は京都の何千年記念だから、じゃあ生け花をやりましょうかと。実際に私が目の前で見たことがあるんだけども、そこで「でき上がった生け花を並べる」ということは絶対やらないんですね。
まず花をとってくるというところから始まって、水を用意しましょう、花器はどうしましょうかと、生け花の専門家の方もそこにいらっしゃって、生け花のプロセスを最初から全て見せるんです。
そういうものを見せられたときに、「あ、人間はこういうことをするんだ」とか、「こういうふうに環境とやり取りしながら、ものが作られてくるんだ」とかいうことがわかる。そういうことも「編集」なんです。
李 いま、AIと言われているもの、いわゆる大規模言語モデルを基盤としたAIは、ブラックボックス化していることが指摘されています。「こういう作品作って」と言ったらポンと出してくれるんですけど、その創作の過程というものがよくわかっていない。
田中 それはAIに命令した人もわかってない？
李 わかっていません。だから結構危ないんじゃないかという批判は以前からありまして、そこを透明化していこうという試みもあるんですけど、大多数の人はそこを透明化しても見ないと思うんです。プロセスが複雑で専門的すぎるから。でも先生がおっしゃるように、「プロセスを見る」というのはすごく大事で、たとえば文章を書いている時も、A、B、Cと選択肢があって、「Aにするか、B、Cにするか」とか、「こういう理由でAにしよう」とか、いろいろな迷いがあるものですが、そのプロセスは、完成した文章では消えている。
田中 そうですね。消えています。
李 でも実はそういう過程があって、「この時、こういう理由でこちらの道を選んだ」というのが可視化されることはすごく大事で。さきほどの稽古ごととかアマチュアの話ともつながりますね。だから巷に「AIが編集したコンテンツ」があふれ返ってしまうと、プロセスというものが全然見えなくなるし、見なくてもいいというふうに判断される。そういう危険が今あります。
田中 実際にそのプロセスの中で選ばなかったものが、すごく大事だったりするんですよ。それが見えなくなってしまうと、人間のクリエイティビティの一部が無くなっていく。人間が作っている場合には、Aの人が「これはやめた」と言ったものを、Bの人が「いや、私はそれがいいと思う」と拾う。こういった対話の中で取捨選択が変わっていくということが、人間同士のやりとりでは起こるんです。そういう膨大なネットワークの中で行われてきたことが、本当は今まで文化をつくってきたんですよ。AIではそれが見えなくなる。もったいないですよ。
