SNSの収益化がもたらした「災害デマ」の問題
ディープフェイクの問題はポルノだけにとどまらない。例えば2023年11月には岸田首相がニュース番組のような雰囲気のなかで、卑猥な言葉を発しているディープフェイク動画がSNS上で拡散され、物議を醸した。
湯淺氏によればこうしたSNSでのディープフェイク動画の拡散が問題となっている背景には、SNSの「収益化」が関係しているという。
「現在、X（旧Twitter）などをはじめとするSNSではインプレッション（投稿の表示回数）などに応じて収益が得られる仕組みになりました。このことにより、ユーザーたちはよりセンセーショナルで、注意を引くような投稿を行なう傾向が強くなっています。
例えば、地震や大雨などの自然災害が起こったときには、実際の現場の被害状況をより誇張したような動画をわざと投稿し、閲覧数を稼ぐことなどが問題視されています。
しかし、現在ではスマホで簡単に画像や動画が加工できる時代であるため、そういった投稿をデータ解析するだけでは、ディープフェイクであるかどうかの判断が難しいのです」
――ディープフェイクは深刻な性犯罪を助長することのみならず、災害デマや政治的利用によって社会的混乱を巻き起こす要因ともなっている。
今後政府はディープフェイク問題にどのように立ち向かうのか、早急な対応が求められている。
取材・文／瑠璃光丸凪/A4studio 写真／Shutterstock
