著作権侵害に情報漏洩…生成AIのトラブル
2022年、画像生成AI「Midjourney」、チャットボット「ChatGPT」などの生成AIサービスがスタートしてから今日に至るまで多くのユーザーが利用してきた。精度が高く、膨大な量のデータを生み出すだけではなく、法律やコンプライアンスなどのチェックができる優秀なツールもあり、これからの働き方を変える可能性を秘めている。
だが、その手軽さゆえに名誉毀損や著作権侵害、情報漏洩などを引き起こすリスクも高く、大きな騒動になったトラブルも見受けられる。
たとえば今年1月24日、Xでアメリカのシンガーソングライターであるテイラー・スウィフトの写真をAIツールで性的な加工を施した画像が拡散。すでにオリジナルの画像は削除済みだが、閲覧数は2700万回を超え、Xのセーフティーチームは監視を強化、似たような画像を積極的に削除するとコメントを出す事態になった。
2023年には、韓国の大手メーカー「サムスン」でChatGPTによる情報漏洩が発生し、同年5月に生成AIの利用を原則禁止にする方針を策定している。
また、日本でも、4月1日には、海上保安庁のパンフレットが生成AIによって作成されたものだとしてSNS上で著作権侵害を訴える声が殺到し、配布中止に追い込まれる事態に発展した。
生成AIには、差別発言や不適切な情報を出力してしまう「ハルシネーション」というトラブルも考えられ、こうした不正確なデータが生まれてしまうとサービスの利用停止につながる可能性もある。
トラブルが世界的規模で増えつつある生成AIだが、効果的な対策や制度設計が不十分な印象も受ける。現在は、生成AIによるトラブルが徐々に問題視されてきているフェーズだと前野氏は語る。
「現状、生成AI関連のトラブルについて、法的な判決が下された事例はほとんどなく、水面下での交渉や炎上によりAI生成物の発表をストップさせるケースが大半です。たとえば、あるイラストレーターの作品をAIに学習させて生成されたとみられる創作物に対し、水面下で取り下げを要求する例は、すでに見受けられます。こうしたトラブルは、今後ますます増えていくでしょうし、制度整備が進むにつれて交渉や裁判も多くなるでしょう」
生成AIの専用保険が誕生？ その効果は？
そんななか2024年6月、あいおいニッセイ同和損保とArchaicの共同開発の下、国内初となる「生成AI専用保険」の提供が開始される。企業広告における表現やコンプライアンスをチェックするAIなどを開発しているArchaicのAIサービスに取り込む形で提供され、生成AIトラブル発生時の調査や法律相談、記者会見などの費用を補償する内容となっている。
前例がないサービス開始となるが、生成AIの安心・安全な導入活用に向けた新たな取り組みの先駆者として期待が高まる。
あいおいニッセイ同和損保の担当者は「生成AI専用保険」について次のように説明する。
「生成AIの導入は急速に進むものの、対顧客サービスにおいては、不安やリスクが先行してしまい足踏みする企業も多くありません。著作権侵害や情報漏洩が発生してしまうと、顧客からの信頼低下はもちろん、経済的な負担も大きい。
当社ではリスクを低減して生成AIの活用を促進させるためにも、保険制度が有効だと考えました。どんなケースが保険適用になるかは、具体的に設定していまして、①著作権侵害は権利者から訴訟を起こされた場合（国内の訴訟に限定）、②情報漏洩、ハルシネーションは新聞やテレビ等で報道された場合に、保険金の支払を判断させていただきます」
