ChatGPTは「（この判例は）全て事実です」と回答

2023年6月8日に、このベテラン弁護士の懲戒処分を決めるための審理が連邦地裁で開かれました。法廷の傍聴席には、報道関係者や弁護士、法律事務官、さらに大学教授や法律専攻の大学生など70名近くが着席して審理を見守りました。

その人たちの目の前で、判事はシュワルツ弁護士に「なぜ（ChatGPTの）回答の真偽を確認する作業を怠ったのか?」と問い詰めました。

これに対し同弁護士は「ChatGPTが判例をでっち上げるとは思わなかった」と答えました。

彼は大学に通っている自分の子供たちからChatGPTの話を聞いて、その存在を知りました。その話から「（ChatGPTとは）スーパー検索エンジンのようなものだ」と思ったそうです。

実際に同弁護士がChatGPTを使って判例の資料を作成した際には、それが返す答えは自信に満ち溢れているように見えました。

それでも彼は念のためChatGPTに「これらの判例は事実だろうね?」と問い質したところ、ChatGPTは「全て事実です」と答えました。

そもそも嘘をつくかもしれないAIに真偽を確かめること自体が大きな間違いですが、今更それを言ったところで後の祭りです。

結局、アビアンカ航空への訴訟は棄却に

その審理から約2週間後、連邦地裁の判事はシュワルツ弁護士、また形式的ながらも彼と連名で偽資料を法廷に提出したもう一人の弁護士、そして彼らが所属する法律事務所に対し、（三者まとめて）5000ドル（70万円以上）の罰金を科しました。弁護士資格の取り消しや停止といった最悪の事態は免れたわけです。

また彼らが弁護を担当した、（前述の）膝を怪我した男性マタ氏によるアビアンカ航空への訴訟は棄却されました。

判事は懲戒処分の理由として「（今回の一件は）米国の法律職と司法システムに対する不信感を招いた」と指摘したうえで、「信頼できる人工知能を（訴訟関連のリサーチなどに）利用することは本質的に不適切というわけではないが、既存の法律は提出文書の正確性を確かめる門番としての役割を弁護士に課している」と述べました。

要するに「弁護士が（ChatGPTのような）AIを使うのは構わないが、それが返す答えの中身くらいは自分で確かめろよ」と言っているわけです。

ただ、これが米国の法曹界の一致した見解というわけではありません。

ほぼ同時期に、テキサス州の連邦地裁判事は自らが担当する訴訟において、弁護士がAIを使って文書を作成することを禁止しました。

一方、法科大学院の教授ら専門家の中には「（シュワルツ弁護士の一件で）ChatGPTの危険性が知れ渡ったので、今後は一種の抑止効果が期待できるのではないか」と前向きに受け止める人もいます（が筆者には皮肉にも聞こえます）。