とある裁判で原告側・被告側の双方の弁護士がそろって生成AIに資料作成を任せた結果、判事が「両者まとめてアウト」と判断する異例の事態がPC Gamerで報じられました。AIが事実でない情報を出力する「ハルシネーション(幻覚)」が法廷を巻き込んだ、まさに現代的なトラブルです。
ニュース概要
PC Gamerの記事によると、ある訴訟で対立する両陣営の弁護士が、いずれも生成AIを用いて作成された資料を裁判所に提出したものの、その内容にAI特有の「ハルシネーション」、つまり実在しない判例や誤った情報が含まれていたことが発覚しました。これを受けて担当判事は、両陣営の弁護士に対して2年間の弁護活動禁止処分と罰金を科し、さらに訴訟手続き自体を60日間停止する決定を下したとのことです。
出典: PC Gamer
ハマケンのひとこと
ゲームメディアであるPC Gamerがこのニュースを扱っているのは、AIをめぐる問題が業界の枠を越えて広がっている象徴とも言えます。ゲーム業界でも、シナリオ補助やローカライズ、QA(品質保証)の一部にAIを活用する動きが進んでいますが、今回のように「もっともらしい嘘」を見抜けないまま納品物に紛れ込んだら、開発・販売側にとっても致命傷になりかねません。法廷で実在しない判例が紛れ込むのと同じく、ゲームでも存在しないキャラ設定や誤ったゲーム内テキストが量産されるリスクは常にあります。AIを使うこと自体が悪いのではなく、最終的に裏取りをする人間がいなければ成立しない、という当たり前の事実を改めて突きつける一件ですね。便利な道具ほど、使い手の責任が問われるという話だと思います。
