ロサンゼルスの山火事の裁判で、ChatGPTのログが検察側の証拠として使われた。そのニュースを読んで、正直ぞっとした。
被告のジョナサン・リンダークネクトは、2025年元日に火をつけたとして放火罪に問われた。検察は彼のiPhoneの位置情報や防犯カメラ映像を証拠として提出しただけでなく、ChatGPTとのチャット履歴も使った。彼は火のイメージをChatGPTに生成させていて、「なぜ自分はいつもこんなに怒っているのか」という問いを投げかけていた。富裕層が世界を壊しているとチャットで愚痴ってもいた。
ただ、陪審員はその証拠で納得しなかった。投票結果は10対2で被告側有利の判断となり、評決が割れて裁判はミストリアルで終わった。ある陪審員が「私もChatGPTに毎日話しかけている」と語ったのが印象に残っている。その人は、チャット履歴が「人格の欠陥の証明」として使われたことに腹が立ったとも言っていた。
私のChatGPT履歴を、今すぐ開きたくない
自分のアカウントを開いたら何が出てくるだろう、と少し怖くなった。仕事の相談がほとんどだけど、変な時間帯に「このクライアントって私をなめてる?」とか打ち込んでいる夜がある。Midjourneyで試した火とか爆発系のテクスチャも、純粋にビジュアルの参考としてだけど、ログとして残っている。
パートナーに「そのニュース読んだ?」と話しかけたら、「え、怖くない?」と即反応が来た。彼女も仕事でChatGPTをわりと使っていて、愚痴めいた内容を打つことがあるらしい。「チャットって日記みたいなものだよね」と言っていたけど、その日記が法廷に持ち込まれる可能性がゼロではない。
デザインの仕事をしていると、ブランドイメージを燃やすとか、古いものを壊してリセットするとか、そういう比喩的な言葉でクライアントと話す場面が多い。AIツールにも同じテンションで話しかけてしまう。「この会社のロゴ、完全に死なせてリブランドしたい」とか、今思うと脈絡なく読まれたらまずいかもしれない文章がある気がする。
AIとの会話は「作業ログ」ではなく「思考の外付け」になっている
Midjourneyでビジュアルを探索するときは、ある程度ツールとの距離感がある。出力されたものを見て判断するという構造だから、自分がコントロールしているという感覚がある。でも、ChatGPTに文章で話しかけるのはちょっと違う。頭の中をそのまま打ち込むような瞬間がある。
デザインの方向性が決まらないとき、クライアントに言えない本音、作業の途中で浮かんだ愚痴。それが全部テキストとして残っている。自分が消えないためにAIを使いすぎないようにと気をつけてきた。でも逆に、自分が思考をAIに「預ける」状況になっていたのかもしれない。
今回の裁判で迷子になったのは、陪審員の一人が言った「私もChatGPTに話しかけている」という言葉だ。それを「使っているだけで証拠にならない」という意味で使ったのか、「みんながやっていることを問題視するな」という意味で使ったのかで、だいぶ受け取り方が変わる。ただ、10対2という票の割れ方を見ると、ChatGPT履歴の「証拠力」をどう評価するかは、今の社会でまだ答えが出ていないということだろう。
- 自分のチャット履歴を一度見直す
- 仕事とプライベートでアカウントを分ける
- 感情的な文章をAIに投げる前に一呼吸置く
そう決めたのは昨日の夜なんだけど、正直、続くかどうか迷っている。AIと話すことが思考の一部になってしまっていて、分けるのが難しい。アカウントを分けたとして、仕事の愚痴がどちらに入るかすら判断に困る。
ログは残る。それは使い始めた日から変わらない事実だ。自分が何を考えながら作っているかが、意図せずどこかに蓄積されている。それと向き合う覚悟が、たぶん今の自分に足りていない。