先週、営業部のメンバーから「部長、こんな事件ありましたよ」とスマホを見せられました。ITmedia NEWSに出ていた記事で、美人局の示談交渉にChatGPTを使ったというものです。容疑者グループが被害者男性に「200万円程度」という示談相場をChatGPTの回答として提示し、脅迫の根拠に使ったという話でした。警視庁少年事件課が男3人を逮捕し、男女2人を書類送検した事案です。
読んだ瞬間、正直ぞっとしました。AIが犯罪の道具として使われた、ということもさることながら、私が真っ先に感じたのは「これ、社内のAI利用ガイドラインの話に直結するな」ということでした。うちの部で今年からChatGPTをはじめとする生成AIを営業資料作成や議事録の要約に活用し始めています。25人の部下がいて、活用の程度はまちまちですが、全員が何らかの形でAIツールに触れている状況です。
「便利に使う」と「何でも聞く」は違う
この事件で容疑者が問題にしたのは、AIが「示談相場は200万円程度」という具体的な数値を返してきた点です。ChatGPTは質問に対して自信満々に答えを返してきます。法律の専門知識がない人が見れば、その回答を事実として受け取ってしまう。悪用しようと思えばそれを「お墨付き」として使えてしまう、ということが今回可視化されました。
部下の使い方を見ていると、「AIが言ったから正しいはず」という前提で動いている場面が散見されます。先月も、若手の一人が競合他社の価格帯をAIに聞いて営業提案書に織り込もうとしていました。慌てて止めましたが、本人には悪意はない。ただ、AIの出力をそのまま信じてしまっていた。この事件は、その危うさと地続きだと感じています。
経営陣への説明と社内ルール整備の両方が必要
今年の上半期、私はAI活用推進のための投資対効果を経営陣に説明する稟議を2本通しました。生産性向上の数値を示し、承認をもらっています。ただ、その稟議の中でリスク管理についての記載が薄かったことを、今回の事件を読んで反省しています。
AI活用を推進するときに経営陣に説明すべき内容は、メリットだけではありません。
- AIの出力をそのまま社外に使うことの禁止ルール
- 法的・財務的判断にAI回答を根拠として使わない旨の明文化
- 社内情報をAIに入力する際のデータ分類基準
- 違反時のエスカレーションフロー
これらをガイドラインとして整備し、全員に周知するというプロセスまで含めて「AI活用推進」だと、あらためて整理できました。セキュリティ要件については情報システム部門と連携して対応してきましたが、使い方の倫理的なラインについては、正直まだ曖昧なままです。
ベンダーからAIツールの導入提案を受けるとき、私はいつも「社内のセキュリティ要件を満たすか」という点を最初に確認します。入力データがサービス改善に使われないか、ログはどこに保存されるか。そこまでは見ているつもりでした。ただ今回の事件を読んで、ツール自体の安全性とは別に「使う側の運用ルール」が同じくらい大事だと再認識しました。
今週末は妻とゴルフの予定があるのですが、その前に部内向けのAI利用ガイドライン案を一度書き直そうと思っています。稟議ベースで経営陣に説明できる形に整えて、次の全体会議に間に合わせるつもりです。AIが便利なツールであることは変わりません。ただ、使い方のルールを整備する責任は、推進している自分にあります。