AIの中身が流出？うちの会社への影響を考えてみた

先日、AIで有名なアンソロピックという会社が、自社のAI「Claude（クロード）」の内部設計の一部を誤って公開してしまったというニュースがありました。

アンソロピックというのは、ChatGPTを作ったOpenAIと並ぶ大手のAI会社です。そこが「うっかり内側の仕組みを見せてしまった」わけです。

「で、うちには関係あるの？」と思いますよね。正直に言います。直接的な被害はほぼないです。でも、少し立ち止まって考えておきたいことがあります。

まず、これはAIを作っている会社側のミスです。私たちユーザー側のデータが漏れた話ではありません。設計図が外に出てしまったようなイメージです。家を建てた会社の設計図が外に出た、でも住んでいる人の個人情報は出ていない、という感じに近いです。

ただ、こういうニュースを聞くたびに思うのが、「AIって結局、どこまで信用していいんだろう」という話です。製造業で20人の会社を切り盛りしていると、情報管理は死活問題です。見積書、取引先の情報、仕入れ値。こういうものをAIに入力して使う場合、どこに保存されているのか気になりますよね。

実は、多くのビジネス向けAIツールは、入力した内容をAIの学習に使わない設定があります。ChatGPTも、法人向けのプランならその設定が標準でオンになっています。無料版や個人向けプランのままで使っていると、話が変わってきます。

うちの会社でいうと、営業が見積もりを作るときにAIを使うとします。そこに取引先の名前や金額を入れていたら？無料ツールをそのまま使っている場合、その内容がAIの学習データになる可能性があります。今回の事故とは別の話ですが、AIを使う上での「気をつけポイント」として知っておいて損はないです。

今回の流出で怖いのは、悪意のある人がAIの弱点を研究しやすくなる点です。設計図が分かれば、どこを突けばいいか分かりやすくなります。ただ、これもすぐに自社が被害に遭うというより、AIツール全体のセキュリティの話です。使っているツールの会社がきちんと対応するかどうかを見ておくことが大切です。

アンソロピック自身は、この件についてすでに対処したと発表しています。大手のAI会社は、こういったインシデントへの対応も早いです。むしろ中小企業が注意すべきは、無名の格安AIツールを何も確認せずに使い続けることかもしれません。

AIは便利です。でも「なんとなく使っている」状態だと、思わぬところで足をすくわれます。月に一度くらい、「うちのスタッフがどのAIツールをどう使っているか」を確認する習慣を持つだけで、リスクはかなり下がります。大掛かりなシステムを入れるより、まずそこから始めるのが現実的です。