AIが作ったハックを、AIが止めた時代に私たちのツールは安全か

先日、Googleがちょっとぞっとするニュースを出した。
AIを使って作られたゼロデイ攻撃を、Googleの脅威調査チーム（GTIG）が発見・阻止したというものだ。
世界初のケースらしい。

内容をざっくり言うと、サイバー犯罪グループがAIの力を借りて、二段階認証を突破できる脆弱性を見つけ出した。
そのコードを調べたGoogleの研究者たちは、「ハルシネートされたCVSSスコア」や「LLMの学習データそのままみたいな整然としたコード構造」を発見した。
つまり、コードの書き方から「あ、これAIが書いたな」ってわかってしまうほど、AIの痕跡が残っていたということだ。

これ、デザイナーの自分には関係ない話じゃない

最初に記事を読んだとき、「セキュリティの話か、専門外だな」と思いかけた。
でも読み進めるうちに、じわじわ不安になってきた。

私は毎日のようにMidjourneyでビジュアルのラフを作り、Adobe Fireflyで素材を調整している。
クライアントへの提案スピードが上がったし、正直この2年でツールへの依存度はかなり高くなった。

そのAIツール、本当に安全に使えているんだろうか、と。

GTIGのレポートには、攻撃者たちがAIに対しても牙を向いていると書いてある。
具体的には「AIシステムに組み込まれたサードパーティのデータコネクタや自律スキル」が標的にされているらしい。
MidjourneyもFireflyも、外部サービスとの連携や学習データのやり取りが裏で動いている。
私が何も考えずに使っているその「連携」の部分が、攻撃の入口になりうるということだ。

「AIに全部任せると自分が消える」の本当の意味

自分がずっと抱えているジレンマは、クリエイティブな文脈での話だった。
「AIに頼りすぎると、自分の目が鈍くなる」「クライアントに価値を説明できなくなる」そういう感覚。

でも今回の話を読んで、もう一段違うレイヤーの「消える」があることに気づいた。
ツールを疑わずに使い続けることで、セキュリティリスクをそのまま自分のビジネスに引き込んでいるかもしれない、ということだ。

フリーランスは会社のIT部門なんてない。
クライアントのデータや未公開のロゴデータを自分のPCとクラウドで扱っていて、それを守るのは全部自分だ。

Googleのレポートでは、ハッカーたちが「セキュリティの専門家のふりをしてAIに脆弱性を探させる」ペルソナ型ジェイルブレイクも使っていると説明されていた。
AI自体が悪用の道具になる、という現実はもう「近未来の話」じゃない。

使うツールのセキュリティ設定を一度ちゃんと見直してみようと思う。
MidjourneyのDiscordサーバーで何を共有しているか、Fireflyにどんなデータを渡しているか、改めて確認する。
自分のデータが何に使われているかを把握せずにツールを使うのは、鍵を開けっ放しで出かけるのと似ている気がしてきた。