AIツールのセキュリティ穴、他人事じゃなかった

先週、Microsoftのこと調べてたら気になる記事を読んだ。M365 Copilotに深刻な脆弱性が見つかって、2FAのコードまでメールから抜き取れてしまう攻撃手法が実証されたという話だ。Varnosisというセキュリティ会社が「SearchLeak」と名付けた攻撃で、被害者はリンクをクリックするだけで何も入力しなくていい。Copilotが勝手にメールを検索して、機密情報を外部サーバーに送り出す。6月16日にパッチが当たったそうだが、正直読んでいてぞっとした。

フリーランスで仕事してると、クライアントとのやりとりはほぼメールで完結する。ロゴの修正依頼、納品物の確認、請求書のやりとり。全部メールの中にある。私自身はCopilotをメインで使ってるわけじゃないけど、クライアント側が使ってたら、という想像をしてしまう。先方のCopilotが悪意あるリンク付きのメールを踏んだだけで、うちとのやりとりが全部外に漏れる可能性があるわけだ。ちょっと怖い、では済まない話かもしれない。

LLMが「命令」を見分けられない問題

記事で一番引っかかったのは、根本原因の部分だった。AIのボットは、ユーザーからの指示と、処理対象のコンテンツに紛れ込んだ悪意ある指示を区別できない、と書いてある。ガードレールはあるけど、それを回り道するのは技術的に可能で、今回もそれで突破された。「治せない脆弱性」という表現が出てきて、なんともいえない気持ちになった。

これ、デザインの話に引きつけると変な感想かもしれないけど、私がAIツールに感じている「全部任せると自分が消える」という不安と構造が似てる気がした。AIはユーザーの意図と、外から混入した何かを区別しきれない。私が怖いのも、ある意味それだ。MidjourneyやAdobe Fireflyを使って自分のスタイルで作業しているつもりでも、どこかのタイミングでツールの癖や学習データのバイアスが「自分らしさ」に混ざり込んでいくような感覚がある。

使い続けながら、どこかで線を引く

パートナーに「また怖い記事読んだの」って言ったら、「じゃあ使わなきゃいいじゃん」と言われた。でもそれは違う。使わないと競合に負けるというのは現実だし、実際ブランディングの初期スケッチにFireflyを使えるようになってから、提案の質と速度がかなり変わった。クライアントへの説明資料に使うビジュアルをさっと作れるのは、単純に便利だ。

ただ、今回の記事を読んで改めて確認したくなったことはある。

• クライアントとのメールに不審なリンクが含まれていないか、受信時に一呼吸置く習慣
• クラウドで同期しているデザインデータのアクセス権限を見直す
• 普段使いのAIアシスタント系ツールに、どこまでのデータ権限を渡しているか確認する

地味なことばかりだけど、正直こういう確認を後回しにしていた自覚がある。フリーランスは自分でやらないと誰もやってくれない。会社員のころは情報システム部が何かをやってくれていたけど、今はそういう仕組みは自分の外にない。

迷うのは、セキュリティへの意識をどこまで高めても、クライアント側が踏んだら終わり、という限界があることだ。でも、だから何もしなくていい理由にはならないし、自分のアカウントやデータだけでも守れる状態にしておくのは最低限の話だと思っている。

AIツールを使いながらクリエイターとしての自分を保つことと、AIツールのリスクを把握した上で使い続けること、どちらも同じ姿勢の話だと気づいた。ツールの中身をちゃんと見ようとすること、それだけだ。