AIがバグを見つける時代、私たちのツールは本当に安全？

先日、ちょっと気になるニュースを読んだ。
セキュリティ調査会社のWiz ResearchがAIを使って、GitHubの内部インフラに重大な脆弱性を発見したという話だ。
その脆弱性、放置されていたら何百万ものコードリポジトリが攻撃者にアクセスされていた可能性があったらしい。

GitHub側の対応は素早くて、報告から40分以内に脆弱性を再現・確認。
2時間以内に修正をデプロイして、6時間以内に完全解決したとのこと。
GitHubのCISOであるAlexis Walesが「すぐに行動が必要な重大な問題だった」とコメントしている。

読んでいて最初に思ったのは「GitHubって普段めちゃくちゃお世話になってるな」ということだった。
クライアントとのデザインデータの共有、修正履歴の管理、Figmaとの連携まわりで欠かせないツールになっている。
それが「中身を全部見られる可能性があった」と聞いて、背筋がちょっとひやっとした。

AIがAIのツールを守る、という構図

もうひとつ引っかかったのが、この脆弱性の発見方法だ。
Wizのセキュリティ研究者Sagi Tzadikは「クローズドソースのバイナリにおいてAIで発見された最初期の重大脆弱性のひとつ」と述べている。
つまり、人間が手作業でコードを読んで見つけたんじゃなく、AIが見つけ出したということ。

デザインの現場でも、私はMidjourneyやAdobe Fireflyを日々使っている。
これらのツールもクラウドで動いていて、自分がアップロードしたリファレンス画像やプロンプトはどこかのサーバーに乗っている。
今回みたいな脆弱性が、別のサービスで静かに存在していたとしても不思議じゃない。

「全部任せると自分が消える」の意味が広がった気がする

AIツールへの依存について、ずっと「自分のクリエイティビティが薄れる」という怖さを感じていた。
でも今回の件で、もうひとつの意味での怖さに気づいた。
データそのものが、知らないうちにリスクにさらされているかもしれないということ。

クライアントの未公開ブランドデザインをクラウドツールに上げて作業することは、今や普通になっている。
そのデータがどこに保存されて、どんなセキュリティ体制で守られているか、ちゃんと確認したことがあるだろうか。
正直、私はちゃんと見ていなかった。

AIを「使わないと競合に負ける」という感覚は変わっていない。
ただ、使い続けるなら「どのデータをどのツールに渡すか」という線引きを、自分なりにちゃんと持っておかないとまずいと思った。
未公開の案件データと、公開済みの参考資料では扱い方を変える。
そういう小さな判断の積み重ねが、結局クライアントへの信頼につながる。

GitHubが6時間で修正したのはすごいことだし、迅速な対応を称えたいとは思う。
でも「発見されて良かった」じゃなくて「発見される前から自分でリスクを考えていたか」が問われている気がした。

今週中に、自分が普段使っているAIツールのプライバシーポリシーとデータ保存ポリシーを、改めて読み直してみるつもりだ。