AIが詐欺に使われる時代、マーケターはどう動く？

先日、ちょっと気になるニュースを見た。政府や日銀、メガバンクまでが集まって、生成AI「クロード・ミュトス」の脅威への対策を話し合う会議を開いたらしい。金融機関がここまで動くって、正直「やっと？」という気持ちと「そこまで来たか」という気持ちが半々だった。

私はChatGPTで広告文を毎日作ってる側の人間だから、AIに悪意を持って使われる話には他人事じゃない感覚がある。むしろ、同じツールを使ってる立場として、リスクをちゃんと理解しておかないとマズいと思ってる。

生成AIが「武器」になるとマーケ現場にも影響が出る

クロード・ミュトスというのは、フィッシング詐欺やサイバー攻撃のために特化して調整された生成AIとされている。通常の生成AIが持つ安全制限を取り除いた、いわゆる「悪用版」だ。日銀やメガバンクが対策を急ぐのも、金融詐欺に使われるリスクが現実的になってきたからだと思う。

で、私がマーケターとして気になるのは、広告プラットフォームへの影響だ。Meta広告やTikTok広告は、クリエイティブの審査をAIで行っている部分が大きい。もしそこに悪質なAI生成コンテンツが大量に流れ込むようになったら、審査基準が一気に厳しくなる可能性がある。実際、Metaは過去にポリシー変更のたびに配信停止や審査遅延を繰り返してきた。そのたびにCPAが跳ね上がった経験が何度もある。

AIを使ったフェイク広告やなりすましアカウントの問題も、すでにプラットフォーム側は対応を強化し始めている。TikTokはAI生成コンテンツへのラベル表示を義務化しているし、Metaも広告主への本人確認を厳格にしてきた。こういう流れが加速すると、正規の広告運用にもしわ寄せが来る。

数字で見ると「信頼コスト」が上がってきている

最近、自分のアカウントでも気になるデータがある。同じクリエイティブでも、ブランドの「本物感」を出したコンテンツとそうでないものでCTRに差が出始めている。具体的には、実際のスタッフや商品の様子を映した素材の方が、AI生成っぽいビジュアルよりもエンゲージメントが1.3〜1.5倍高い傾向がある。ユーザーがAI感のあるコンテンツを避け始めているのかもしれない。

生成AIの悪用が話題になればなるほど、受け手側の「これ本物？」というアンテナが敏感になる。広告を見る人も同じで、AIっぽい・作り物っぽいと感じた瞬間にスルーされる確率が上がる。これはROI直撃の話だ。

今まで「AIで効率よく量産」という方向で動いていたのを、少し見直す時期に来てるんじゃないかと思い始めている。量より、ちゃんと人間が関わってる感を出せるかどうかが、これから配信成果を左右するポイントになりそうだ。

クロード・ミュトスの話が金融機関の会議室で議論されている一方で、私たちマーケターの現場にも地続きの問題として影響が来ている。自分の次のアクションとしては、AIで下書きを作った後に「人間が最終的に手を入れた感」をどうクリエイティブに乗せるか、来月のA/Bテストのテーマにしてみるつもりだ。