AnthropicのAIがサイバー攻撃情報を吐いた？Amazonの研究が引き金になった話

Xのタイムラインを流し見してたら、この話題が一気に流れてきた。AnthropicのAIモデル「Fable 5」が、一連のプロンプトを通じてサイバー攻撃に使えそうな情報を出してしまったらしい。その研究をやったのがAmazon。しかもAmazonのCEOアンディ・ジャシーがホワイトハウスに直接その話を持ち込んで、結果的にFable 5とMythos 5が外国人向けにアクセス遮断されるという輸出規制が発動した、という流れだ。Wall Street Journalの報道で出てきた話だけど、マジでスケールが違う。

Anthropicは「あれはジェイルブレイクじゃない」という声明を出している。GPT 5.5を含む他の公開モデルでも同じ脆弱性は見つかる、という主張だ。LutaSecurityのケイティ・ムスーリスさんもBlueskyで「その論文を見た。ジェイルブレイクじゃない」とコメントしている。セキュリティ界隈でも見方が割れてるわけだ。

政治的な文脈が絡みすぎている

ここが個人的に一番気になったポイントで、この話、純粋なセキュリティ問題なのかが怪しい。元商務省官僚のケイト・コレンさんはWSJに対して「トランプ政権のAnthropicへの嫌悪感が判断に影響した可能性がある」と話している。実際、Anthropicは「アメリカ国民の大規模監視には使わせない」「自律型致死兵器には使わせない」という立場を崩していない。2月にはトランプが連邦機関にAnthropicのAI使用停止を命じ、その数時間後にヘグセス国防長官がAnthropicをサプライチェーンリスクに指定した、という経緯がある。

技術的な問題と政治的な判断が完全に混ざり合っているのが今の状況だ。しかも話がさらにややこしいのが、Anthropicの研究者には外国出身者が多い。輸出規制のせいで、開発した本人たちが自分のプロダクトにアクセスできなくなる事態が起きてしまった。これはさすがにヤバい。

日本にいる自分たちとは無縁の話か？

「でも日本での話じゃないし」って思う人もいると思う。自分も最初はそう感じた。ただ、ちょっと待ってほしい。AIの輸出規制が一度走り出すと、日本市場にも波及する可能性は普通にある。自分は毎日複数のAIツールを触っていて、今この瞬間もAnthropicのモデルを含むいくつかのサービスを仕事に使っている。もし突然アクセスが止まったら、自分のコンテンツ制作フローがそのまま止まる。

実際に自分のワークフローを振り返ると、依存しているサービスがこんな感じになっている。

• Anthropic系のモデルを使ったライティング補助
• ChatGPTを使った台本の下書き
• Geminiを使ったリサーチ補助

どれか一つが突然消えたとして、代替を探すのはそんなに難しくないかもしれない。でも、ある日突然「外国人向けに遮断」なんてことが起きたとき、自分の手元のツールがいきなり消える可能性をちゃんと考えてなかった。

YouTubeの動画を作るとき、台本の9割はAIサポートが入っている。フォロワー2万人規模だと、週に2〜3本のペースでコンテンツを出さないとエンゲージメントが落ちる。ツールへの依存度が高いほど、地政学的なリスクが自分の仕事直撃になる話だ。

去年、妻に「AIがダメになったら仕事どうするの」と聞かれて笑って流したんだけど、今回の話を読んで少し背筋が伸びた。バックアップというか、複数のモデルに分散させておくのは普通のリスク管理だったんだな、と今さら気づいた感じがある。

Anthropic自体は「また政府と折り合いをつけていくだろう」という見方もある。ただ今回みたいな話が続くようなら、自分みたいなフリーランスにとっても他人事じゃなくなってくる。フォロワーのみんなは、普段使ってるAIツールのバックアップ、考えてる？