教皇もAIで書いた？それが怖い理由を考えた

ローマ教皇がAIの危うさについて書いた文書に、AIが混じっていたかもしれない。
そのニュースを読んで、しばらくスマホを置いて考え込んだ。

記事によると、教皇レオ14世が発表した回勅「Magnifica Humanitas」の一部が、AIで書かれた可能性があるとのことだ。
AI検出ツール「Pangram」を使った分析では、第1章の62%がAI生成と判定され、The Vergeが約2000ワードを解析したところ46%という結果が出た。
同じPangramは誤検知率を「1万件に1件程度」と発表しているから、精度はそれなりに高い。
しかも文書の中に、Anthropicが開発したClaudeの癖とされる「genuinely」という単語が、過去の回勅より明らかに多く使われていたという。

面白いのは、AIの影響を人類に警告するための文書が、そのAIによって書かれていたかもしれないという皮肉だ。
でも正直、最初に笑えなかった。
笑えなかった理由は、他人事じゃないからだと思う。

「使っている」と言えない場所がある

自分もAdobe FireflyやMidjourneyを日常的に使っている。
ラフのバリエーション出しに使ったり、テクスチャのインスピレーション探しに使ったり、正直かなり助かっている。
独立して5年、仕事の量は増えたけど単価は下がりやすい業界だから、ツールで時間を圧縮するのは生き残り方のひとつだ。

ただ、クライアントには言えていない案件がある。
「このビジュアルのイメージ、AIで出したんです」とは言いにくい。
言えない理由を整理すると、こんな感じだ。

• クライアントがAI=手抜きだと誤解するリスクがある


• 使ったことを言うと値引き交渉の材料にされそう


• 自分の「センス」として評価されているものが崩れる気がする

これは教皇の話と構造が同じだと気づいた。
AIを使ったことを明かすかどうか、誰もが迷う時代になっている。

「私らしさ」がどこにあるのかわからなくなる

パートナーとこの話をした。
「そもそも昔から作曲家も写真家も機材に依存してたじゃん」と彼は言った。
理屈はそうだけど、なんか違うと感じた。

機材は「私の判断を拡張する道具」だった。
でも生成AIは、判断そのものを代行する可能性がある。
「このロゴどっちがいい?」という問いに、AIが「こっち」と答え始めたとき、私の役割は何になるのか。

先月、ブランディングのリニューアル案件で、クライアントにビジュアル3案を出した。
そのうち2案はMidjourneyを起点にして、自分でトレース・修正したものだった。
採用されたのはAI起点の1案。
喜んでいいのか迷った。自分のセンスが選ばれたのか、AIのセンスが選ばれたのか、境界がぼやけていた。

教皇の話に戻ると、文書の一部は「本人が書いた」と判定されているらしい。
人間の部分とAIの部分が混在している。
私の仕事もそうなってきている。
その割合がどこまでいったら「自分の仕事」ではなくなるのか、まだ答えが出ない。

活版印刷が趣味なのは、たぶん「機械が絶対に再現できない偶然のズレ」が好きだからだ。
インクの滲み、版のわずかな歪み。それは私が選んでいない、でも私しか生み出せない何かだ。
そこへの執着が、AIに全部渡せない理由なのかもしれない。

教皇でさえ迷うのなら、私が迷うのは当然だ。
ただ、迷ったまま使い続けている自分をもう少し丁寧に観察しようと、今は思っている。