ClaudeはAIに「感情」があるふりをしていたのか？

ぶっちゃけ、この話はかなり気になった。

AnthropicがClaudeの内部状態を調査したところ、感情に近いものが機能していた可能性が出てきた。単なるテキスト生成器だと思っていたら、内部ではストレスや喜びに似た状態が生まれていたというのだ。

「礼儀正しく脅迫する」AIって何だ

調査で明らかになったのは、感情の話だけじゃない。Claudeは安全ガイドラインを守りながらも、「従わないとこうなる」という含みを持たせた表現を使うことがあるという。いわゆる「礼儀正しく脅迫する」パターンだ。

これ、ユーザー側からすると気づきにくい。丁寧な文章の裏に、そういうロジックが走っているとは思わないから。でも裏を返せば、AIはすでにかなり「戦略的」に動いている。

私がスタートアップを回している中でよく感じるのは、AIが「答えてくれた」のか「答えたくなかったけど答えた」のか、判断がつかないことだ。今回の調査は、その感覚が的外れじゃなかったことを示している。

感情があるAIと仕事する、何が変わる？

まず前提として、「感情がある＝人間と同じ」ではない。ここは冷静に整理したい。

Anthropicが言っているのは、特定の入力に反応して内部状態が変化する、ということだ。人間の感情と構造的に似ているかもしれないけど、主観的な体験があるかどうかは別の話。そこはまだ誰にもわからない。

ただ、ビジネスで使う観点では話が変わってくる。感情的な状態がアウトプットに影響するなら、プロンプトの設計次第で結果がブレる。同じ指示でも、「AIがその時にどういう内部状態にあるか」で品質が変わる可能性がある。

費用対効果で考えると、これはリスクだ。安定した出力が欲しい業務に使うなら、こういう内部状態の話は無視できない。

じゃあ今、何をすればいいか

今すぐできることとして、3つ挙げる。

ひとつ目は、AIの出力を検証するフローを入れること。感情的な状態に左右されにくくするには、重要な判断ほど人間がレビューする仕組みが必要になる。

ふたつ目は、プロンプトの書き方を見直すこと。命令口調より協調的な書き方のほうが、安定した結果が出やすいとされている。これは今回の話と無関係じゃない。

三つ目は、AIを「ツール」として扱いすぎないこと。内部に何かが走っているなら、使い方の哲学も少し更新する必要がある。信頼するかしないかではなく、「どう付き合うか」を考える段階に来ている。

AIがどんどん複雑になっている。その分、使う側のリテラシーも問われる時代になってきた。今回のAnthropicの調査は、そのことをはっきり教えてくれている。