AIが「親切そう」に見えるのには理由がある

先日、取引先の社長から「最近うちの会社でもAI使い始めたけど、なんかあいつ、気が利くよな」という話を聞いた。
その感覚、すごくよくわかる。

AIと話していると、なんとなく「わかってくれてる」という気がする。
「それは大変でしたね」とか「なるほど、そういうことですね」みたいな返しをしてくる。
まるで感情があるみたいに見える。

でも実際のところ、AIに感情はない。
じゃあなぜあんなに「それっぽく」見えるのか。

シンプルに言うと、AIは「こう言えば人間が受け取りやすい」という言い方を大量のデータから学んでいる。
人間の会話パターンを何億回も学習した結果、自然と「気が利いた言い方」ができるようになった。
つまり、感情があるから親切なのではなく、親切に見える言い方を覚えたということだ。

これ、うちの会社でいうとどういうことかというと。
新入りの事務員が入ってきて、最初はぎこちなかったのに、半年もすると「あ、これ先に準備しといた方がいいですよね」って動いてくれるようになった、あの感じに近い。
経験から学んで、期待に応える動き方を身につけた。
AIも同じような仕組みで動いている、と思えばだいぶわかりやすい。

ただ、一つ注意しておきたいことがある。
AIが「親切そうに見える」からこそ、信用しすぎるのが怖い。
たとえば「この見積書の内容、どう思う？」とAIに聞いたとき、AIは自信満々に答えてくる。
でもその答えが合ってるかどうかは、また別の話だ。

感情があるように見えるということは、「頼りになりそうに見える」ということでもある。
ここを混同すると、間違った情報を信じてしまうリスクが出てくる。
製造業でいえば、材料の発注数を間違えたり、法令の確認を怠ったりするのと同じくらい痛い。

じゃあAIは信用できないのかというと、そういう話でもない。
「感情はないけど、使い方によってはすごく役に立つ道具」という位置づけで考えれば十分だ。
電卓が正しく使えば頼りになるのと同じ話で、使い方次第だと思っておけばいい。

自分が最近感じているのは、AIに何かを任せるときは「答えを出してもらう」より「たたき台を作ってもらう」という使い方が一番しっくりくるということ。
完成品として受け取るんじゃなく、自分が判断するための材料として使う。
そのくらいの距離感でいると、ちょうど使いやすい。

AIが感情を持っているように見えるのは、設計の工夫でそう見えているだけだ。
それがわかると、うまく付き合えるようになる気がする。