AIの内部設計が漏れた話から考える、顧問先への向き合い方

先日、AI開発大手のAnthropicが、自社のAI「Claude」に関する内部設計の一部を誤って公開してしまうという出来事がありました。
Claudeがどのように動いているか、その仕組みの一端が外部に見えてしまった形です。

これを聞いて最初に思ったのは、「AIって結局、人間が設計しているんだな」ということでした。
当たり前のことなのですが、改めて実感しました。

「AIに仕事を奪われる」という話の実態

税理士や会計士の仕事がAIに置き換わるという話は、ここ数年ずっと出ています。
でも今回の件のように、最先端のAIでさえ人間が丁寧に設計・管理しないと動かない。
そのことを考えると、「奪われる」という言い方は少し違うかもしれない、と感じています。

変わるのは仕事の中身であって、仕事そのものがなくなるわけではない。
たとえば記帳や仕訳の確認作業は、AIが相当カバーできるようになってきました。
でもだからこそ、私たちが向き合う場所が「数字の確認」から「数字の解釈と提案」にシフトしていく。
そういう変化だと捉えた方が、現実に近いと思っています。

顧問先にとって、今何が一番役に立つか

最近、顧問先の経営者と話していると、AI活用について聞かれることが増えました。
「うちでも使えますか？」「何から始めればいいですか？」という感じで。

その質問に答えるために、自分でもいろいろ試してきました。
freeeやマネーフォワードとの連携はもちろん、文書作成や顧客対応のサポートツールも触ってみました。

わかったのは、「何でもできる」という期待を持ちすぎると失敗しやすいということです。
今のAIは、指示が曖昧だと的外れな答えを返してくる。
Anthropicの設計が外に出てしまった今回の件も、AIが自律的に動いたのではなく、人間側のミスが原因でした。
AIはあくまでも道具で、使う側の判断が常に問われます。

顧問先へのアドバイスとしては、まず「繰り返し発生している単純作業」を一つ選んで試してみることをすすめています。
いきなり全部を変えようとしない。小さく始めて、効果を確認してから広げていく。
その方が現場に無理がないし、失敗したときのダメージも少ない。

設計が見えたことで、信頼の話になる

今回のAnthropicの件に戻ると、内部設計が漏れたことで「AIって意外と人間くさいな」と感じた人も多かったようです。
複雑な構造というよりも、目的や制約を人間が言葉で書き込んで動かしている。
そういう仕組みだということが伝わったのは、ある意味正直でよかったかもしれません。

AIツールを顧問先にすすめるとき、「これは万能ではないし、使い方次第で結果が変わる」とちゃんと伝えることが大切だと思っています。
そこを誠実に話せる立場にあることが、税理士として信頼を保つ一つの方法だと感じています。

実際に顧問先でAI活用を進めるなら、まず自分が使い込んでおくことが先決です。
freeeやマネーフォワードのAI機能の最新アップデートを定期的に確認する、ChatGPTやClaudeで実際に業務文書を作ってみる、といった積み重ねが、具体的なアドバイスにつながります。
自分が体験していないことは、なかなか自信を持ってすすめられないので。