AIが出す「それらしい答え」を顧問先に使わせていいのか

先日、Web担当者Forumに掲載されていたAIに関するQ&A記事を読んで、少し考え込んでしまいました。

マーケティングやSEOの文脈で書かれた記事だったのですが、内容の一部が、私の仕事とも無縁ではないと感じたんです。記事の中で専門家のジェイミー・インディゴ氏が語っていたのは、LLMは「正しく情報を構築できなくてもハルシネーションで出力を作り、ギャップを確率的な推測で埋めてしまう」という点でした。そして2024年には公開されたコンテンツが急増し、2010年から2018年の間に増えたコンテンツの総量にほぼ等しかった、という話も出ていました。

社労士の仕事でAIを使う場面は、確実に増えています。顧問先からの相談対応、助成金申請のたたき台作成、就業規則の改定案の骨子づくり。私自身も補助的に使い始めています。ただ、この記事を読んで改めて思ったのは、「それらしく見える答え」と「正しい答え」は別物だ、ということです。

「それっぽい就業規則」が一番怖い

顧問先の一つに、製造業の会社があります。従業員は40名ほど。昨年から残業削減に取り組んでいて、就業規則の見直しも一緒に進めていました。ある日、その会社の総務担当の方から「ChatGPTで就業規則のひな形を作ってみたんですが、これ使えますか?」と聞かれました。

見てみると、体裁は整っていました。条文の形になっていて、読み物としておかしくない。でも、労働基準法第89条が定める絶対的必要記載事項の一部が抜けていたり、時間外労働の上限規制（月45時間・年360時間）に関する記述が古いルールのままになっていたりしていました。2019年の働き方改革関連法の施行以降、この上限規制は中小企業にも完全適用されているのに、です。

「使えないことはないですが、このまま届け出ると労働基準監督署から指摘を受けますよ」とお伝えしました。担当の方は「文章がしっかりしていたので信用してしまいました」とおっしゃっていました。まさに、記事が言う「見せかけの信頼性」です。

助成金情報のハルシネーションはリスクが高い

もう一つ、気になっているのが助成金の情報です。顧問先から「この助成金、AIに聞いたら対象になるって言ってたんですが」と相談が来ることが増えました。

キャリアアップ助成金や両立支援等助成金は、毎年のように支給要件や支給額が改定されます。令和6年度と令和7年度でも、コースの統廃合や支給上限の変更が複数あります。AIが学習したデータが古ければ、去年の要件を自信満々に答えるわけです。

私自身も実験的にいくつか試してみましたが、廃止されたコースを「現在使えます」と答えるケースがありました。これを顧問先がそのまま信じて動いてしまったら、申請できなかっただけならまだしも、計画を立てて採用まで進めていたら、かなりの痛手になります。

飲食店を経営している顧問先では、パート従業員のシフト管理や雇用契約の更新時期に合わせて助成金を活用してもらっています。余裕のない規模感で、1件の助成金が経営に与えるインパクトは小さくありません。誤情報に基づいて動いてもらっては困るんです。

AIを「補助」として使うための整理

記事を読んで改めて思ったのは、AIをどう使うかのルールを自分なりに持っておく必要がある、ということです。今のところ、私が顧問先にも伝えているのは以下の点です。

• 就業規則や雇用契約書のひな形作成にAIを使うのは構わないが、必ず社労士に確認してから届け出ること
• 助成金の対象要件や支給額はAIではなく、厚生労働省や都道府県の公式サイトで直接確認すること
• AIが出した答えは「たたき台」であり、「答え」ではないと認識すること

当たり前のことのように見えますが、「文章がしっかりしているから信用した」という反応は、担当者に限らず起きやすいことです。特に忙しい現場では、「それっぽい」ものをそのまま使いたくなる気持ちは理解できます。だからこそ、あらかじめ言葉にしておく必要があると感じています。

AIは確かに便利です。書類のたたき台を作るスピードは、自分が手で書くより格段に速い。ただ、労働基準法や助成金の要件には「それっぽさ」では通用しない厳密さがある。そこを間違えたときのコストは、効率化で得たものより大きくなることもあります。

顧問先がAIを使う場面がこれからも増えるなら、私の役割はそのチェックポイントに立ち続けることだと、今回の記事を読んで確認できました。次の顧問先との定例ミーティングで、この話を一度丁寧にしてみるつもりです。