マーガレット・アトウッドという名前は、私でも知っています。『侍女の物語』の作者ですね。その彼女がポルトガルで開催された文学フェスティバルで、AIについてはっきり言い切った記事を読みました。「garbage in, garbage out」、つまり入力がゴミなら出力もゴミだ、と。
アトウッドはAnthropicのClaudeをちょうど一度だけ使ったそうです。英国のドラマ『ファーザー・ブラウン』の情報を調べたところ、Claudeは誤った回答を返してきた。彼女の分析によれば、オンラインのテレビ評は結末を書かない慣習があるため、その「書かれていない情報」をモデルが誤読したのだろう、と。なるほど、これは鋭い指摘だと感じました。
この記事を読みながら、ふと自分の部署のことを考えていました。
社内データの品質問題は、実は一番の盲点だった
私が率いる営業DX推進部では、今年度から社内の商談データをAIに食わせて提案書の下書きを自動生成する実証実験を進めています。25名の部下のうち、先行して7名に使わせています。最初の2ヶ月の感触として、「生成物の質がバラバラ」という報告が上がってきました。
原因を掘り下げると、商談メモの入力品質がそのまま出力に反映されていたのです。きちんと構造化して入力している担当者の生成物は及第点でしたが、箇条書きも曖昧で顧客名すら略称で入れていた担当者の場合、出てきた提案書はほぼ使えない内容でした。まさに「garbage in, garbage out」です。アトウッドの言葉が、妙にリアルに刺さりました。
経営陣への投資対効果の説明が難しくなってきた
この実証実験には年間で約800万円の予算を組んでいます。稟議を通す段階では「提案書作成工数を月あたり平均40時間削減できる試算」という数字を出しました。ところが実際には、出力チェックと修正作業が発生するため、正味の削減時間はまだ15〜20時間程度にとどまっています。
来月の経営報告でどう説明するか、正直なところ悩んでいます。「AIが間違えるから人間がチェックしている」という構造を正直に伝えると、投資対効果への疑問が出てくるのは目に見えています。しかし隠すわけにもいきません。
アトウッドの言葉を借りれば、「ビジネスでAIを使う人たちも、ミスをするから確認しなければならない」という話になります。これはそのまま稟議の補足資料に引用できるかもしれない、とも思いました。著名な作家がそう言っているなら、経営陣も「AIは万能ではない」という前提を飲み込みやすくなるはずです。
では、どこで価値を出すのか
私なりに整理すると、問題は次の3点です。
- AIに食わせる社内データの入力ルールを標準化できていない
- 出力チェックの工数を最初から計画に組み込んでいなかった
- 「自動化=省力化」という単純な期待値を経営陣と共有してしまった
ツールの問題というより、運用設計の問題です。ベンダーから提案を受けた段階で、データ品質の話をもっと詰めるべきでした。「AIを導入すれば生産性が上がる」という文脈でベンダーが作ってくるデモは、整ったサンプルデータを使っています。実際の社内データは、そんなにきれいではありません。
息子が先日「AIって万能じゃないの?」と聞いてきたので、「カンニングペーパーと同じで、書いてあることが間違ってたら答えも間違う」と答えました。案外これが一番シンプルな説明かもしれません。
次の経営報告では、投資対効果を取り繕うのではなく、データ標準化への追加投資を正面から提案しようと考えています。AIの精度を上げたいなら、まず入力側を整えなければならない。それが今回の実証で学んだことです。