先日、LlamaIndexというPythonライブラリのv0.14.23リリースノートを眺めていました。ソフトウェア開発者向けの技術文書で、正直ほとんどは読み解けません。ただ「Multimodal synthesis part 2」という項目と、「ZeroDivisionError on empty input sequences」のバグ修正という記述が目に留まりました。
マルチモーダル、つまり文字だけでなく動画や画像も含めて情報を統合できるようにする機能拡張です。そして入力が空だったときにゼロ除算エラーが起きていたバグを直した、という修正。後者を読んだとき、少し背筋が伸びました。
「入力が空のとき」に何が起きるか
医療の現場では、入力が空であること自体が重大なサインになることがあります。問診票に何も書かれていない。既往歴欄が真っ白。バイタルの記録が抜けている。こういった「空白」は、それ自体が情報です。AIがエラーを返すのではなく、空白を適切に処理する設計が求められます。
うちのクリニックでは、電子カルテはSS-MIX対応のものを使っています。スタッフ12名で1日80人前後の患者さんを診ているので、事務処理の負担は慢性的にあります。妻も看護師長として毎日走り回っていて、「問診入力だけで1時間潰れる日がある」と言っています。AIで問診を補助できれば、という話は以前から出ていました。
ただ私が慎重になるのは、医療AIの安全性と責任問題です。AIが問診情報を要約・補完したとき、何かが欠落していたり誤って解釈されたりした場合、誰が責任を取るのか。医学論文を読んでいても、AIの診断支援に関するエビデンスはまだ層が薄い分野が多い。消化器領域の内視鏡画像診断などでは精度の高い報告も出ていますが、一般的な問診補助となると話は別です。
ツールの「継ぎ目」が患者の安全を左右する
LlamaIndexのリリースノートを見ていて気になったのは、更新されるモジュールの数の多さです。今回のv0.14.23では、依存関係の更新が30以上のディレクトリにまたがっていました。ソフトウェアは複数の部品が組み合わさって動いていて、その継ぎ目の管理がこれほど大変なのかと実感します。
医療情報システムも同じです。電子カルテ・予約システム・レセプトソフト・問診タブレット、それぞれが別のベンダーで動いていて、データ連携の仕様が微妙にずれていることがある。そこにAIを噛ませようとすると、継ぎ目がさらに増えます。継ぎ目が増えるほど、何かが落ちるリスクも増える。
先月、予約システムとカルテの連携で患者さんの来院情報が飛んだことがありました。大事には至りませんでしたが、スタッフが手作業で気づいて補正していなければ、問診が抜けたまま診察に入っていた可能性があります。あの件を振り返ると、ツールを増やすことへの慎重さは現場で自然と身についてきます。
慎重さと改善の間でどう動くか
それでも、現状のままでいいとも思っていません。1日80人を12名で回すのは、決して余裕のある体制ではないです。妻が「診察後の記録入力で夜9時になる日がある」と言うのを聞くたびに、何か手を打てないかと考えます。
AIに任せるとしたら、どこからが適切か。私なりの整理はこうです。
- 患者の安全に直結しない事務処理 (レセプトの入力補助、予約のリマインドなど) はAIに任せやすい
- 問診情報の一次整理や転記補助は、医師または看護師が必ずレビューする前提なら検討できる
- 診断・処方への直接的な介入は、エビデンスが十分に積み上がるまで私には判断できない
LlamaIndexのようなフレームワークが着々と機能を拡張しているのを見ると、技術側の進化は速いと感じます。ただ私が読みたいのは、そのツールを使って医療現場の何が具体的に変わったかを示す臨床的なエビデンスです。論文データベースで消化器AIに関する最新のレビューを探しながら、もう少し情報を集めるつもりでいます。