Xのタイムラインを眺めてたら、めちゃくちゃ気になる論文が流れてきた。
「OncoAgent」っていうがん診療向けのAIシステムで、海外のAI界隈でじわじわ話題になってる。
医療×AIの話って正直むずかしそうで流し見しがちだけど、今回は違った。
普通、医療AIって患者データをクラウドに送って処理するイメージじゃないですか。
でもOncoAgentは「病院のサーバーだけで完結する」設計になってる。
患者の個人情報を外部のAPIに投げなくていい。
これ、日本の医療現場で導入するときの一番の壁を突破してる話だと思った。
論文を読んでいちばん驚いたのが、学習速度の数字。
通常の方法の56倍のスループットを出して、26万6854件の医療データを約50分でファインチューニングしたらしい。
しかもAMDのMI300XというGPUを使ってのこと。
NVIDIA一強みたいなイメージがあるGPU市場で、AMD側でこんな結果が出てるのは正直知らなかった。
難しい技術の話は得意じゃないけど、自分なりに理解した部分だけ共有する。
OncoAgentは質問の複雑さによってAIのモデルを使い分ける設計になってる。
軽い質問は9Bパラメータの速いモデル、複雑な質問は27Bの深く考えるモデル。
この「使い分け」がめちゃくちゃ合理的だと思った。
さらにNCCNやESMOという医師向けのがん診療ガイドライン70本以上を知識ベースに入れて、回答の根拠にしてる。
ただAIが答えを出すんじゃなくて、ちゃんとした文献に紐づいた回答しか出せない仕組みになってる。
ハルシネーション(AIの嘘)対策として、これはかなり本気の設計だと思う。
日本でもたまに「AIが間違った情報を医療に使って…」みたいな話が出るけど、こういう設計があれば変わってくるはず。
自分はそこにいちばんグッときた。
ぶっちゃけ、このシステムは自分がすぐ触れるものじゃない。
病院向けのシステムだし、フリーランスの自分には直接関係ない話だ。
でも、「クラウドに頼らないAI」という方向性は他の分野にも絶対広がると思ってる。
法律事務所とか、会計事務所とか、機密情報を扱う現場でこの発想が応用されたら?
もう少し先の話になるかもしれないけど、「AIツールはクラウド前提」という常識が崩れる予感がしてる。
そのトリガーになりそうな事例として、今回のOncoAgentは記憶しておく価値があると感じた。
あなたが日常的に使ってるAIツール、そのデータどこに行ってるか気にしてる?
そこ、意外と次のトレンドの入り口になりそうな気がしてる。
「OncoAgent」っていうがん診療向けのAIシステムで、海外のAI界隈でじわじわ話題になってる。
医療×AIの話って正直むずかしそうで流し見しがちだけど、今回は違った。
データを外に出さないAIって何がすごいの?
普通、医療AIって患者データをクラウドに送って処理するイメージじゃないですか。
でもOncoAgentは「病院のサーバーだけで完結する」設計になってる。
患者の個人情報を外部のAPIに投げなくていい。
これ、日本の医療現場で導入するときの一番の壁を突破してる話だと思った。
論文を読んでいちばん驚いたのが、学習速度の数字。
通常の方法の56倍のスループットを出して、26万6854件の医療データを約50分でファインチューニングしたらしい。
しかもAMDのMI300XというGPUを使ってのこと。
NVIDIA一強みたいなイメージがあるGPU市場で、AMD側でこんな結果が出てるのは正直知らなかった。
仕組みを超ざっくり言うと
難しい技術の話は得意じゃないけど、自分なりに理解した部分だけ共有する。
OncoAgentは質問の複雑さによってAIのモデルを使い分ける設計になってる。
軽い質問は9Bパラメータの速いモデル、複雑な質問は27Bの深く考えるモデル。
この「使い分け」がめちゃくちゃ合理的だと思った。
さらにNCCNやESMOという医師向けのがん診療ガイドライン70本以上を知識ベースに入れて、回答の根拠にしてる。
ただAIが答えを出すんじゃなくて、ちゃんとした文献に紐づいた回答しか出せない仕組みになってる。
ハルシネーション(AIの嘘)対策として、これはかなり本気の設計だと思う。
日本でもたまに「AIが間違った情報を医療に使って…」みたいな話が出るけど、こういう設計があれば変わってくるはず。
自分はそこにいちばんグッときた。
「AIツールを毎日試す人間」として感じたこと
ぶっちゃけ、このシステムは自分がすぐ触れるものじゃない。
病院向けのシステムだし、フリーランスの自分には直接関係ない話だ。
でも、「クラウドに頼らないAI」という方向性は他の分野にも絶対広がると思ってる。
法律事務所とか、会計事務所とか、機密情報を扱う現場でこの発想が応用されたら?
もう少し先の話になるかもしれないけど、「AIツールはクラウド前提」という常識が崩れる予感がしてる。
そのトリガーになりそうな事例として、今回のOncoAgentは記憶しておく価値があると感じた。
あなたが日常的に使ってるAIツール、そのデータどこに行ってるか気にしてる?
そこ、意外と次のトレンドの入り口になりそうな気がしてる。