NVIDIAがなくてもAIは動く。競合が気づき始めた話

木村 俊介
木村 俊介 30代・ スタートアップ創業者
先日、競合のCTOと久しぶりに飲んだ。そこで出てきた話が少し気になっている。「うちはもうNVIDIAにこだわってない」という一言だ。

最近こんな記事を読んだ。AMD製のGPU(MI300X)だけを使って、医療系AIをゼロから学習させたというプロジェクトの話だ。しかもHugging FaceのブログにPublishされた、わりと本気度の高い内容だった。

「NVIDIA前提」が崩れていく



正直、AIインフラの話は「エンジニアに任せればいい」と思っていた。でも読んでみると、これは調達コストの話だと気づいた。学習に使ったGPUはAMD Instinct MI300Xという機種で、HBMメモリが192GBある。これがポイントだ。

NVIDIAの同等スペック帯のGPUは今、入手難・価格高騰が続いている。一方でAMDは選択肢として浮上してきている。このプロジェクトでは、環境変数を3行変えるだけでNVIDIAと同じコードがそのまま動いたと書いてある。コードの改修ゼロだ。

そして学習時間は約5分。2000件のデータで医療系の質問回答モデルをファインチューニングして5分。スタートアップが「とりあえず試す」には十分すぎる速さだ。

自分のビジネスに引き寄せて考えてみた



うちは医療系じゃない。でもこの話を読んで考えたのは、AIの調達コスト構造が変わってきているということだ。

投資家にAI活用の話をするとき、「うちはOpenAIのAPIを使っています」だと差別化にならない。一方で「独自モデルをチューニングしています」と言うと、「コストは?」「どのインフラで?」という話になる。

そこで「NVIDIAじゃなくていい環境を選んでいる」という選択肢があると、調達の柔軟性として語れる。GPUクラウドのコスト比較でAMDが入ってくると、交渉レバレッジが変わる。これは地味だけど効く話だと思う。

セールスやカスタマーサクセスの文脈でも同じだ。「AIで何かやりたい」という顧客候補に対して、「インフラの選択肢が広がっている」という話は、導入ハードルを下げる材料になる。NVIDIAが高い・手に入らないという理由でAI導入を止めていた企業には刺さる。

「NVIDIA一択」は思い込みかもしれない



LLMのファインチューニングに使われたのはQwen3-1.7Bというモデルで、パラメータ数は17億。決して巨大モデルではない。それでも医療系MCQで意味のある精度が出たと書いてある。

スタートアップがAIを使うとき、GPT-4を叩き続けることが正解とは限らない。小さいモデルを自社データでチューニングして、AMD製GPUで動かす。コストと速度のバランスを自分たちでコントロールできる環境が、実は競争力になり得る。

飲みの席でのCTOの一言は、たぶんこういうことだったんだと思う。自分も来週、うちのエンジニアにこの記事を共有してみるつもりだ。NVIDIA以外の選択肢を今のうちに把握しておくことは、コスト最適化の布石になると思っている。

無料相談受付中

AI開発・DX推進についてお気軽にご相談ください。オンライン30分から。

無料相談を申し込む