107社の調査で判明した実態がある。企業がAIインフラへの支出を加速させる速度は、そのコストを把握・管理する能力を上回っている。調達が先行し、可視化が追いつかないこの状況は、単なる予算管理の問題ではなく、ITガバナンス全体のリスクとして機能し始めている。
「トークン単価」より「統合コスト」が意思決定を動かす
AIサービスの価格は「トークン単価（APIを通じてモデルに送受信するテキスト量ごとの課金単価）」で語られることが多い。しかし今回の調査では、購買担当者が重視するのはその表面的な単価ではなく、TCO（Total Cost of Ownership：システム導入から廃棄までの総保有コスト）と既存システムへの統合難易度であることが示されている。
これは直感に反するように見えて、実は合理的な判断だ。たとえば、あるクラウドプロバイダーのAPIが安価でも、社内認証基盤やデータパイプラインとの接続に数ヶ月の開発工数が必要であれば、実質コストは跳ね上がる。調達時点で見えている価格は、氷山の一角に過ぎない。
ハイパースケーラー依存とプロバイダー乗り換えの現実
ほとんどの企業は現在、ハイパースケーラー（AWS・Azure・Google Cloudのような超大規模クラウド事業者）か、OpenAIやAnthropicのようなモデルプロバイダーのAPIを軸にAI基盤を構成している。これは日本市場でも同様の傾向が見られ、多くの企業が既存のクラウド契約の延長線上でAIサービスを追加している。
問題は、次の投資先だ。調査対象企業の多数派は、現時点でほぼ使用していない「特化型コンピュート（特定のAIワークロードに最適化された専用ハードウェアやインフラ）」に次の予算を向けようとしている。さらに、相当数の企業が1年以内にプロバイダーの切り替えや追加を計画しており、なかには四半期以内という短期での移行を見込む企業もある。
この流動性の高さは、ベンダー管理の観点で大きな課題を生む。プロバイダーを切り替えるたびに、データのポータビリティ（別環境への移行可能性）・API仕様の差異・セキュリティ要件の再評価・ライセンス条件の精査が必要になる。短期間でこれらを繰り返す体制が整っていなければ、移行コストが調達メリットを相殺しかねない。
コスト可視化が整備される前に投資が走り出す構造的問題
この調査が指摘する本質的な問題は、FinOps（クラウドコストを継続的に可視化・最適化する管理手法）の未整備だ。多くの組織はクラウドコンピュートの費用配賦（どのチーム・プロジェクトが何にいくら使ったかを紐付けること）すら完全には実現できていない段階で、AIワークロードの支出をさらに積み上げている。
AIインフラのコスト構造は通常のクラウド利用より複雑だ。推論（学習済みモデルを使って予測や回答を生成するフェーズ）と学習（モデルをデータから訓練するフェーズ）では計算量の桁が異なり、利用頻度の変動も大きい。加えて、埋め込み生成（テキストをベクトル数値に変換する処理）やベクトルデータベース（類似検索に特化したデータストア）など、従来のシステム監視では捕捉しにくいコンポーネントが増えている。
意思決定者が持ち帰るべき論点を整理すると、以下になる。
- 調達前にTCO試算の枠組みを設ける（統合工数・移行コスト・運用監視コストを含める）
- プロバイダー契約にポータビリティ条件と出口戦略を明記する
- AIワークロード専用のコストタグ設計（費用をプロジェクト・チーム単位で追跡できる仕組み）をインフラ構築と同時に行う
- 「使っていない特化型コンピュート」への移行計画は、運用監視体制の整備完了を前提条件にする
プロバイダーの多様化と移行の高速化は、選択肢の広がりという恩恵をもたらす一方で、ガバナンス上の複雑性を急増させる。投資判断と測定能力のギャップを放置すると、ROIの評価自体が不可能になり、次の調達判断の精度も落ちる。コスト可視化の整備は、AI投資の成否を左右するインフラそのものだ。