Simon Willisonのブログを読んでいて、少し複雑な気持ちになった。
AnthropicがxAI/SpaceXの「Colossusデータセンター」の全容量を借りる契約を結んだという話だ。
Colossusに設置されたガスタービンが、Clean Air Act(米国の大気浄化法)の許可なしに稼働していたらしい。
「一時的な設備」として分類することで規制をすり抜けていたという話で、近隣住民の病院入院件数の増加と関連があると報告されている。
Andy Masleyというデータセンター関連の情報を発信している人が「自分なら絶対にここで計算させない」とXに書いていた。
自分もそれ読んで、正直「うーん」となった。
コンピュートが足りなくてどこかのキャパシティを借りたいのはわかる。
でも選ぶ場所によってこういうリスクがついてくるんだと、改めて実感した。
エンジニア目線で気になったのは別の部分だ。
ElonがXに投稿した内容に「AIが人類に害を与えると判断した場合、コンピュートを取り戻す権利を留保する」と書いていた。
その判断基準を決めるのは誰かというと、実質的にElon本人だと思う。
自分がAnthropicのAPIを使ってサービスを作っているとして、インフラのさらに下の層にこういう条件が存在している。
それは普通に怖い。
APIの利用規約は読んでいても、そのAPIを動かすデータセンターのオーナーの気分で止まるリスクまでは考えていなかった。
しかも今回、xAIはGrok 4.1 Fastなど複数のモデルを2週間以下の告知で廃止した。
11月にリリースされたモデルが2週間で消える。
移行先の安いモデルも提示なし。
Colossus 1のキャパシティをAnthropicに売った結果、自社モデルを切り捨てた可能性が高いとみられている。
自分はLLMのAPIを選ぶとき、主にコストとレイテンシで判断していた。
でも今回の件で「そのAPIが乗っているインフラの所有関係」も気にする必要があると思い始めた。
たとえばAnthropicのAPIを本番で使っているなら、最低限こういう観点を持っておきたい。
自分のプロジェクトでは今、Claude APIを直接叩くコードが何箇所かある。
モデル名をハードコードしているところがあるので、まずそこを定数に切り出して差し替えやすくしておこうと思っている。
Grok 4.1 Fastを使っていたSpeechMapのエンジニアの気持ちを想像すると、他人事ではない。
AnthropicがxAI/SpaceXの「Colossusデータセンター」の全容量を借りる契約を結んだという話だ。
このデータセンター、環境問題がかなりヤバい
Colossusに設置されたガスタービンが、Clean Air Act(米国の大気浄化法)の許可なしに稼働していたらしい。
「一時的な設備」として分類することで規制をすり抜けていたという話で、近隣住民の病院入院件数の増加と関連があると報告されている。
Andy Masleyというデータセンター関連の情報を発信している人が「自分なら絶対にここで計算させない」とXに書いていた。
自分もそれ読んで、正直「うーん」となった。
コンピュートが足りなくてどこかのキャパシティを借りたいのはわかる。
でも選ぶ場所によってこういうリスクがついてくるんだと、改めて実感した。
サプライチェーンリスクとしてのAPIの話
エンジニア目線で気になったのは別の部分だ。
ElonがXに投稿した内容に「AIが人類に害を与えると判断した場合、コンピュートを取り戻す権利を留保する」と書いていた。
その判断基準を決めるのは誰かというと、実質的にElon本人だと思う。
自分がAnthropicのAPIを使ってサービスを作っているとして、インフラのさらに下の層にこういう条件が存在している。
それは普通に怖い。
APIの利用規約は読んでいても、そのAPIを動かすデータセンターのオーナーの気分で止まるリスクまでは考えていなかった。
しかも今回、xAIはGrok 4.1 Fastなど複数のモデルを2週間以下の告知で廃止した。
11月にリリースされたモデルが2週間で消える。
移行先の安いモデルも提示なし。
Colossus 1のキャパシティをAnthropicに売った結果、自社モデルを切り捨てた可能性が高いとみられている。
自分はLLMのAPIを選ぶとき、主にコストとレイテンシで判断していた。
でも今回の件で「そのAPIが乗っているインフラの所有関係」も気にする必要があると思い始めた。
たとえばAnthropicのAPIを本番で使っているなら、最低限こういう観点を持っておきたい。
- APIの上位にあるインフラプロバイダーが誰か
- 突然の廃止・移行の際に自分のコードがどう壊れるか
- 代替APIへの切り替えコストはどれくらいか
自分のプロジェクトでは今、Claude APIを直接叩くコードが何箇所かある。
モデル名をハードコードしているところがあるので、まずそこを定数に切り出して差し替えやすくしておこうと思っている。
Grok 4.1 Fastを使っていたSpeechMapのエンジニアの気持ちを想像すると、他人事ではない。