WalmartのAI利用制限　生成AIコストはなぜ跳ねたか

無料で使える社内AIが急に締め付けられた背景

あなたの会社でも、先進導入を急いだ生成AIが、数か月後には「使いすぎ注意」に変わった経験はないだろうか。Walmartで起きたのは、その典型例です。社内AIアシスタント「Code Puppy」は、表計算の分析や資料作成などを助ける補助ツールとして従業員に開放されましたが、背後で動くLLM（大規模言語モデル）の需要が想定を大きく上回りました。そこで同社は、無制限に近い使い方をやめ、従業員ごとに固定数のAIトークンを割り当てる運用へ切り替えました。

このニュースが重要なのは、AI活用の失速ではなく、会計上の制約が前面に出た点にあります。Walmartは従業員数がおよそ210万人で、数字は単なる規模の自慢ではありません。この人数に対して1人あたりの利用がわずかでも積み上がると、総コストは一気に膨らみます。つまり、生成AIは「全員に配れば生産性が上がる」だけでは回らず、財務に耐える設計が必要だと示したわけです。読者の現場でも、無料トライアルの延長のような感覚で使っているAIは、同じ壁にぶつかります。

トークン制とモデル選択が示したLLM運用の現実

今回のWalmartの判断で焦点になったのは、AIの使い方そのものではなく、どのモデルを、どの仕事に使うかという区別です。AIトークンは、モデルが文章を処理するときの計算単位で、入力と出力の量に応じて課金や消費が発生します。従来は月額固定のサブスク型が多く、ユーザーは「とりあえず試す」ことに抵抗がありませんでした。しかし現在は、AnthropicやOpenAIの上位企業向けプランがトークン課金へ寄り、MicrosoftもGitHub Copilotを6月1日から課金化しました。料金体系の変化は、AIを便利な福利厚生から、原価が見える業務資産へ変えています。

Walmartは、Code Puppyの利用を通じてスプレッドシート分析やプレゼン作成をさせていましたが、こうした定型作業に高性能なフロンティアモデルを使えば、費用対効果はすぐ崩れます。しかも、推論を何度も繰り返す「思考型モデル」は、そのぶん多くのトークンを消費します。数字の意味は明確です。高度な賢さを買うほど、1回の問い合わせ単価が上がるということです。さらに複数のAIエージェントを連携させるマルチエージェント型の処理では、結果が不完全なまま再指示を重ねるたびに請求が積み上がります。これは「使えば使うほど改善する」理想論ではなく、「使えば使うほど監査しなければならない」実務へ入った証拠です。

私が引っかかったのは、ここで生産性の測り方まで歪みやすい点です。従業員がAI利用回数やトークン消費を競うと、KPIのための“token maxxing”が起きます。Sequoia Capitalのパートナーが「We all should be tokenmaxxing」と述べた流れもあり、社内ランキングまで作る企業が出ました。しかし、回数が多いことと成果が大きいことは同義ではありません。Walmartがモデル選択を慎重にするよう促したのは、派手な利用実績より、請求額と成果の釣り合いを見直すためです。ここには、AI導入が現場の熱量だけでは終わらないという、かなり冷たい現実があります。

日本企業が直ちに見直すべきAI運用の設計

日本の企業でも、全社向けに生成AIを展開した直後に、利用ルールを細かく定め直す場面はすでに出ています。Walmartの事例は、その動きが例外ではないと教えています。読者が情シス、開発、事業企画、いずれの立場でも、まず確認すべきは「どの業務に、どのモデルを、どの上限で使うか」です。たとえば、議事録要約や表の整形なら軽量モデルで十分ですが、複雑なコード生成や深い推論が必要な業務は別枠に分けるべきです。ここを混ぜると、価値の低い処理が高額モデルを消耗し、利用者も管理者も損をします。

また、ROI（投資対効果）は「○人が使った」では測れません。Walmartが示したのは、利用者数ではなく、1件あたりの処理の重さと結果の価値を管理する視点です。210万人という極端な母数を持つ企業だからこそ見えた歪みですが、日本企業でも従業員数が数千人規模なら十分に起こります。特に、部門ごとの野良導入が進むと、同じ用途に複数ベンダーのAIが重なり、請求の全体像が見えなくなります。明日から考えるべきなのは、AI導入を「広げるかどうか」ではなく、「何を高価モデルに任せ、何を低コストに逃がすか」という分離設計です。

AI利用制限が標準運用になる転換点

今後は、企業がAIを制限すること自体が後ろ向きとは見なされません。むしろ、無制限利用を放置する企業のほうが、財務管理の甘さを疑われます。これはWalmartに限らず、UberのようにAI予算を年初から使い切る企業が出ている流れともつながります。私は、これからの争点は「どれだけAIを入れたか」ではなく、「どこで止めるか」に移ると見ています。AIエージェントの自動化が進むほど、請求の見張り役は必須になります。生成AIは便利さの競争から、採算を守る競争へ完全に移りました。