AIトークンコスト暴力、企業が「無制限の使用」を止めた理由

팀

팀제이커브

Jul 8, 202619d ago

カテゴリー

中国

AIトークンコスト暴力、企業が「無制限の使用」を止めた理由

AI導入初期には「たくさん書くチームが先に行く」という雰囲気が強かった。従業員にAIの使用を奨励し、トークン使用量を順位のように見る会社も出てきました。ところで、いざ請求書が届くと質問が変わり始めました。 AIをどれだけ書いたかより、その使用が実際の成果につながったのかがより重要になったのです。今、企業は「無制限の使用」よりもAI使用量を管理するオペレーティングシステムを考え始めました。

1. AIをたくさん使う会社が先に先に行くと思いました

AI導入の初期に、多くの企業が最初に見た指標は使用量でした。誰がもっと書くのか、どのチームがより頻繁に呼び出すのか、トークンをどれだけ燃やすのかがすぐに「AIを上手く書くほど」のように見えました。そのため、内部的にAIの使用を促し、使用量を順位付けしたり、評価とつなげようとする雰囲気もできました。一種のToken-maxxingの流れでした。

できる限り書いてみて、たくさん実験し、たくさん自動化すれば、会社の生産性も自然に上がるという期待でした。ところでここで問題が発生します。使用量は目に見えますが、成果はすぐには見えませんでした。 AIをたくさん呼んだチームが本当に仕事を上手にしたのか、コストに比べてどれくらい時間を減らしたのかは別に見なければなりませんでした。そしてその隙間があらわれた瞬間、企業は「たくさん書こう」から「ちゃんと書いているか」に質問を変え始めました。

2. 問題はトークン費用ではなく「成果のない使用量」です

請求書は思ったより早く来ました。記事によると、Uberは4ヶ月で2026年のAI予算をすべて使い果たし、Metaの従業員は30日間に60.2兆個のAIトークンを使用して1億ドル以上の費用を発生させました。中国でもあるゲームAIチームの職員が数十個のAgentを同時に回したが、一晩に200万元のトークンを書いた事例が出てきました。

ところで、本当の問題は「高価」ではありません。たくさん書いたのですが、それだけ仕事が減ったのかが不明だった点です。 AIがコードを作成しましたが、後で人が再び理解しなければならず、複数のAgentが結果を注ぎ出しましたが、最終判断と整理は結局人に戻ってくる場面も生じました。結局のところ、トークンコストは単なるITコストではなく、 AIの使用が生産性につながっていることを確認させる指標となったわけです。

3. 企業は今、AI使用量を制御し始めました

それで企業の動きも変わっています。最初は全従業員にAI使用量を十分に開いておき、「いったん書いてみよう」に近かったら、今は業務別に必要な分だけ配分する方法で進んでいます。記事によると、Tencentは全従業員に一括してトークンを支払った方法から、仕事の種類と実際のニーズに応じて動的に配分する方法に切り替えました。

中小企業も同様です。一部の会社はClaude Codeの無制限の使用を中止し、月単位のAPI制限をかけ、一部の会社は従業員1人当たり月500ドルの制限を設け始めました。一見するとコスト削減のように見えますが、本質は少し異なります。今、企業が尋ねるのは「どんなモデルが安いのか」ではなく、このAIの使用がどのような業務成果を作っているのかということです。結局、無制限の使用より重要なのは、AIをどこに使うのかを決め、その結果を追跡する運営基準です。

4. AI Native 組織の次の指標は「いくら書いたか」ではありません

今、AI Native 組織が見なければならない指標は単なる使用量ではありません。トークンをどれだけ使ったかより、その使用が業務時間をどれだけ減らしたのか、意思決定速度をどれだけ高めたか、繰り返し業務をどれだけ自動化したかを見なければなりません。 AIを多く呼び出すチームではなく、AIを通じて実際のボトルネックを減らすチームが先に進むことになるのです。

この記事では、Baidu Reyenhongが話したDAY（Daily Active Agents）の概念も紹介します。モバイル時代にDAUが重要であれば、AI時代には実際に動作するAgentがどれほどあるのかを見なければならないという観点です。ただし、ここでもコアは数字自体ではありません。重要なことは、毎日アクティブなエージェントが何をするのか、そしてその結果がチームの成果につながっているのかということです。

チームジェイカーブは、この流れを単なるコスト管理だけでは見ません。 AIを多く使う組織ではなく、 AIの使用を業務成果と結びつける組織にならなければならないと思います。結局、次の段階のAIオペレーティングシステムは「いくら書いたか」ではなく、「何が実際に変わったのか」を証明する方へ進化することになるでしょう。

「AI Native百科事典」を購読する

サイトを購読すると、新しい投稿などの最新のアップデートを通知やメールで最初に受け取ることができます。
Slashpageに参加して「AI Native百科事典」を購読してください！