Новости

Расходы на ИИ продолжают расти, несмотря на падение стоимости токенов

Кристофер Мимс из The Wall Street Journal проанализировал экономику компаний, использующих искусственный интеллект, и пришел к парадоксальному выводу: даже при многократном снижении цены токенов (по словам таких лидеров индустрии, как Сэм Альтман, падение составило до 10 раз), общие затраты на ИИ-услуги продолжают увеличиваться.

Основная причина — растущая популярность продвинутых моделей, способных глубоко рассуждать и решать сложные задачи. Эти модели обеспечивают высокое качество, но при этом потребляют существенно больше токенов. Например, генерация сложного кода может требовать от 20 до 100 тысяч токенов, анализ юридических документов — от 75 до 250 тысяч, а выполнение агентных сценариев — от 100 тысяч до миллиона токенов.

По мнению Мимса и его источников, стремление к созданию «самого умного ИИ» фактически превратилось в гонку за «самым дорогим ИИ». Токены активно расходуются на перепроверки, сетевые запросы, вспомогательные скрипты и длинные цепочки задач, выполняемых агентами.

Крупные компании могут позволить себе инвестировать в ИИ-инфраструктуру десятки миллиардов долларов в год (до $100 млрд), а вот стартапам приходится либо жертвовать прибылью, либо сокращать функциональность ИИ для пользователей. Так, в Notion доля затрат на ИИ составляет около 10 процентных пунктов маржи, хотя общая маржа компании остается высокой — примерно 80%. В то же время, новые пользователи больше не получают ИИ-дополнения в бесплатных и Plus-тарифах — они остались только в Business и Enterprise-планах.

Наиболее остро рост расходов ощущается в сферах, связанных с обработкой больших объемов текста — таких как программирование, юридический анализ, аналитика и техническая поддержка. Это приводит к пересмотру ценовой политики. В частности, сервис Cursor теперь предлагает за $20 в месяц безлимитный доступ к автоматическому выбору моделей и Tab-режиму автодополнения кода, а также $20 в виде кредита на использование продвинутых моделей. Компания Anthropic также была вынуждена ввести недельные лимиты на использование своих подписок Pro и Max, после того как выяснилось, что отдельные пользователи тратили токены на суммы в десятки тысяч долларов (один из рекордов — $35 000 при подписке Max за $200).