Как крупные IT-гиганты борются с перерасходом токенов в ИИ
9 июня в 13:00 вышла новость, в которой раскрываются трудности таких гигантов, как Amazon, Uber и OpenAI, связанные с чрезмерными затратами на токены искусственного интеллекта. Amazon свернул внутреннее соревнование, которое подталкивало сотрудников активнее внедрять ИИ. Uber же ввел лимит на расходы по токенам для своих работников — не более 1500 долларов в месяц, так как годовой бюджет компании на ИИ был исчерпан уже в начале года.
Сэм Альтман, глава OpenAI, публично признал наличие проблемы с использованием токенов. Согласно исследованию, опубликованному в апреле, ИИ-агенты потребляют в тысячу раз больше токенов по сравнению с другими системами на базе искусственного интеллекта. Это вызвало тревогу среди разработчиков и руководства компаний, которые теперь ищут более рациональные способы применения технологии.
Как компании реагируют на вызовы: новые подходы
В ответ на эти сложности GitHub анонсировал модель оплаты, привязанную к объему использованных токенов. Кроме того, Microsoft и Google начали продвигать edge-решения — модели, работающие непосредственно на устройстве пользователя, чтобы сократить затраты на токены. В рамках обсуждения упоминаются новейшие разработки, такие как GPT-5 и Claude Opus 4.8.
На конференции Microsoft Build Сатья Наделла, генеральный директор Microsoft, отметил, что годовое потребление воды новыми дата-центрами Microsoft сопоставимо с объемом, который тратит один ресторан. Это подчеркивает актуальность проблемы водопотребления, которая также активно обсуждается в свете роста числа дата-центров.
- Google, в свою очередь, заявил о планах к 2030 году возвращать природе больше воды, чем расходуется на охлаждение его дата-центров.
- Компания также подчеркнула, что дата-центры в США используют менее 1% от того объема воды, который американцы ежегодно тратят на полив газонов.
Эта ситуация демонстрирует острую необходимость в поиске более устойчивых решений для развития технологий искусственного интеллекта и минимизации их воздействия на экологию. В условиях стремительного прогресса ИИ компании сталкиваются не только с финансовыми, но и с экологическими вызовами, требующими комплексного подхода. Поскольку технологии продолжают совершенствоваться, крайне важно найти баланс между инновациями и их влиянием на ресурсы планеты. Для российского контекста стоит добавить, что вопросы энерго- и водопотребления становятся все более значимыми и для локальных игроков рынка ИИ, которые также ищут пути оптимизации.
Проблема перерасхода токенов не обошла стороной и другие крупные компании. Например, Uber также столкнулся с необходимостью строго контролировать расходы на искусственный интеллект, что ставит под сомнение эффективность текущих подходов к его внедрению. В таких условиях компании вынуждены искать новые пути оптимизации затрат и улучшения технологий.