Amazon та Uber урізають витрати на ШІ через надмірне споживання токенів

Проблеми великих технологічних компаній з витратами на токени ШІ

Як повідомляє НВ — Техно: 9 червня о 13:00 було опубліковано новину, яка висвітлює проблеми великих технологічних компаній, зокрема Amazon, Uber та OpenAI, стосовно надмірних витрат на токени штучного інтелекту (ШІ). Amazon закрила внутрішній конкурс, що заохочував співробітників до активнішого використання ШІ. У свою чергу, Uber обмежила витрати своїх співробітників на токени до 1500 доларів на місяць, оскільки компанія вичерпала річний бюджет на ШІ вже на початку року.

Генеральний директор OpenAI Сем Альтман визнав, що існує проблема з використанням токенів. За даними одного з досліджень, опублікованих у квітні, агенти ШІ використовують у тисячу разів більше токенів, ніж інші системи ШІ. Це викликало занепокоєння серед розробників та керівництв компаній, які шукають ефективніші способи використання технологій.

Відповідь на виклики та нові ініціативи

У відповідь на ці виклики GitHub оголосив про нову систему оплати, яка залежатиме від кількості використаних токенів. Також Microsoft і Google почали просувати edge-рішення - моделі, що працюють на пристрої користувача, щоб зменшити витрати на токени. У контексті цієї теми компанії згадують нові моделі, такі як GPT-5 та Claude Opus 4.8.

Під час конференції Microsoft Build генеральний директор Microsoft Сатья Наделла зазначив, що річне споживання води новими дата-центрами Microsoft приблизно відповідає тому, скільки використовує один ресторан. Це підкреслює важливість питання споживання води, яке також обговорюється у зв'язку із зростанням кількості дата-центрів.

• Google, у свою чергу, повідомила про намір до 2030 року повертати природі більше води, ніж витрачає на охолодження своїх дата-центрів.
• Компанія також наголосила, що дата-центри у США використовують менш як 1% від обсягу води, яку американці щороку витрачають на полив газонів.

Ця ситуація підкреслює необхідність пошуку нових, більш стійких рішень у розвитку технологій штучного інтелекту та їх впливу на довкілля. В умовах стрімкого розвитку ШІ компанії стикаються з викликами не лише фінансового характеру, але й екологічними, що вимагає комплексного підходу до їх вирішення. Оскільки технології продовжують вдосконалюватись, важливо знайти баланс між інноваціями та їх впливом на ресурси планети.

У світлі обмежень, які запроваджує Uber на витрати на ШІ, компанії змушені шукати нові шляхи оптимізації своїх витрат. Це підкреслює загальну тенденцію в індустрії, де технологічні гіганти намагаються знайти баланс між інноваціями та фінансовою ефективністю. Зокрема, нові ініціативи, такі як зміна системи оплати за використані токени, стають актуальними для зменшення витрат на штучний інтелект.