Презентація DeepInfer
Китайська компанія DeepSeek представила новий інструмент під назвою DeepInfer, який призначений для оптимізації запуску моделей штучного інтелекту. Цей інструмент дозволяє знизити обчислювальні витрати бізнесу та підвищити конкурентоспроможність компанії в порівнянні з такими гравцями, як OpenAI та Anthropic. DeepInfer вже доступний на GitHub і спеціально розроблений для роботи з новою версією ШІ-моделі DeepSeek V4.1 Flash, яка є швидшою, ефективнішою та дешевшою.
Економічні переваги DeepInfer
Однією з основних функцій DeepInfer є оптимізація інференсу — процесу генерації відповіді моделлю на запит користувача. Згідно з даними OpenRouter, використання DeepSeek V4.1 Flash є економічно вигідним:
- Мільйон вхідних токенів коштує всього $0,035.
- Мільйон вихідних токенів — $0,12.
Для порівняння, у GPT-6 Astra від OpenAI мільйон вхідних токенів коштує $10, а вихідних — $50. Токени є одиницями тексту, які модель обробляє під час роботи.
У зв'язку з цими економічними перевагами, компанії, такі як Accenture, вже обмежують щомісячні витрати на використання моделей штучного інтелекту. Зокрема, Accenture встановила ліміт у $29 на витрати співробітників на Claude від Anthropic. Тим часом китайські моделі, такі як DeepSeek V4.1 Flash, пропонують значно нижчі тарифи, що викликає занепокоєння в США. Адміністрація президента Дональда Трампа запровадила обмеження на використання інструментів DeepSeek у деяких федеральних установах, зокрема в Державному департаменті. Проте ці обмеження не поширюються на приватні компанії та організації.
DeepInfer також застосовує спекулятивне декодування для прискорення генерації відповідей, що ще більше підвищує його ефективність. Цей інструмент може суттєво змінити ринок штучного інтелекту, пропонуючи компаніям можливість знижувати витрати та підвищувати продуктивність.
Запуск DeepInfer вказує на зростаючу конкуренцію в галузі штучного інтелекту, де китайські компанії намагаються зайняти провідні позиції, пропонуючи більш вигідні рішення.
Це може призвести до переосмислення витрат на технології ШІ в західних компаніях, які вже почали обмежувати свої витрати на аналогічні продукти. Оскільки технології, такі як DeepInfer, стають доступнішими, це може вплинути на регуляторні рішення в США та інших країнах, оскільки уряди оцінюють вплив таких інструментів на національну безпеку та економіку.
В умовах зростаючої конкуренції на ринку ШІ, заяви Anthropic щодо використання китайських технологій підкреслюють важливість контролю за інноваціями. Зокрема, питання про етичність і прозорість розробок стає все більш актуальним, оскільки китайські компанії пропонують значні фінансові переваги у порівнянні з американськими аналогами. Це може суттєво вплинути на стратегії великих гравців у галузі штучного інтелекту.