Самое популярное сейчас
Реклама

Китайский DeepSeek запускает DeepInfer для удешевления работы ИИ: нарастающая конкуренция с OpenAI

DeepInfer для быстрого запуска ШИ-моделей
Компания DeepSeek из Китая представила новую платформу DeepInfer, которая снизит затраты на разработку ИИ, усиливая конкуренцию с ведущими игроками на рынке. Фото: НВ — Техно

Введение DeepInfer от DeepSeek

Как сообщает НВ — Техно: Китайская компания DeepSeek представила инновационный инструмент DeepInfer, созданный для более эффективного запуска моделей искусственного интеллекта. Новинка позволяет значительно снизить вычислительные расходы, что делает бизнес более конкурентоспособным в сравнении с такими лидерами, как OpenAI и Anthropic. DeepInfer уже размещён на GitHub и оптимизирован для работы с новой версией модели DeepSeek V4.1 Flash, отличающейся увеличенной скоростью, эффективностью и сниженной стоимостью.

Экономическая выгода использования DeepInfer

Ключевая особенность DeepInfer - это оптимизация процесса инференса, то есть генерации ответов ИИ на запросы пользователей. По информации OpenRouter, модель DeepSeek V4.1 Flash обладает следующими затратами:

  • Обработка миллиона входных токенов стоит всего $0,035;
  • Генерация миллиона выходных токенов - $0,12.

Для сравнения, у GPT-6 Astra от OpenAI стоимость аналогичного объёма данных достигает $10 за входящие токены и $50 за исходящие. Токены здесь - это отдельные единицы текста, которые обрабатывает модель.

В связи с такими выгодными тарифами, компании вроде Accenture уже устанавливают лимиты на расходы сотрудников. Например, на использование модели Claude от Anthropic установлен месячный порог в $29 на человека. Между тем китайские решения, такие как DeepSeek V4.1 Flash, предлагают гораздо более низкие цены, что вызывает обеспокоенность в США. В рамках этого администрация Дональда Трампа ввела ограничения на применение продуктов DeepSeek в ряде федеральных ведомств, включая Госдепартамент, хотя частный сектор пока не затронут.

Кроме того, DeepInfer использует метод спекулятивного декодирования для ускорения генерации ответов, что дополнительно повышает его эффективность. Такой инструмент способен значительно изменить рынок ИИ, предоставляя компаниям возможность снизить затраты и повысить производительность.

Появление DeepInfer демонстрирует усиливающуюся конкуренцию в области искусственного интеллекта, где китайские компании стремятся предложить более экономичные и технологичные решения.

Для русскоязычных пользователей и бизнеса это значит необходимость внимательнее следить за развитием технологий в сфере ИИ и оценивать возможности интеграции более доступных решений. В то же время, растущая роль таких инструментов может повлиять на регуляторные меры в разных странах, учитывая вопросы безопасности и экономической устойчивости.

В конечном счёте, снижение стоимости запуска ИИ-моделей, предлагаемое DeepSeek, может привести к переосмыслению бюджетов на ИИ в западных компаниях и стимулировать развитие новых стандартов на международном уровне.

В то время как DeepSeek предлагает конкурентные цены на свои решения, на рынке возникают опасения по поводу использования технологий китайских компаний. Например, Anthropic обвинила китайские фирмы в несанкционированном использовании модели Claude для обучения своих ИИ-систем. Это подчеркивает растущую напряженность в сфере ИИ и необходимость прозрачности в технологиях.

Реклама

Читайте также

Реклама

Реклама

Реклама