Эффективнее в 1,9 раза: OpenAI анонсировала ИИ-чип Jalapeño

Анонс Jalapeño: что известно

Как сообщает НВ — Техно: OpenAI официально представила собственную разработку для обслуживания нейросетей - чип Jalapeño. Презентация состоялась 26 августа в 15:05; на новинку уже обратило внимание издание Interesting Engineering. По заявлению компании, Jalapeño способен выполнять до 1,9 раза больше полезной работы на каждый ватт энергии, а задержку при обработке запросов он снижает до 3,6 раза по сравнению с действующими системами-ускорителями. Для русскоязычных читателей стоит добавить контекст: именно скорость и стоимость инференса определяют итоговые цены на LLM-сервисы, поэтому такие анонсы важны не только для инженеров, но и для всех, кто пользуется ИИ-продуктами.

Особенности и тесты

Новинку прогнали на открытых моделях: GPT-OSS 120B, DeepSeek R1 670B и Kimi K2.5 1T. В пиковых режимах эффективность на ватт оказалась в 1,5–1,9 раза выше, чем у сравниваемых решений. Время от начала обработки запроса до получения ответа сократилось в 1,7–3,6 раза, а для интерактивных сценариев прирост скорости составил 2,1–4,1 раза.

Чип рассчитан на мощность до 700 Вт, но во время испытаний стабильное потребление оставалось в пределах 550 Вт. Для сравнения использовались коммерческие ускорители и открытый тестовый пакет InferenceX от SemiAnalysis. В конструкции Jalapeño состояние модели, включая кеш, хранится прямо возле вычислительных блоков; сетевая часть встроена в архитектуру чипа, что сокращает объёмы пересылки данных между чипами.

На разработку ушло девять месяцев, ещё два месяца потребовалось на подготовку к производству и оптимизацию под упомянутые открытые модели. Сама OpenAI использовала при проектировании собственные ИИ-модели Codex и GPT-Astra. Для блоков GPT-OSS, отвечающих за механизм внимания и смесь экспертов, версии, созданные с помощью ИИ, оказались в 1,5–1,8 раза быстрее прежних, написанных инженерами вручную.

Встраивание Jalapeño в собственную инфраструктуру OpenAI запланировано до конца 2026 года. Как уточнили в компании, это только первое поколение; уже ведётся работа над вторым и третьим.

Выпуск Jalapeño можно считать важной вехой для ИИ-индустрии: чип обещает заметно поднять производительность и энергоэффективность. В перспективе это может ускорить внедрение искусственного интеллекта в самых разных сферах - от коммерческих сервисов до научных исследований. OpenAI, один из ключевых игроков рынка, продолжает инвестировать в инфраструктуру, и эффект от этих вложений, вероятно, будет ощущаться ещё долго.

В то время как OpenAI активно развивает свои технологии, другие компании также не остаются в стороне. Например, Anthropic формирует команду инженеров для разработки собственных чипов, что подчеркивает растущую конкуренцию в области ИИ. Это свидетельствует о том, что рынок высокопроизводительных решений для нейросетей продолжает расширяться, и такие инициативы могут значительно изменить ландшафт индустрии.