Подробности инцидента с уязвимостями в Hacktron AI
18 сентября 2023 года стало известно, что трое специалистов из стартапа Hacktron AI сумели объединить две критические уязвимости с помощью системы Claude Opus 5, что позволило им проникнуть в несколько учетных записей ChatGPT, принадлежащих сотрудникам OpenAI. Об этом сообщил TechCrunch. Исследователи действовали в рамках программы OpenAI по вознаграждению за обнаружение уязвимостей, и в итоге получили выплату в размере 6500 долларов.
Исходная точка атаки и характер уязвимостей
Первая возможность для взлома была выявлена 25 июля через Discourse — стороннее программное обеспечение, используемое для форума сообщества OpenAI. Уязвимость возникла из-за обработки Discourse изображений в формате HEIC с iPhone с помощью утилиты ImageMagick и библиотеки libheif. Специально созданный файл вызвал ошибку управления памятью в libheif, что привело к захвату сервера. Несмотря на то, что разработчики libheif исправили эту ошибку несколько месяцев назад, она не получила официального номера CVE. Важно отметить, что версия Discourse, используемая OpenAI, содержала уязвимости, способствовавшие атаке.
Изначально команда Hacktron работала с версией Claude Opus 4.8, однако полноценный эксплойт был реализован только после выхода Opus 5. Представители Hacktron отметили:
«Через несколько часов после релиза Opus 5 мы дали системе ту же задачу, и она справилась». После этого исследователи обнаружили дополнительную уязвимость, которая позволила получить доступ к аккаунту одного из сотрудников OpenAI, связанному с GitHub компании через Codex. Уязвимость в Discourse была устранена 27 июля.
Этот случай подчёркивает, насколько важно уделять внимание безопасности программного обеспечения, ведь даже исправленные, но не задокументированные должным образом уязвимости могут быть использованы злоумышленниками. Для русскоязычных специалистов и компаний в сфере IT это служит напоминанием о необходимости своевременного мониторинга и патчей. Программы вознаграждений, подобные OpenAI Bug Bounty, играют ключевую роль в выявлении и устранении таких проблем, однако длительное игнорирование уязвимостей представляет серьёзную угрозу для бизнеса.
Данный инцидент с уязвимостями подчеркивает необходимость разработки международных стандартов безопасности для искусственного интеллекта. Ведущий специалист OpenAI поднимает вопрос о важности таких норм, которые помогут предотвратить подобные атаки в будущем. Узнайте подробнее о его призывах к созданию глобальных правил безопасности в этой статье.