Троє дослідників Hacktron AI використали вразливості для доступу до акаунтів працівників OpenAI

Інцидент з вразливостями у Hacktron AI

Як повідомляє НВ — Техно: 18 вересня 2023 року о 21:26 стало відомо, що троє дослідників стартапу Hacktron AI за допомогою системи Claude Opus 5 поєднали дві критичні вразливості, що дозволило їм отримати доступ до кількох акаунтів ChatGPT, які належали працівникам OpenAI. Інформацію про цей інцидент повідомило видання TechCrunch. Дослідники діяли в рамках програми OpenAI з винагородами за вразливості, в результаті чого компанія виплатила їм 6500 доларів.

Точка входу та вразливості

Точка входу для хакерської атаки була знайдена 25 липня через Discourse - стороннє програмне забезпечення форуму спільноти OpenAI. Вразливість виникла внаслідок того, що Discourse конвертував фото у форматі HEIC з iPhone через утиліту ImageMagick і бібліотеку libheif. Спеціально створений файл викликав у libheif помилку пам’яті, що дозволило захопити сервер. Хоча розробники libheif виправили цю помилку кілька місяців тому, їй не було присвоєно номер CVE. Важливо відзначити, що Discourse мав вразливу версію програмного забезпечення, що сприяло атаці.

Спершу команда Hacktron працювала зі спеціальною версією Claude Opus 4.8, але робочий експлойт з'явився лише з виходом Opus 5.

“За кілька годин після виходу Opus 5 ми дали їй ту саму задачу, і вона впоралася”

- зазначили представники Hacktron. Після цього команда знайшла ще одну ваду, що дозволила їм захопити акаунт одного з працівників OpenAI, чий Codex був під'єднаний до GitHub компанії. Проблема з Discourse була виправлена 27 липня.

Цей інцидент підкреслює важливість безпеки програмного забезпечення, оскільки навіть виправлені вразливості можуть бути використані зловмисниками, якщо їх не було належним чином задокументовано. Програми для винагороди за вразливості, такі як в OpenAI, є важливим інструментом для виявлення та виправлення недоліків у безпеці, проте це також ставить під загрозу підприємства, якщо вразливості залишаються непоміченими протягом тривалого часу.

Цей інцидент ще раз підкреслює потребу в розробці міжнародних стандартів безпеки для штучного інтелекту, адже вразливості можуть бути використані навіть після їх виправлення. З огляду на швидкий розвиток технологій, важливо, щоб компанії діяли з урахуванням ризиків та забезпечували належний рівень захисту даних користувачів.