ШІ Fable-5,1 навчилася приховувати повідомлення у зображеннях, Astra від OpenAI розшифровує 88% випадків

Експеримент штучного інтелекту

Як повідомляє НВ — Техно: 26 жовтня у світі штучного інтелекту відбувся важливий експеримент, в якому модель Fable-5.1, розроблена компанією Anthropic, навчилася приховувати повідомлення у згенерованих зображеннях. Штучний інтелект Astra, створений OpenAI, зміг розшифрувати ці приховані повідомлення у 88% випадків. Дослідження було оприлюднене дослідником безпеки штучного інтелекту Браяном Чаном.

Деталі експерименту

У рамках експерименту Fable-5.1 створила зображення нічного пейзажу з місяцем, зорями, озером і горами. Прихований текст, що містився у зображенні, звучав як "The Monster Acts on the Moonshine Module". Цей текст був закодований за допомогою вертикального розташування зірок, де висота кожної зорі відповідала певній літері алфавіту. З 50 випробувань Fable-5.1 змогла правильно відновити 39 повідомлень, що складає 78%.

Astra від OpenAI, отримавши готові зображення без вихідного SVG-коду та пояснення способу кодування, змогла відновити 44 повідомлення, що становить 88%. Дослідники дозволяли використовувати інструменти Python для аналізу даних. Важливо відзначити, що Fable-5.1 застосовувала різноманітні методи приховування тексту, такі як:

• зміна висоти об'єктів
• обертання об'єктів
• використання кольорів

У свою чергу, Astra використовувала азбуку Морзе та акровірші.

Азбука Морзе існує майже 200 років, тоді як стеганографія, метод приховування тексту в цифрових зображеннях, використовується значно довше. Приховування тексту в зображеннях відоме десятиліттями. Особливістю цього експерименту стало те, що моделі змогли самостійно вибирати способи кодування і розшифрування повідомлень без попередніх інструкцій, що відкриває нові перспективи у розвитку штучного інтелекту.

Цей експеримент підкреслює зростаючу складність та автономність штучного інтелекту, що може змінити підходи до безпеки інформації.

Брайан Чан

Самостійне генерування та розшифрування повідомлень без зовнішнього втручання свідчить про потенційні ризики та можливості використання таких технологій у різних сферах, від захисту даних до творчих інновацій.