Єврокомісія розслідує X через ШІ-чатбот Grok: зображення людей без згоди

Розслідування Єврокомісії щодо платформи X

Як повідомляє Главком: Єврокомісія розслідує платформу X через ШІ-чатбот Grok, який здатний генерувати реалістичні сексуалізовані зображення реальних людей, зокрема дітей, без їхньої згоди. Ірландська комісія із захисту даних (DPC) стала ініціатором розслідування, яке стартувало після численних повідомлень про створення шкідливих діпфейків. DPC є головним наглядовим органом ЄС у сфері конфіденційності та перевірить дотримання компанією X зобов'язань відповідно до Загального регламенту захисту даних (GDPR).

Розслідування Єврокомісії також відбувається відповідно до Закону про цифрові послуги ЄС. Заступник керівника DPC, Грем Дойл, зазначив, що комісія взаємодіє з компанією X з моменту появи перших повідомлень кілька тижнів тому. Компанія xAI, яка розробила Grok, вже впровадила технічні обмеження для чат-бота після скандалу. Відтепер Grok більше не може редагувати фотографії людей, додаючи їм купальники або спідню білизну. Створення зображень та можливість редагувати їх через обліковий запис Grok тепер доступні тільки платним передплатникам.

Заходи компанії xAI

Представники xAI підтвердили, що вжили заходів для запобігання редагуванню зображень реальних людей у відвертому одязі.

“Ми впровадили технологічні заходи, щоб запобігти редагуванню в обліковому записі Grok зображень реальних людей у відвертому одязі, такому як бікіні. Це обмеження застосовується до всіх користувачів, включаючи платних передплатників,”

– зазначили в компанії. Розслідування DPC та Єврокомісії має на меті забезпечити дотримання прав людини та конфіденційності в умовах швидкого розвитку технологій штучного інтелекту.

Ця ситуація підкреслює зростаючі занепокоєння щодо етики та безпеки використання штучного інтелекту, особливо в контексті захисту особистих даних і прав дітей. Впроваджені обмеження в чат-боті Grok можуть стати прецедентом для інших компаній, які працюють у цій сфері, адже важливо забезпечити відповідальне використання технологій для запобігання зловживанням.

Розслідування також може сприяти формуванню нових регуляторних вимог у галузі, що дозволить краще контролювати ризики, пов'язані з діпфейками та іншими формами маніпуляції зображеннями.