Еврокомиссия начала проверку платформы X из-за ИИ-бота Grok

Проверка европейских регуляторов

Как сообщает Главком: Ирландское Управление по защите данных (DPC), выступающее главным надзорным органом ЕС в вопросах приватности, начало расследование в отношении платформы X. Поводом послужили многочисленные жалобы на её ИИ-чатбот Grok, который способен создавать реалистичные и сексуализированные изображения реальных людей, включая несовершеннолетних, без их согласия. Еврокомиссия также проводит проверку в рамках Закона о цифровых услугах (DSA). DPC будет оценивать, соблюдает ли компания X требования Общего регламента по защите данных (GDPR).

Заместитель руководителя DPC Грэм Дойл сообщил, что регулятор взаимодействует с компанией X уже несколько недель, с момента поступления первых сообщений о вредоносных дипфейках. Для русскоязычной аудитории важно понимать, что GDPR имеет экстерриториальное действие и может применяться к обработке данных граждан ЕС, где бы она ни происходила.

Ответные шаги разработчика

Компания xAI, создавшая Grok, в ответ на скандал внедрила технические ограничения. Теперь чат-бот лишён возможности редактировать фотографии людей, добавляя на них купальники или нижнее бельё. Генерация и редактирование изображений через аккаунт Grok стали доступны исключительно платным подписчикам.

«Мы внедрили технические меры, чтобы предотвратить редактирование изображений реальных людей в откровенной одежде, такой как бикини, в аккаунте Grok. Это ограничение распространяется на всех пользователей, включая платных подписчиков»,

– заявили в xAI.

Эта ситуация высвечивает растущую озабоченность вопросами этики и безопасности в сфере искусственного интеллекта, особенно в части защиты персональных данных и прав детей. Введённые ограничения могут создать прецедент для других игроков рынка, демонстрируя необходимость ответственного подхода к предотвращению злоупотреблений.

Расследование DPC и Еврокомиссии нацелено на защиту прав человека и приватности в условиях стремительного развития ИИ-технологий. Его итоги, вероятно, повлияют на формирование новых регуляторных требований в этой области, что позволит лучше контролировать риски, связанные с дипфейками и иными способами манипуляции визуальным контентом.