Функции чат-бота Grok были ограничены
Из-за скандала, связанного с генерацией сексуализированных дипфейков, компания xAI ввела запрет на редактирование изображений реальных людей в откровенной одежде. Теперь бот не может добавлять на фото купальники или нижнее белье. Эти ограничения коснулись всех пользователей, в том числе и платных подписчиков, имевших доступ к инструментам создания и редактирования изображений.
В xAI сообщили о внедрении технических мер, предотвращающих подобное редактирование снимков, например, в бикини. Это создаёт дополнительный защитный барьер и помогает привлекать к ответственности тех, кто пытается злоупотреблять аккаунтом Grok, нарушая закон или политики компании. Кроме того, в странах, где это запрещено законодательно, Grok блокирует создание изображений реальных людей в бикини или белье.
Реакция властей и вопросы этики ИИ
Данный инцидент стал поводом для расследования со стороны властей Калифорнии в отношении xAI. Известно, что из 20 тысяч изображений, сгенерированных во время новогодних праздников, большинство изображали людей в минимальной одежде. Правительство Индонезии также объявило о временной блокировке ИИ-инструмента Grok. Глава компании Илон Маск заявил по этому поводу:
'Мне ничего не известно о случаях создания изображений обнажённых несовершеннолетних.' Илон Маск
Введение ограничений в Grok отражает растущее внимание к этическим аспектам использования искусственного интеллекта и связанным с ним рискам для приватности и безопасности персональных данных. Подобные скандалы в России также могут привлечь внимание регуляторов к вопросам цифровой этики. Реакция государств на подобные технологии способна привести к ужесточению регулирования в сфере ИИ и обработки изображений, что в дальнейшем повлияет на развитие подобных инструментов.