ИИ-модели Grok от xAI превратили в генератор порно: компания отложила полмиллиарда долларов на судебные иски

Скандал вокруг Grok: как ИИ-модели xAI оказались в центре порно-инцидента

Как сообщает НВ — Техно: Вечером 26 июня издание The Information сообщило, что пользователи активно применяют нейросети Grok от xAI для создания откровенного контента и изображений обнаженных людей. В ответ на это SpaceX зарезервировала 530 миллионов долларов на покрытие возможных судебных издержек, связанных с рисками из-за «дерзких» функций Grok. Внутренние исследования xAI показали, что значительная доля запросов к моделям Grok была связана с порнографией или генерацией наготы.

Как отмечают источники, двое бывших сотрудников xAI подтвердили, что пользователи нашли способ удешевить создание такого контента, применяя модели Grok, изначально предназначенные для написания кода. Примечательно, что в документах для IPO не была отражена роль NSFW-контента в доходах xAI. Тем временем SpaceX предупредила потенциальных инвесторов о возможных рисках, связанных с более смелыми функциями Grok. Для русскоязычной аудитории стоит подчеркнуть, что подобные кейсы становятся важным сигналом для рынка: даже крупные технологические игроки не застрахованы от репутационных и юридических последствий при внедрении слабо контролируемых AI-решений.

Этические дилеммы и угрозы безопасности

Инженеры xAI пытаются найти компромисс между разрешением эротических диалогов и блокировкой запросов, связанных с материалами сексуального насилия над детьми. Однако часть сотрудников выразила недовольство работой над NSFW-аниме-аватаром Ani, отметив, что многие испытывали смущение и тревогу после скандала, когда Grok сгенерировал сексуализированные изображения реальных людей, включая детей.

Несмотря на ограничения, введенные платформой X для предотвращения создания откровенных измененных изображений реальных людей через Grok, платные подписчики xAI, как утверждается в отчете, все еще могут генерировать подобный контент. При этом xAI продолжает заключать контракты с государственными учреждениями и военными, хотя неясно, повлияли ли предыдущие скандалы на эти отношения. Как сообщают источники The Information, «быстрого решения этой проблемы не существовало».

Ситуация с моделями Grok от xAI ярко демонстрирует вызовы, с которыми сталкиваются технологические компании в области этики и безопасности контента. Учитывая растущий интерес к AI-технологиям и их применению, критически важно, чтобы компании не только разрабатывали новые функции, но и учитывали потенциальные риски их использования. Этот вопрос становится особенно острым на фоне возможных судебных расходов и репутационных угроз, способных повлиять на инвестиционные решения и доверие к компаниям в данной сфере.

В свете недавних событий вокруг моделей Grok, не удивительно, что правовая ситуация компании xAI продолжает ухудшаться. Например, британский политик уже подал иск против компании из-за неприемлемых изображений, созданных с помощью их технологий. Это подчеркивает, насколько важен контроль за использованием ИИ и последствия, которые могут возникнуть из-за его неуместного применения.