Как xAI зарабатывает на NSFW-материалах
Вечером 26 июня 2023 года стало известно, что xAI использует контент для взрослых для увеличения прибыли своего продукта Grok. По данным бывших сотрудников компании, пользователи нашли способ удешевить генерацию такого контента, применяя модели Grok для написания кода. Внутренние отчеты xAI показали, что большая часть запросов к этим моделям касалась порнографии или обнаженных изображений, однако доходы от NSFW-материалов не были раскрыты в документах для IPO.
Этические риски и реакция инвесторов
SpaceX предупредила потенциальных инвесторов о рисках, связанных с более смелыми функциями Grok, и зарезервировала 530 миллионов долларов на возможные судебные издержки. Инженеры xAI искали способы разрешить эротические чаты, но обязались блокировать запросы, касающиеся материалов сексуального насилия над детьми. Некоторые сотрудники выразили недовольство работой над NSFW-аниме-аватаром Ani, отметив, что часть персонала чувствовала себя смущенной и обеспокоенной после скандала, когда Grok создал сексуализированные изображения реальных людей, включая детей.
Несмотря на эти проблемы, платные подписчики xAI по-прежнему могут генерировать откровенный контент. Однако платформа X ограничила создание откровенных измененных изображений реальных людей через Grok. Тем временем xAI продолжает заключать контракты с государственными учреждениями и военными, что указывает на дальнейшие планы компании на рынке.
Эта ситуация поднимает вопросы об этических нормах в использовании технологий искусственного интеллекта, особенно в контексте генерации NSFW-контента. Вопросы безопасности и морали становятся все более актуальными, поскольку технологии способны создавать контент, который может нанести вред и вызвать правовые и социальные последствия. Позиция компаний, таких как SpaceX, показывает, что инвесторы и бизнесы начинают осознавать риски, связанные с новыми технологиями, и принимают меры для их минимизации. Для русскоязычной аудитории важно понимать, что подобные практики могут повлиять на регулирование ИИ в других странах, включая Россию, где вопросы этики и безопасности в этой сфере также обсуждаются.
В свете недавних событий, связанных с использованием контента для взрослых в Grok, возникает необходимость обсуждения правовых аспектов подобных технологий. Например, большая часть запросов к Grok была направлена на создание непристойных изображений, что привело к судебным искам со стороны политиков и общественных деятелей. Это подчеркивает важность соблюдения этических норм и правовых рамок в сфере искусственного интеллекта.