Ситуація навколо моделей Grok від xAI
26 червня о 22:30 The Information повідомило про те, що користувачі використовують моделі Grok від xAI для створення порнографічного контенту та оголених зображень. Компанія SpaceX зарезервувала 530 мільйонів доларів на можливі судові витрати через ризики, пов'язані з "зухвалими" функціями Grok. Внутрішній аналіз xAI показав, що значна частина запитів до моделей Grok стосувалася порнографії або оголених зображень.
За даними джерел, двох колишніх співробітників xAI, користувачі також знайшли спосіб дешевше створювати подібний контент, використовуючи моделі Grok, призначені для написання коду. Роль NSFW-контенту в доходах xAI не була відображена в документах для IPO. Водночас SpaceX попередила потенційних інвесторів про можливі ризики, пов'язані з більш зухвалими функціями Grok.
Етичні виклики та проблеми безпеки
Інженери xAI намагаються знайти баланс між дозволом еротичних чатів і блокуванням запитів, пов'язаних з матеріалами сексуального насильства над дітьми. Однак деякі співробітники висловили незадоволення роботою над NSFW-анімеаватаром Ani, відзначаючи, що частина працівників відчувала збентеження і тривогу після скандалу, коли Grok створив сексуалізовані зображення реальних людей, включно з дітьми.
Попри обмеження, накладені платформою X на можливість створення відвертих змінених зображень реальних людей через Grok, платні передплатники xAI, як стверджується у звіті, досі можуть генерувати подібний контент. Водночас xAI продовжує укладати контракти з державними установами та військовими, хоча не повідомляється, чи вплинули попередні скандали на ці відносини. Як зазначають джерела The Information, "швидкого рішення для цієї проблеми не було".
Ситуація навколо моделей Grok від xAI підкреслює виклики, з якими стикаються технологічні компанії у контексті етики та безпеки контенту. З огляду на зростаючий інтерес до AI-технологій та їх застосування, важливо, щоб компанії не лише розробляли нові функції, але й враховували потенційні ризики, пов'язані з їх використанням. Це питання стає особливо актуальним у світлі потенційних судових витрат та ризиків для репутації, які можуть вплинути на інвестиційні рішення та довіру до компаній у цій сфері.
Ситуація з використанням моделей Grok від xAI викликала не лише етичні питання, але й правові наслідки. Наприклад, одна з британських депутаток вже подала позов проти компанії Ілона Маска, що свідчить про зростаючу тривогу щодо наслідків використання штучного інтелекту в контексті порнографії. Це підкреслює, наскільки важливою є дискусія про регулювання технологій, які можуть бути використані для створення небезпечного контенту.