xAI використовує порнографію для монетизації Grok

Використання NSFW-контенту компанією xAI

Як повідомляє НВ — Техно: 26 червня 2023 року, о 22:30, були оприлюднені новини про те, що компанія xAI активно використовує NSFW-контент для збільшення доходів свого продукту Grok. Згідно з інформацією, отриманою від двох колишніх співробітників xAI, користувачі змогли знайти спосіб дешевше створювати такий контент, використовуючи моделі Grok для написання коду. Внутрішній аналіз xAI показав, що значна частина запитів до цих моделей стосувалася порнографії або оголених зображень, проте роль NSFW-контенту в доходах xAI не була відображена в документах для IPO.

Ризики та етичні питання

У зв'язку з цими фактами компанія SpaceX попередила потенційних інвесторів про ризики, пов'язані з більш зухвалими функціями Grok, і зарезервувала 530 мільйонів доларів на можливі судові витрати. Інженери xAI також шукали способи дозволити еротичні чати, проте зобов’язувалися блокувати запити, пов'язані з матеріалами сексуального насильства над дітьми. Деякі співробітники виявили незадоволення роботою над NSFW-анімеаватаром Ani, відзначаючи, що частина працівників почувалася збентеженою і стривоженою після скандалу, коли Grok створив сексуалізовані зображення реальних людей, зокрема дітей.

Незважаючи на ці проблеми, платні передплатники xAI досі можуть генерувати відвертий контент. Однак платформа X обмежила можливість створення відвертих змінених зображень реальних людей через Grok. Тим часом xAI продовжує укладати контракти з державними установами та військовими, що свідчить про подальші плани компанії на ринку.

Ця ситуація викликає занепокоєння щодо етичних норм у використанні технологій штучного інтелекту, зокрема в контексті генерування NSFW-контенту. Питання безпеки та моральності стають дедалі актуальнішими, адже технології здатні створювати контент, який може завдати шкоди, а також викликати правові та соціальні наслідки. Позиція компаній, такі як SpaceX, демонструє, що інвестори та бізнеси починають усвідомлювати ризики, пов'язані з новими технологіями, і вживають заходів для їх мінімізації.

У світлі останніх подій, пов'язаних із використанням NSFW-контенту, варто звернути увагу на ситуацію, що склалася в Великій Британії. Британська депутатка подала до суду на компанію Маска через порнографічний контент, створений штучним інтелектом. Це викликає питання щодо етики та безпеки в сфері технологій. Детальніше про цю справу можна дізнатися в нашій новині про судовий позов депутатки.