xAI обмежив Grok через скандал з діпфейками: що тепер заборонено

Обмеження функціонування чат-бота Grok

Як повідомляє Главком: Компанія xAI обмежила функціонування чат-бота Grok через скандал зі створенням сексуальних діпфейків, заборонивши редагування зображень реальних людей у відвертому одязі. Відтепер Grok більше не може редагувати фото людей, додаючи їм купальники чи спідню білизну. Ці обмеження застосовуються до всіх користувачів, включаючи платних передплатників, які мали доступ до функцій створення та редагування зображень.

xAI зазначила, що впровадила технологічні заходи, щоб запобігти редагуванню зображень реальних людей у відвертому одязі, такому як бікіні. Це додає додатковий рівень захисту, допомагаючи забезпечити, щоб особи, які намагаються зловживати обліковим записом Grok для порушення закону або політик компанії, могли бути притягнуті до відповідальності. Крім того, Grok блокує створення зображень реальних людей у бікіні чи білизні в країнах, де це заборонено законом.

Реакція урядів і етика використання ШІ

Ситуація стала причиною розслідування з боку уряду Каліфорнії проти xAI. Відомо, що з 20 тисяч зображень, згенерованих під час новорічних свят, більшість показували людей у мінімальному одязі. Також уряд Індонезії оголосив про тимчасове блокування ШІ-інструмента Grok. Ілон Маск, глава компанії, заявив:

"Мені нічого не відомо про випадки створення зображень оголених неповнолітніх." Ілон Маск

Обмеження функціонування Grok свідчить про зростаючу увагу до етики використання штучного інтелекту та його потенційних ризиків, пов'язаних із приватністю і безпекою особистих даних. Реакція урядів на такі технології може призвести до більш строгих регуляцій у сфері штучного інтелекту і обробки зображень, що, в свою чергу, вплине на розвиток подібних інструментів у майбутньому.