Китай запроваджує суворі правила для ШІ: як чат-ботам обмежать темні теми

Нові правила для чат-ботів у Китаї

Як повідомляє Главком: Китайська адміністрація кіберпростору запроваджує нові правила, спрямовані на обмеження шкоди від чат-ботів, які можуть заохочувати суїцид, самопошкодження та насильство. Ці нововведення можуть стати одним з найсуворіших у світі регуляторних підходів до емоційної поведінки штучного інтелекту. Правила охоплюватимуть всі ШІ-продукти та сервіси, доступні для публічного використання в Китаї.

Згідно з новими вимогами, при згадуванні суїциду або самопошкодження в розмові з чат-ботами має втручатися людина. Це означає, що системи повинні бути налаштовані таким чином, щоб забезпечити безпечніше спілкування для користувачів. Крім того, неповнолітні та літні користувачі повинні вказати контактні дані опікуна під час реєстрації, що також підкреслює важливість захисту вразливих груп населення.

Обмеження контенту та контроль

Чат-ботам заборонено створювати контент, який заохочує суїцид, насильство або самопошкодження. Окрім цього, нові правила забороняють:

• пропаганду азартних ігор;
• злочинної діяльності;
• непристойностей;
• образи користувачів.

ШІ-сервіси, які мають понад 1 мільйон зареєстрованих або 100 тисяч активних користувачів на місяць, будуть зобов'язані проходити щорічні перевірки. Це має на меті підвищити рівень контролю за діяльністю таких сервісів.

Крім того, компанії, що розробляють ШІ-продукти, мають спростити механізм подання скарг і зворотного зв'язку для користувачів. У разі порушення нових правил регулятор зможе вимагати припинення розповсюдження відповідних ШІ-сервісів. Важливо зазначити, що ринок ШІ-компаньйонів в Азії є ключовим драйвером зростання галузі, тому нові правила можуть суттєво вплинути на його розвиток.

Ці нові правила свідчать про зростаючу увагу китайського уряду до етичних аспектів використання штучного інтелекту, особливо в контексті захисту вразливих груп населення.

З огляду на те, що ринок ШІ продовжує розвиватися, така регуляція може встановити прецедент для інших країн, які також можуть прагнути знайти баланс між інноваціями та безпекою користувачів. Впровадження подібних норм може спонукати інші держави до розробки власних регуляторних механізмів у сфері штучного інтелекту.