Китай запроваджує суворі правила для ШІ: как чат-ботам ограничат тёмные темы

Новые правила для чат-ботов в Китае

Как сообщает Главком: Китайская администрация киберпространства вводит новые правила, направленные на ограничение вреда от чат-ботов, которые могут поощрять суицид, самоповреждение и насилие. Эти новшества могут стать одним из самых строгих в мире регуляторных подходов к эмоциональному поведению искусственного интеллекта. Правила охватывают все ИИ-продукты и услуги, доступные для публичного использования в Китае.

Согласно новым требованиям, при упоминании суицида или самоповреждения в разговоре с чат-ботами должно вмешиваться человека. Это означает, что системы должны быть настроены таким образом, чтобы обеспечить более безопасное общение для пользователей. Кроме того, несовершеннолетние и пожилые пользователи должны указывать контактные данные опекуна при регистрации, что также подчеркивает важность защиты уязвимых групп населения.

Ограничение контента и контроль

Чат-ботам запрещено создавать контент, который поощряет суицид, насилие или самоповреждение. Кроме того, новые правила запрещают:

• пропаганду азартных игр;
• преступной деятельности;
• непристойностей;
• оскорбления пользователей.

ИИ-сервисы, которые имеют более 1 миллиона зарегистрированных или 100 тысяч активных пользователей в месяц, будут обязаны проходить ежегодные проверки. Это должно повысить уровень контроля за деятельностью таких сервисов.

Кроме того, компании, разрабатывающие ИИ-продукты, должны упростить механизм подачи жалоб и обратной связи для пользователей. В случае нарушения новых правил регулятор сможет требовать прекращения распространения соответствующих ИИ-сервисов. Важно отметить, что рынок ИИ-компаньонов в Азии является ключевым драйвером роста отрасли, поэтому новые правила могут существенно повлиять на его развитие.

Эти новые правила свидетельствуют о растущем внимании китайского правительства к этическим аспектам использования искусственного интеллекта, особенно в контексте защиты уязвимых групп населения.

Учитывая, что рынок ИИ продолжает развиваться, такая регуляция может установить прецедент для других стран, которые также могут стремиться найти баланс между инновациями и безопасностью пользователей. Внедрение подобных норм может побудить другие государства к разработке своих собственных регуляторных механизмов в сфере искусственного интеллекта.