Новые правила для чат-ботов в Китае
Китайская администрация киберпространства вводит новые правила, направленные на ограничение вреда от чат-ботов, которые могут поощрять суицид, самоповреждение и насилие. Эти новшества могут стать одним из самых строгих в мире регуляторных подходов к эмоциональному поведению искусственного интеллекта. Правила охватывают все ИИ-продукты и услуги, доступные для публичного использования в Китае.
Согласно новым требованиям, при упоминании суицида или самоповреждения в разговоре с чат-ботами должно вмешиваться человека. Это означает, что системы должны быть настроены таким образом, чтобы обеспечить более безопасное общение для пользователей. Кроме того, несовершеннолетние и пожилые пользователи должны указывать контактные данные опекуна при регистрации, что также подчеркивает важность защиты уязвимых групп населения.
Ограничение контента и контроль
Чат-ботам запрещено создавать контент, который поощряет суицид, насилие или самоповреждение. Кроме того, новые правила запрещают:
- пропаганду азартных игр;
- преступной деятельности;
- непристойностей;
- оскорбления пользователей.
ИИ-сервисы, которые имеют более 1 миллиона зарегистрированных или 100 тысяч активных пользователей в месяц, будут обязаны проходить ежегодные проверки. Это должно повысить уровень контроля за деятельностью таких сервисов.
Кроме того, компании, разрабатывающие ИИ-продукты, должны упростить механизм подачи жалоб и обратной связи для пользователей. В случае нарушения новых правил регулятор сможет требовать прекращения распространения соответствующих ИИ-сервисов. Важно отметить, что рынок ИИ-компаньонов в Азии является ключевым драйвером роста отрасли, поэтому новые правила могут существенно повлиять на его развитие.
Эти новые правила свидетельствуют о растущем внимании китайского правительства к этическим аспектам использования искусственного интеллекта, особенно в контексте защиты уязвимых групп населения.
Учитывая, что рынок ИИ продолжает развиваться, такая регуляция может установить прецедент для других стран, которые также могут стремиться найти баланс между инновациями и безопасностью пользователей. Внедрение подобных норм может побудить другие государства к разработке своих собственных регуляторных механизмов в сфере искусственного интеллекта.