Anthropic ужесточила правила для ИИ Claude: запрет на вмешательство в выборы, оружейные технологии и слежку

Обновлённые требования к использованию искусственного интеллекта Claude

Как сообщает НВ — Техно: Компания Anthropic пересмотрела и усилила регламенты применения своей модели искусственного интеллекта Claude, введя новые ограничения на её использование в ряде чувствительных областей. В частности, запрещено задействовать ИИ в манипуляциях с выборами, создании программ для оружия, организации слежки и длительном словесном преследовании. Об этих изменениях со ссылкой на TechCrunch стало известно общественности.

Этические нормы и новые ограничения

В обновлённых правилах закреплена возможность прерывания диалогов в случае агрессивного или оскорбительного поведения со стороны пользователей. Однако данное ограничение применяется исключительно к крайним проявлениям жестокости без разумных оснований. Помимо этого, Anthropic запретила использование Claude для проведения масштабных дезинформационных кампаний, включая создание фальшивых аккаунтов и вымышленных новостных ресурсов. Особенно подчёркнута неприемлемость действий, направленных на введение избирателей в заблуждение или срыв избирательных процессов, что отражено в политике компании под названием «Не подрывайте демократию».

Данные корректировки произошли на фоне сотрудничества Anthropic с известными специалистами по религиоведению, в рамках которого обсуждалась возможность наличия сознания или души у модели Claude. Это подчёркивает растущую ответственность компании в вопросах этичности и безопасности применения искусственного интеллекта.

Введение новых норм демонстрирует стремление Anthropic соответствовать возросшим общественным ожиданиям по части этичного использования ИИ. Запреты на применение технологии в целях вмешательства в выборы и распространения обмана подчёркивают необходимость осознанного и ответственного подхода к развитию современных цифровых инструментов. Кроме того, сотрудничество с учёными из религиоведческой области свидетельствует о расширении дискуссии вокруг природы сознания и этических аспектов ИИ, что становится всё более значимым в глобальном контексте.

В условиях ужесточения правил использования ИИ, компания Anthropic также поднимает важные вопросы о потенциальных угрозах, связанных с его развитием. В частности, недавние заявления компании акцентируют внимание на рисках, которые могут возникнуть с выходом на биржу и возможными последствиями для человечества. Эти аспекты становятся всё более актуальными в свете новых норм и стандартов.