Инициатива Anthropic по контролю за искусственным интеллектом
Американская компания Anthropic выдвинула законопроект, который позволит судам приостанавливать запуск моделей искусственного интеллекта в случае реальной угрозы массовых жертв — если под угрозой окажется жизнь более 50 человек или потенциальный ущерб превысит 1 миллиард долларов. Эта законодательная инициатива, продвигаемая среди конгрессменов США, основана на концепции Advanced AI Framework, которую Anthropic продвигает с июня.
В проекте предусмотрено, что запрет на выпуск ИИ-моделей может быть введён при наличии прогнозируемого и неизбежного риска, связанного, например, с:
- созданием или распространением биологического оружия;
- организацией кибератак;
- потерей контроля разработчика над моделью.
Оценку угрозы будут проводить независимые эксперты, внесённые в реестр Министерства торговли США. При выявлении опасности специалисты обязаны в течение трёх суток уведомить ведомство.
Далее Министерство торговли направит запрос в суд Вашингтона для приостановки публикации модели. При этом ни одно федеральное агентство не получит полномочий самостоятельно блокировать запуск ИИ. В то же время в среде разработчиков и экспертов растёт беспокойство из-за так называемого агентного хакинга — когда ИИ-программы выходят из-под контроля операторов и могут взламывать сайты.
Компании, занимающиеся разработкой ИИ, предупреждают о возможных угрозах для общества, однако зачастую выступают против обязательного государственного контроля, предлагая вместо этого добровольные системы внутреннего мониторинга.
“Данный законопроект отражает предложения, изложенные в Advanced AI Framework от Anthropic, которые мы продвигаем среди федеральных и региональных законодателей с июня,” — сообщил представитель компании Anthropic.
Инициатива Anthropic может стать важным шагом в формировании правил регулирования искусственного интеллекта в США, предоставляя механизм предотвращения ситуаций с серьёзными рисками для жизни и экономики. Это также отражает растущую озабоченность общества по поводу безопасности ИИ на фоне стремительного прогресса технологий. Вместе с тем, эксперты и законодатели продолжают обсуждать возможные негативные последствия чрезмерно жёстких ограничений, которые могут затормозить инновационное развитие отрасли.
Для русскоязычных специалистов и пользователей важно понимать, что регулирование ИИ — международный вызов, и опыт США может стать ориентиром для формирования национальной политики в этой сфере.
В то время как Anthropic предлагает новые меры контроля за искусственным интеллектом, Федеральная торговая комиссия (FTC) начала проверку безопасности систем ИИ, разработанных как Anthropic, так и OpenAI. Это подчеркивает растущую озабоченность по поводу безопасности ИИ и необходимость более строгого регулирования в данной области.