Гендиректор Anthropic предупреждает: «цифровая сверхдержава» ИИ несёт цивилизационные угрозы

Цивилизационные угрозы искусственного интеллекта: взгляд изнутри

Как сообщает ХВИЛЯ: В опубликованном 26 января 2026 года эссе глава компании Anthropic Дарио Амодеи детально разбирает глобальные риски, связанные с появлением сверхмощного искусственного интеллекта. Автор сравнивает такой ИИ с «цифровой сверхдержавой», способной кардинально изменить мир, но при этом несущей в себе серьёзные опасности для человечества. Подобные предупреждения от ведущих разработчиков ИИ становятся всё более актуальными на фоне гонки технологий между крупнейшими компаниями мира.

Классификация потенциальных угроз

Амодеи структурирует риски по пяти ключевым направлениям:

• неконтролируемая автономность систем ИИ,
• использование технологий для массовых разрушений,
• злоупотребления с целью захвата власти,
• масштабные экономические кризисы,
• косвенные негативные последствия.

По его оценкам, создание ИИ, чьи возможности превзойдут уровень нобелевского лауреата, а скорость работы будет в 10–100 раз выше человеческой, может стать реальностью уже в ближайшие год или два.

Основанная на принципах Constitutional AI, компания Anthropic с середины 2025 года применяет специальные классификаторы для блокировки запросов, связанных с созданием биологического оружия. Внедрение этих защитных мер увеличивает стоимость обработки запросов (инференса) для определённых моделей примерно на 5%. Руководство компании также поддержало законодательные инициативы о прозрачности в сфере ИИ - калифорнийский закон SB 53 и нью-йоркский RAISE Act. Амодеи обращает внимание на то, что распространение мощного ИИ способно привести к исчезновению до половины всех начальных позиций для «белых воротничков» в период от одного до пяти лет.

В тексте выражена тревога, что передовые системы ИИ многократно усилят возможности отдельных людей или небольших групп, позволяя им наносить ущерб невиданного ранее масштаба. По сути, «гений в кармане» у каждого человека резко снизит барьеры для доступа к специализированным знаниям, потенциально превращая любого в вирусолога уровня PhD. Это создаёт предпосылки для установления глобальной тоталитарной диктатуры, особенно в авторитарных государствах, которые получат в распоряжение технологии тотальной слежки.

«Демократия может исчезнуть, если экономические основы, которые её поддерживают, будут разрушены». - Дарио Амодеи

Автор призывает к активной разработке защитных механизмов против угроз, связанных с автономностью ИИ, его злонамеренным использованием и экономическими потрясениями. Он выражает надежду, что в будущем сам искусственный интеллект сможет помочь в прогнозировании и предотвращении этих проблем.

Данное эссе вносит значительный вклад в современные дебаты об этике и безопасности искусственного интеллекта, подчёркивая острую необходимость создания регуляторных рамок и механизмов контроля для стремительно развивающихся технологий. В условиях, когда темпы прогресса в этой области только ускоряются, предложенные Амодеи идеи могут лечь в основу политических решений, направленных на безопасное и ответственное внедрение ИИ в общественную жизнь.