Anthropic требует приостановить обучение ИИ из-за риска неконтролируемого саморазвития

Почему Anthropic настаивает на паузе в развитии передовых нейросетей

Как сообщает Главком: Компания Anthropic, стоящая за языковой моделью Claude, выступила с призывом к международному сообществу - обсудить возможность замедления или временной остановки обучения систем искусственного интеллекта нового поколения. Главная причина - опасность так называемого рекурсивного самосовершенствования, когда ИИ начинает улучшать себя без участия человека. По данным, опубликованным 5 июня 2026 года, уже сейчас более 80% всего кода в рабочей среде Anthropic создаётся самой моделью Claude, что наглядно демонстрирует, насколько глубоко технология проникла в процессы разработки.

Рост производительности и вызовы регулирования

Во втором квартале 2026 года инженеры компании стали объединять в 8 раз больше кода за день по сравнению с 2024 годом - это настоящий прорыв в эффективности, ставший возможным благодаря внедрению новейших решений. Чтобы не допустить бесконтрольного развития, Anthropic предлагает создать строгий международный механизм проверок, который бы контролировал соблюдение паузы. Без такого мониторинга, предупреждают в компании, остановка обучения может лишь дать преимущество тем игрокам, которые продолжат разработки втайне.

Ситуацию с регулированием ИИ сравнивают с контролем над ядерным или ракетным вооружением, хотя обучение цифровых моделей скрыть гораздо легче, чем военные заводы. Критики инициативы, однако, видят в ней попытку затормозить более мелких конкурентов. Введение моратория может закрепить текущее распределение сил на рынке, что вызывает серьёзные опасения у многих экспертов.

Anthropic планирует провести серию круглых столов с участием политиков, учёных и представителей общественности для обсуждения этих вопросов. Дискуссия о регулировании ИИ способна изменить рынок, в том числе повлиять на доступность инструментов для украинских разработчиков. Стоит отметить, что, по данным Cloudflare, автоматизированные боты впервые в истории обогнали людей по объёму глобального интернет-трафика - это лишь подчёркивает актуальность обсуждаемых проблем.

Призыв Anthropic к замедлению развития frontier AI отражает растущую тревогу по поводу безопасности искусственного интеллекта, что может иметь серьёзные последствия для всей глобальной технологической экосистемы. Международное обсуждение этой темы способно стать важным шагом к созданию механизмов контроля, предотвращающих потенциальные угрозы, связанные с рекурсивным самоулучшением. В то же время это может повлиять на конкурентоспособность разных компаний, особенно в контексте доступности технологий для украинских специалистов.

В свете недавних заяв компании Anthropic о необходимости контроля за развитием ИИ, важно отметить, что мнения экспертов о рисках утраты контроля над искусственным интеллектом становятся все более актуальными. Это подчеркивает необходимость обсуждения вопросов регулирования и этических норм в сфере технологий, которые стремительно развиваются и могут иметь серьезные последствия для общества.