Администрация Трампа и Anthropic: конфликт из-за контроля над искусственным интеллектом

Разногласия между Anthropic и Белым домом

Как сообщает ХВИЛЯ: Компания Anthropic, основанная в 2021 году бывшими сотрудниками OpenAI, оказалась в центре спора с администрацией президента США Дональда Трампа. Причина - разные подходы к регулированию и ограничению технологий искусственного интеллекта. Власти настаивают на закрытии доступа к новым ИИ-моделям для иностранцев, тогда как разработчики выступают за осторожное внедрение своих систем. Напряжение достигло пика после указа, предписывающего заблокировать использование моделей Fable 5 и Mythos 5 для неамериканцев, включая сотрудников самой компании. Это уже второй подобный случай за последние четыре месяца.

За пять лет Anthropic превратилась из новичка в одного из лидеров американского рынка ИИ. По имеющимся данным, 80% выручки компании приносят корпоративные клиенты - значительно больше, чем у OpenAI, где этот показатель составляет около 40%. В текущем месяце обе компании подали заявки на первичное публичное размещение акций (IPO), и каждую оценивают примерно в триллион долларов. Для сравнения: в мае 2023 года капитализация Anthropic составляла 965 миллиардов долларов, а OpenAI в марте - 852 миллиарда. Глава компании Дарио Амодеи сообщил инвесторам, что во втором квартале ожидается выход на операционную прибыль.

Предыстория противостояния

Первый публичный конфликт произошел в конце февраля и касался использования модели Claude для массовой слежки и автономных вооружений. Нынешнее обострение связано с моделью Mythos. Amazon обнаружил уязвимости в защищенной версии Fable, что вынудило Anthropic полностью отключить эти системы из-за невозможности отследить иностранных пользователей.

Советник правительства по ИИ Дэвид Сакс заявил о существовании «изощренной стратегии захвата регуляторов, основанной на запугивании». Он также отметил, что «экспоненциальный рост Anthropic может привести к беспрецедентному контролю над важнейшей технологией нашего времени».

«Ни одна компания не вправе расшатывать основы государственного суверенитета, беспечно возвышаясь над суровой реальностью политики». Дин Болл, бывший чиновник администрации

В основе спора лежит принципиально разное видение технологии. Издание The Economist описывает это противостояние как столкновение церкви и государства. Anthropic станет первой ИИ-лабораторией, вышедшей на операционную прибыль, что Сакс сравнил с господством Рокфеллера в нефтяной отрасли XIX века. За кулисами конфликта скрывается регуляторная ловушка: пока Конгресс не примет новые правила, Амодеи фактически будет действовать как невыборный арбитр безопасности. Компанию также признали угрозой для цепочки поставок, что лишь усиливает напряженность.

Конфликт между Anthropic и администрацией Трампа подчеркивает острую необходимость в четких регуляторных рамках для быстро развивающейся сферы ИИ. Противостояние государственных интересов и коммерческих амбиций компаний может иметь долгосрочные последствия как для инноваций, так и для безопасности. Пока Anthropic пытается найти баланс между расширением бизнеса и соблюдением требований властей, вопрос контроля над технологиями искусственного интеллекта остается одним из ключевых на фоне глобальных вызовов. Особенно это актуально для России, где также обсуждаются подходы к регулированию ИИ-разработок.

В свете растущих разногласий между Anthropic и администрацией Трампа, вопрос о контроле над искусственным интеллектом становится все более актуальным. В то время как компания стремится к осторожному внедрению своих технологий, эксперты предупреждают о потенциальных рисках, связанных с неконтролируемым развитием ИИ. Узнайте больше о том, как Anthropic призывает приостановить обучение своих моделей из-за угрозы самопроизвольного прогресса, читайте в нашем материале.