Белый дом заставляет Anthropic закрыть две модели ИИ из-за рисков безопасности

Модели Fable 5 и Mythos 5 отключены

Как сообщает НВ — Техно: 15 июня 2023 года Anthropic отключила свои модели Fable 5 и Mythos 5 по запросу Белого дома. Этот шаг стал реакцией на опасения в области национальной безопасности и нарушения экспортныхRestrictions США, которые запрещают гражданам не из США доступ к этим системам. Закрытие модели произошло после недовольства администрации Трампа тем, как Anthropic отреагировала на жалобы по безопасности.

Anthropic, сооснователем которого является Дарио Амодеи, пыталасьNegotiировать соглашение с Белым домом еще в воскресенье, но эти усилия провалились. Власти США затем ввели экспортные ограничения, запрещающие доступ к передовым моделям, включая Fable 5 и Mythos 5, для всех, кроме граждан США. Обе модели принадлежат к классу Mythos, который позиционировался как более безопасные версии базовой технологии.

Растущие опасения по безопасности

Платные пользователи Claude получили доступ к Fable 5 и Mythos 5 во вторник, но к вечеру пятницы модели были отключены. Закрытие могло быть вызвано сообщениями о потенциальных обходах безопасности. В ночь на четверг и утром в пятницу Amazon - вместе с пятью другими компаниями - предупредила Белый дом о возможных способах обхода защит этих моделей.

Это вызвало тревогу в Белом доме, поскольку разведка предполагала, что группа, связанная с Китаем, могла получить доступ к модели класса Mythos.

Хотя Anthropic официально не предоставляет доступ к моделям пользователям в Китае, сотрудники Белого дома сообщили компании в пятницу днем, что продолжение работы Fable 5 и Mythos 5 представляет угрозу национальной безопасности. Anthropic была отведена 90 минут на отключение моделей, после чего был отправлен официальный указ, ссылающийся на экспортныеRestrictions. Этот инцидент подчеркивает критическую необходимость соблюдать экспортные нормы и поддерживать безопасность в современном технологическом ландшафте.

Этот случай выделяет растущие опасения правительства США по поводу безопасности ИИ, особенно на фоне глобальной конкуренции и рисков, связанных с доступом к передовым технологиям. Закрытие моделей Anthropic может установить прецедент для других компаний ИИ и подчеркивает важность соблюдения регуляторных требований для предотвращения потенциальных угроз национальной безопасности.

Поскольку опасения по поводу безопасности ИИ продолжают расти, недавние действия, предпринятые Белым домом, подчеркивают продолжающиеся трудности, с которыми сталкиваются такие компании, как Anthropic. Для более глубокого понимания последствий строгихRestrictions на модели ИИ вы можете прочитать больше о резкой реакции на новую модель Anthropic здесь.