ИИ Mythos от Anthropic якобы взломал системы АНБ за несколько часов

Сообщение о разработке Mythos

Как сообщает НВ — Техно: 25 июня в 10:30 появилась информация об алгоритме Mythos, созданном в Anthropic. Утверждается, что эта нейросеть смогла обойти защиту американского АНБ за короткий срок. Это спровоцировало новый виток дискуссий, особенно после сенатских слушаний 11 июня, где сенатор Марк Уорнер сообщил, что Mythos проникла почти во все закрытые сети АНБ. Эти сведения он получил от главы агентства - генерала Джошуа Радда.

Угрозы в сфере кибербезопасности

Доступ к испытаниям Mythos имел лишь узкий круг организаций, включая АНБ США. Разведслужбы США, Канады, Великобритании, Австралии и Новой Зеландии в понедельник выпустили предупреждение о киберугрозах, связанных с искусственным интеллектом. Они подчеркнули, что реагировать на эти риски необходимо на уровне всего общества.

По данным статьи в The New York Times, тестирование Mythos проводили в строго контролируемой цифровой среде. Хотя Mythos действительно находила потенциальные уязвимости в системах защиты, американские чиновники отметили: она не использовала их для вторжения или взлома.

«Технологии, выявляющие уязвимости, требуют пристального контроля и регулирования, чтобы предотвратить возможные угрозы.» - The Economist

Автор материала в The Economist признал, что его описание тестов могло ввести в заблуждение: он привёл слова сенатора Уорнера, но упустил важные уточнения.

Суть этой новости - в акценте на опасности, которые несёт применение ИИ в кибербезопасности. Предупреждения разведок показывают:

• Технологии, способные находить уязвимости, нуждаются в строгом надзоре.
• Стоит критически проверять информацию от официальных лиц.
• Обществу следует осторожно оценивать возможности новых технологий.

Для русскоязычной аудитории важно понимать: подобные инциденты поднимают вопросы о контроле над ИИ не только в США, но и в глобальном масштабе, включая страны СНГ. Аналогичные риски актуальны и для российских корпоративных и государственных систем.

В условиях растущих угроз со стороны ИИ, Anthropic предоставляет ограниченный доступ к своему ИИ для поиска уязвимостей, что подчеркивает необходимость строгого контроля над такими технологиями. Это открытие вызывает дополнительные вопросы о безопасности и регулировании ИИ, особенно в свете недавних инцидентов с Mythos.