ИИ Mythos якобы проник в секретные сети АНБ за считанные часы

Инцидент с искусственным интеллектом Mythos

Как сообщает НВ — Техно: 25 июня, 10:30

Недавняя ситуация, связанная с ИИ Mythos от компании Anthropic, породила вопросы о его способности взламывать системы АНБ США. Данная модель, представленная в апреле, тестировалась в строго контролируемых условиях, и доступ к ней имел ограниченный круг организаций, включая АНБ. 11 июня сенатор Марк Уорнер сообщил, что Mythos сумела за несколько часов найти уязвимости в засекреченных системах АНБ. Эту информацию он получил от директора агентства, генерала Джошуа Радда.

Оценка ситуации

Впоследствии выяснилось, что масштаб происшествия, вероятно, был преувеличен. Как пишет The New York Times, тестирование проходило в изолированной цифровой среде. Хотя Mythos и выявляла потенциальные бреши в защите, она не предпринимала реальных попыток проникновения или взлома. Автор статьи в The Economist признал, что его описание экспериментов могло создать ложное впечатление о возможностях ИИ.

Разведывательные службы США, Канады, Великобритании, Австралии и Новой Зеландии в понедельник предупредили об угрозах, которые ИИ несет для кибербезопасности. Они подчеркнули, что 'риски в этой сфере требуют коллективного ответа на уровне всего общества'. Инцидент с Mythos стал важным напоминанием о том, что к новым технологиям и их потенциальным опасностям нужно относиться с осторожностью.

Этот случай подчеркивает необходимость жесткого контроля за технологиями ИИ, особенно когда речь идет о таких критических областях, как национальная безопасность. Понимание рисков, связанных с внедрением инноваций, - ключевое условие для их безопасного использования. С учетом растущей роли искусственного интеллекта крайне важно обеспечивать прозрачность и подотчетность в их применении.

В свете недавних событий, связанных с ИИ Mythos, становится актуальным обсуждение будущих угроз, которые могут возникнуть из-за новых технологий. Алгоритмы нового поколения для кибератак могут появиться уже в ближайшие месяцы, что подчеркивает необходимость более тщательного контроля и понимания рисков, связанных с внедрением искусственного интеллекта в критически важные сферы.