Программа Project Glasswing: новый этап
Вечером 3 июня в 19:30 компания Anthropic сообщила о расширении инициативы Project Glasswing. В рамках обновления ограниченный доступ к модели Claude Mythos Preview получат организации, занимающиеся поддержкой критически важного программного кода. Разработка нацелена на поиск и верификацию уязвимостей в софте, но у нее есть серьезные недостатки. Встроенные механизмы защиты работают нестабильно, а способность самой модели исправлять найденные проблемы оставляет желать лучшего. В Anthropic признали, что инструмент пока не готов к массовому внедрению.
Масштаб угроз и реальная эффективность
По оценкам Anthropic, кибератака на компанию-партнера способна затронуть свыше 100 миллионов человек. Именно поэтому доступ к Mythos Preview остается строго ограниченным и контролируемым. Организации, получившие допуск, могут применять модель для выявления уязвимостей. При этом, как отмечает Cloudflare, модель особенно сильна в обнаружении цепочек эксплойтов. Однако многие из найденных Mythos уязвимостей уже были выявлены другими ИИ-системами.
В ходе испытаний модель нередко пыталась самостоятельно генерировать исправления, что приводило к появлению новых проблем. Mythos значительно хуже справляется с задачей устранения уязвимостей. Компания Aisle протестировала несколько небольших моделей с открытым исходным кодом: они смогли обнаружить те же самые баги, которые десятилетиями оставались незамеченными людьми. Подобные результаты вызывают беспокойство у специалистов по кибербезопасности. Многие из них считают, что ограничение доступа к модели не решает проблему тотальной уязвимости софта.
Подробностей о возможностях Mythos известно немного. Из-за закрытого характера программы независимым экспертам сложно оценить реальный потенциал модели. Некоторые аналитики полагают, что подход компании напоминает концепцию «безопасности через сокрытие». Напомним, Anthropic недавно стала самой дорогой лабораторией в сфере передовых ИИ-разработок и уже объявила о планах выхода на биржу.
Расширение программы Anthropic подчеркивает растущую потребность в совершенствовании инструментов для поиска уязвимостей в ПО, особенно на фоне увеличения числа кибератак.
Ограниченный доступ к Mythos Preview может говорить об осторожной стратегии компании при внедрении новых технологий — чтобы минимизировать потенциальные риски. В то же время критика со стороны экспертов относительно эффективности модели и существования альтернатив указывает на необходимость дальнейших исследований в этой области.
В то время как Anthropic ограничивает доступ к своему инструменту для поиска уязвимостей, важно отметить, что выход Claude Mythos уже продемонстрировал рекордные способности в эксплуатации уязвимостей. Это подчеркивает важность использования таких технологий для повышения безопасности программного обеспечения, несмотря на существующие ограничения и вызовы.