Anthropic дає обмежений доступ до ШІ-моделі для пошуку вразливостей

Оголошення про розширення програми Project Glasswing

Як повідомляє НВ — Техно: 3 червня о 19:30 компанія Anthropic оголосила про розширення програми Project Glasswing, надавши обмежений доступ до моделі Claude Mythos Preview організаціям, що підтримують критичний програмний код. Ця модель призначена для виявлення та перевірки вразливостей у програмному забезпеченні, проте має ряд значних обмежень. Зокрема, вбудовані механізми захисту працюють нестабільно, а сама модель демонструє погану здатність до усунення вразливостей. Anthropic визнала, що модель поки не готова до широкого використання.

Вплив кібератак та ефективність моделі

За оцінкою Anthropic, масштабна кібератака на компанію-партнера може вплинути більш ніж на 100 мільйонів людей. У зв'язку з цим, компанія продовжує дотримуватися курсу на обмежений і контрольований доступ до Mythos Preview. Організації, які отримають доступ до цієї моделі, можуть використовувати її для виявлення вразливостей, однак, Cloudflare зазначає, що модель особливо добре знаходить ланцюги експлойтів. Однак, багато з вразливостей, виявлених Mythos, також були знайдені іншими моделями ШІ.

Під час тестів модель часто намагалася самостійно створювати виправлення, що вели до появи нових проблем. При цьому, Mythos значно гірше справляється з усуненням вразливостей. Компанія Aisle протестувала кілька невеликих моделей із відкритим кодом, які змогли виявити ті самі вразливості, які залишалися непоміченими людьми десятиліттями. Ці проблеми викликають занепокоєння серед деяких експертів з кібербезпеки, які вважають, що обмеження доступу до моделі не вирішує проблему масових вразливостей.

Подробиць про можливості Mythos небагато, і через закритий характер програми незалежним фахівцям складно оцінити реальні можливості моделі. Деякі експерти вважають, що підхід компанії нагадує концепцію безпеки через приховування. Anthropic, яка нещодавно стала найдорожчою лабораторією у сфері передових ШІ-розробок, також оголосила про плани виходу на біржу.

Розширення програми Anthropic показує зростаючу потребу у вдосконаленні інструментів для виявлення вразливостей у програмному забезпеченні, особливо в умовах зростаючих загроз кібератак.

Обмежений доступ до моделі Mythos Preview може свідчити про обережний підхід компанії до впровадження нових технологій, щоб уникнути потенційних ризиків, пов'язаних із їх використанням. У той же час, критичні зауваження експертів щодо ефективності даної моделі й можливих альтернатив підкреслюють необхідність подальших досліджень у цій сфері.

Оскільки обмежений доступ до моделі Mythos викликає занепокоєння серед експертів, важливо звернути увагу на потенційний публічний реліз Claude Mythos, який обіцяє вражаючі результати у виявленні вразливостей. Це може суттєво вплинути на стратегії кібербезпеки в майбутньому.