Новина про штучний інтелект Mythos
25 червня о 10:30 було опубліковано новину про модель штучного інтелекту Mythos, розроблену компанією Anthropic, яка нібито змогла зламати системи АНБ США за кілька годин. Це викликало нову хвилю обговорень, особливо після слухань у Сенаті, що відбулися 11 червня, під час яких сенатор Марк Ворнер заявив, що Mythos проникла майже в усі засекречені системи АНБ. Інформацію про це він отримав від директора АНБ, генерала Джошуа Радда.
Ризики для кібербезпеки
Тестування Mythos було дозволено лише обмеженому колу організацій, до яких входить і АНБ США. Розвідувальні агентства США, Канади, Великої Британії, Австралії та Нової Зеландії у понеділок оприлюднили попередження про ризики для кібербезпеки, пов’язані зі штучним інтелектом. Вони наголосили на необхідності реагування на ці ризики на рівні всього суспільства.
Згідно з інформацією, наведеною у статті видання The New York Times, тестування Mythos проходило в жорстко контрольованому цифровому середовищі. Хоча Mythos справді знаходила потенційні проблеми в системах кіберзахисту, американські чиновники зазначили, що вона не використовувала їх для проникнення або зламу.
«Технології, які можуть виявляти вразливості, потребують ретельного контролю та регулювання, щоб уникнути можливих загроз.» - The Economist
Автор матеріалу в The Economist визнав, що його опис тестів міг створити хибне враження, наводячи слова сенатора Ворнера, але не додав важливих уточнень.
Важливість цієї новини полягає у підкресленні ризиків, пов'язаних із використанням штучного інтелекту в контексті кібербезпеки. Попередження розвідувальних агентств свідчить про те, що:
- Технології, які можуть виявляти вразливості, потребують ретельного контролю.
- Необхідно критично оцінювати інформацію, що надходить від офіційних осіб.
- Суспільство повинно бути обережним у оцінці можливостей нових технологій.
Цей інцидент підкреслює важливість контролю за технологіями, які можуть виявляти вразливості в системах безпеки. У зв'язку з цим, Anthropic надала обмежений доступ до своєї моделі ШІ для тестування на вразливості, що викликало нові дискусії про етичні аспекти використання штучного інтелекту в кібербезпеці. Розуміння цих аспектів стає критично важливим для забезпечення надійного захисту інформаційних систем.