Механізми моніторингу
28 вересня о 17:07 в програмі NBC News Meet the Press Білл Гейтс, співзасновник Microsoft, зробив важливу заяву щодо штучного інтелекту (ШІ). Він закликав до впровадження механізмів захисту та моніторингу ШІ, підкресливши загрозу використання цієї технології зловмисниками. Гейтс наголосив на необхідності посилення регулювання ШІ та участі державних органів у встановленні правил безпеки.
Потенційні загрози та необхідність заходів
У своїй заяві Гейтс охарактеризував безвідповідальним підхід, коли розробники не зобов’язані впроваджувати запобіжники та засоби контролю у ШІ. Він вважає, що додаткові правила не приведуть до різкого уповільнення розвитку технології. Гейтс також прокоментував пропозицію губернатора Каліфорнії Гевіна Ньюсома щодо створення "аварійного вимикача" для ШІ. Хоча Гейтс не виступає категорично проти цієї ідеї, він вважає її недостатньою для забезпечення безпеки.
Серед потенційних загроз, які можуть виникнути внаслідок використання ШІ, Гейтс назвав:
- біотероризм
- масштабне фінансове шахрайство
Він підтримує залучення правоохоронців і законодавців до визначення вимог до безпеки та моніторингу ШІ-компаній. Також варто зазначити, що компанія Anthropic залучила Accenture для стороннього оцінювання своїх нових ШІ-моделей.
"Найнебезпечніше, з чим ми зараз стикаємося, це люди зі злими намірами, які використовують ШІ." — Білл Гейтс
Заява Білла Гейтса відображає зростаючу стурбованість експертів щодо безпеки штучного інтелекту в умовах його швидкого розвитку. З огляду на зростаючий вплив ШІ на різні сфери життя, необхідність у системах контролю та регулюванні стає все більш актуальною. Важливо, щоб державні органи та компанії працювали разом для створення безпечних умов використання цієї технології, що дозволить зменшити ризики, які можуть виникнути внаслідок її зловживання.
У контексті зростаючої тривоги щодо безпеки штучного інтелекту, важливо звернути увагу на попередження, яке зробив дослідник OpenAI про ризики втрати контролю над потужними моделями ШІ. Це підкреслює необхідність активної співпраці між технологічними компаніями та державними органами для забезпечення належного моніторингу та регулювання цієї швидко розвиваючої галузі.