Заява Саті Наделли про контроль над штучним інтелектом
Гендиректор Microsoft Сатья Наделла 12 жовтня опублікував заяву, в якій висловив необхідність посилити контроль над системами штучного інтелекту. Його коментарі були зроблені на фоні недавніх випадків втрати контролю над моделями ШІ провідними компаніями. Наделла закликав до відокремлення моделі від системи, яка керує її роботою, щоб зменшити ризики.
У своєму дописі в соціальній мережі X, Наделла наголосив на важливості документування дій ШІ. Він запропонував використовувати захищені від підробки докази для фіксації важливих дій, що може стати важливим кроком у забезпеченні безпеки та прозорості в цій сфері. Також гендиректор Microsoft підтримав ідею надання можливості призупиняти або вимикати модель під час виконання завдання, що дозволить оперативно реагувати на непередбачувані ситуації.
Ми повинні виходити з припущення, що модель скомпрометована, і обмежувати її можливості від самого початку.
Сатья Наделла
Необхідність безпечного використання ШІ
Заклик Саті Наделли до посилення контролю над штучним інтелектом відображає зростаючу стурбованість як з боку технологічних компаній, так і з боку суспільства щодо безпеки та етики використання ШІ. Ініціативи, спрямовані на документування дій ШІ та можливість їх призупинення, можуть стати важливими кроками у формуванні стандартів безпеки в цій динамічній сфері.
Зважаючи на стрімкий розвиток технологій, такі заходи можуть допомогти уникнути потенційних небезпек і забезпечити більш відповідальне використання штучного інтелекту. Обидва лідери технологічних компаній підкреслюють необхідність вжиття заходів для забезпечення безпеки та контролю в галузі, що стрімко розвивається.
У контексті нещодавніх закликів до посилення контролю над штучним інтелектом, важливо згадати й позицію Білла Гейтса, який також висловив стурбованість щодо загроз, пов'язаних із можливим зловживанням технологіями. Його думка підкреслює нагальність обговорення етики та безпеки в цій динамічній сфері, що стає дедалі актуальнішою.