Кодекс поведінки для штучного інтелекту від Microsoft
Microsoft оприлюднила кодекс поведінки для штучного інтелекту, який визначає основні цінності, червоні лінії та абсолютні обмеження для контролю ШІ. Цей документ забороняє ряд небезпечних практик, серед яких:
- кібератаки
- створення дипфейків
- використання ядерної зброї
Кодекс також акцентує на недопустимості втрати людського контролю над моделями, забороняючи використання адаптивних, оманливих та самопідсилювальних механізмів, а також змови та інші засоби обходу нагляду.
Публікація кодексу відбулася 15 вересня о 07:34. Вона стала відповіддю на зростаючу увагу до безпеки ШІ у світлі недавніх інцидентів, пов'язаних із некерованими агентами, а також відставки співробітника компанії Anthropic. Microsoft, разом з Anthropic, OpenAI та xAI, підтримала ідею стримування темпу розвитку штучного інтелекту. Генеральний директор Microsoft Сатья Наделла підкреслив важливість виваженого темпу розвитку для досягнення узгодження проєктної мети, заявивши:
"Схвалюю виважений темп заради узгодження проєктної мети". Сатья Наделла
Принципи кодексу та їх значення
Кодекс починається з прогнозу, що в наступне десятиліття надрозумні системи можуть перевершити людину у більшості завдань. Серед принципів, закладених у кодекс, є підтримка людей замість їх заміщення та пришвидшення людського розквіту. Microsoft зазначила, що "стримування, контроль і узгодження такої потужної сили — один із найбільших викликів, з якими будь-коли стикалося людство".
Таким чином, новий кодекс поведінки від Microsoft має на меті забезпечити безпечний розвиток технологій штучного інтелекту.
Цей кодекс поведінки може суттєво вплинути на подальшу розробку та впровадження технологій штучного інтелекту, оскільки він встановлює етичні рамки для компаній, які займаються цими технологіями. У світлі зростаючої стурбованості щодо безпеки ШІ та потенційних ризиків, пов'язаних із його використанням, ініціатива Microsoft може стати важливою основою для формування глобальних стандартів у цій сфері.
У той час як Microsoft встановлює нові етичні стандарти для штучного інтелекту, глобальна безпека технологій продовжує викликати занепокоєння. Не так давно, США звинуватили китайські компанії у крадіжці даних, що підкреслює важливість регулювання та контролю у цій сфері. Ці інциденти демонструють, як критично важливо дотримуватися принципів безпеки та етики в розробці ШІ.