Генеральний директор Microsoft AI критикує підхід Anthropic до навчання ШІ і закликає до спільних норм контролю

Критика підходу Anthropic до навчання ШІ

Як повідомляє НВ — Техно: Генеральний директор Microsoft AI Мустафа Сулейман опублікував есей, в якому критикує підхід компанії Anthropic до навчання їхньої ШІ-моделі Claude. Він висловив занепокоєння щодо потенційної свідомості моделі та можливості контролю над нею. Сулейман закликав до введення спільних галузевих норм і моніторингу ШІ. Цей есей з'явився після публікації Microsoft проєкту Кодексу поведінки гуманістичного ШІ.

Занепокоєння щодо свідомості ШІ

У своєму есеї Сулейман зазначає, що Anthropic формує мислення та поведінку Claude через конституцію моделі, яка містить поняття "відмовник за переконаннями" і визнає моральний статус моделі "глибоко невизначеним". Генеральний директор Microsoft AI підкреслив, що наразі немає доказів свідомості ШІ, зазначивши:

“ШІ не мають свідомості. Вони не відчувають, не переживають і не страждають.” - Мустафа Сулейман

Також він висловив побоювання, що керувати системою, яка вважає себе свідомою, може бути неможливо.

У червні цього року Сулейман заявив про намір скоротити витрати Microsoft на моделі Anthropic, незважаючи на те, що Microsoft є інвестором цієї компанії. У рамках свого підходу, Microsoft AI також оприлюднила проєкт Кодексу поведінки гуманістичного ШІ, який відкидає дослідження добробуту моделей, як це робить Anthropic. За словами Сулеймана:

“Спекуляції щодо внутрішнього життя ШІ не слід закладати в режим навчання, їх треба оцінювати й публікувати окремо для публічного розгляду.” - Мустафа Сулейман

Заяви Мустафи Сулеймана підкреслюють зростаючу стурбованість у галузі штучного інтелекту щодо етичних аспектів і контролю над новими технологіями. В умовах, коли компанії активно розвивають AI-системи, такі дискусії про відповідальність і безпеку стають дедалі актуальнішими. Це може призвести до формування нових етичних стандартів та регуляцій, які вплинуть на подальший розвиток ШІ в усьому світі.

У світлі нещодавніх заяв Мустафи Сулеймана, важливо звернути увагу на інші думки експертів у галузі штучного інтелекту. Наприклад, дослідник OpenAI попередив про можливі ризики втрати контролю над потужними AI-системами, що підкреслює актуальність дискусій щодо безпеки та етики в розвитку технологій. Ці питання стають дедалі важливішими в умовах швидкого прогресу в цій сфері.